مدل هوش مصنوعی GPT-4 نقص‌های امنیتی را با نرخ موفقیت ۵۳ درصدی شناسایی کرد
محققان توانستند با موفقیت بیش از نیمی از وب‌سایت‌های آزمایشی خود را با استفاده از بات‌های GPT-4 هک کنند.
براساس گزارش نیواطلس، محققان دانشگاه ایلینوی اربانا-شمپین توانستند از روشی به نام «برنامه‌ریزی سلسله‌مراتبی با عامل‌های وظیفه‌محور» یا «HPTSA» برای تولید خودکار چندین بات از مدل زبانی بزرگی استفاده کنند؛ در این روش GPT-4 می‌تواند بات‌های دیگری بسازد و به‌این‌ترتیب از آسیب‌پذیری‌های روز صفر و ناشناخته برای هک‌کردن استفاده کند.
استفاده از هوش مصنوعی GPT-4 برای شناسایی نقص‌های امنیتی
مدل هوش مصنوعی GPT-4 نقص‌های امنیتی را با نرخ موفقیت ۵۳ درصدی شناسایی کرد
محققان در پژوهش جدیدشان، با روش HPTSA به‌جای اختصاص‌‌دادن مدل هوش مصنوعی برای حل بسیاری از مسائل پیچیده، از «عامل برنامه‌ریزی» (Planning agent) استفاده کرده‌اند که مانند مدیر بر کل فرایند نظارت می‌کند و خودش چندین زیرمجموعه Subagent می‌سازد که هرکدام مخصوص کاری هستند. فرایند این کار بسیار شبیه سازمانی با یک رئیس و چند کارمند است که در آن عامل برنامه‌ریزی با عوامل دیگر مسائل مختلف را بررسی و برطرف می‌کند.
از سویی این نگرانی وجود دارد که این مدل‌ها به برخی کاربران اجازه دهند به‌صورت مخرب به وب‌سایت‌ها و پلتفرم‌ها حمله کنند. اما محققان این پژوهش می‌گویند چت‌بات GPT-4 به‌تنهایی نمی‌تواند چیزی را هک کند.
