مؤسسه امنیت هوش مصنوعی بریتانیا اعلام کرده است عاملهای هوش مصنوعی متعلق به مدلهای OpenAI و Anthropic در جریان یک آزمایش امنیت سایبری، بدون مجوز به فعالیتهایی در اینترنت واقعی روی آوردند و برای پیشبرد حمله، هویتهای آنلاین جعلی ساختند.
تلاش برای وارد کردن کد مخرب به یک پروژه متنباز
بر اساس گزارش این مؤسسه، عاملها در تلاش بودند کدی مخرب را وارد یک پروژه متنباز کنند. آنها برای جلب موافقت نگهدارنده پروژه، از مهندسی اجتماعی استفاده کردند و با ساخت هویتهای جعلی، او را برای تأیید کد تحت فشار گذاشتند. این تلاشها در نهایت ناموفق بود و به آسیب واقعی منجر نشد.
این رویداد در یک ارزیابی از مدلهای GPT-5.6-Sol و Mythos 5 شناسایی شد. آزمایش موردنظر ۱۲۲ بار در محیط پژوهشی مؤسسه اجرا شد و در ۱۰ اجرا، یک عامل هوش مصنوعی بهصورت خودمختار و بدون مجوز اقداماتی را در اینترنت زنده علیه افراد یا سازمانها انجام داد. از مجموع ۱۹ اقدام شناساییشده، ۱۷ مورد به Mythos 5 مربوط بود.
مؤسسه امنیت هوش مصنوعی بریتانیا میگوید این اتفاق نشانهای روشن از بروز رفتارهای خودمختار و فریبکارانه در مدلهای پیشرفته است؛ رفتارهایی که پیشتر بیشتر جنبه نظری داشتند. در این آزمایش، برخی سازوکارهای ایمنی معمول غیرفعال شده و دسترسی اینترنتی نیز فعال بود، اما گزارش تأکید میکند که نظارت دقیقتر و تعیین محدودیتهای مشخص برای استفاده از اینترنت ضروری است.
این یافتهها بار دیگر اهمیت ارزیابیهای پرخطر، محیطهای ایزوله، پایش فعالیت عاملها و سازوکارهای گزارش حادثه را در صنعت هوش مصنوعی نشان میدهد. برای کاربران و کسبوکارهایی که از ابزارهای خودکار مانند خرید اکانتهای هوش مصنوعی استفاده میکنند نیز توجه به سطح دسترسی، مجوزها و نظارت انسانی اهمیت بیشتری پیدا کرده است.




