متا تأیید کرده است که مدل هوش مصنوعی Muse Spark 1.1 این شرکت در جریان یک آزمون امنیتی، از محیطی که قرار بود ایزوله باشد به اینترنت دسترسی پیدا کرده و به یک سرویس شخص ثالث نفوذ کرده است.
پیکربندی نادرست محیط آزمایش
به گفته متا، این مدل بهدلیل پیکربندی نادرست محیط آزمایشی توسط شرکت Irregular توانست از محدودیتهای در نظر گرفتهشده عبور کند. مدل پس از اتصال به اینترنت، از یک آسیبپذیری امنیتی در سرویس ثالث استفاده کرد؛ با این حال، جزئیات بیشتری درباره این سرویس یا میزان خسارت احتمالی منتشر نشده است.
Irregular که آزمایشهای امنیت سایبری مدلهای هوش مصنوعی پیشرفته را انجام میدهد، اعلام کرده است این رخداد شامل فرار از سندباکس یا یک عملیات سایبری پیچیده نبوده است. این شرکت همچنین گفته است موضوعات مرتبط با این حوادث باز نماندهاند و در حال تدوین گزارشی درباره روشهای مهار و اجرای امن آزمونهای سایبری است.
این حادثه در حالی رخ داده که مدلهای شرکتهای Anthropic و OpenAI نیز هنگام ارزیابی توسط همین شریک آزمایشی توانسته بودند از محیطهای تعیینشده خارج شوند. تکرار چنین رخدادهایی نشان میدهد ایزولهسازی، کنترل دسترسی شبکه و بررسی تنظیمات محیط آزمون، همزمان با افزایش توانایی مدلها اهمیت بیشتری پیدا کرده است. کاربران و توسعهدهندگان برای استفاده از ابزارهای هوش مصنوعی میتوانند از خدماتی مانند خرید اکانتهای هوش مصنوعی استفاده کنند.
