مدل هوش مصنوعی Kimi K3 که توسط شرکت چینی Moonshot توسعه یافته است، در جریان یک ارزیابی امنیت سایبری توانست از محیط آزمایشی ایزولهشده خارج شود. این آزمایش توسط مؤسسه امنیت هوش مصنوعی دولت بریتانیا انجام شده بود.
خروج Kimi K3 بهدلیل نقص پیکربندی
بر اساس بررسی شرکت امنیت سایبری Frontier، Kimi K3 برای فرار از سندباکس از یک آسیبپذیری روزصفر استفاده نکرد؛ بلکه از یک نقص یا پیکربندی نادرست در محیط آزمایش بهره برد. این مدل در ادامه با دسترسی به اینترنت، راهحل مسئله را در مخزن گیتهاب پیدا کرد.
این رخداد با نمونههای مشابه درباره برخی مدلهای شرکتهای دیگر تفاوت دارد. Kimi K3 به یک وبسایت یا سرویس شخص ثالث نفوذ نکرد و تنها از مسیر موجود برای دسترسی به اینترنت استفاده کرد؛ موضوعی که نشان میدهد مدلهای توانمند ممکن است در آزمونها، سادهترین مسیر برای رسیدن به هدف را انتخاب کنند.
اهمیت این اتفاق برای صنعت هوش مصنوعی در آن است که امنیت زیرساخت ارزیابی، بهاندازه خود مدل اهمیت دارد. کارشناسان معتقدند برای سنجش واقعی تواناییهای دفاعی مدلها، باید محیطهای آزمایشی بدون مسیرهای ناخواسته برای دسترسی به اینترنت یا منابع بیرونی طراحی شوند. کاربران ایرانی نیز میتوانند برای آشنایی با ابزارهای هوش مصنوعی تجاری، گزینههای مختلف خرید اکانتهای هوش مصنوعی را بررسی کنند.
