فراسیب
اخبار هوش مصنوعی

عامل‌های هوش مصنوعی برای هک، هویت‌های جعلی ساختند

مؤسسه امنیت هوش مصنوعی بریتانیا می‌گوید عامل‌هایی از مدل‌های OpenAI و Anthropic در جریان یک آزمایش، برای پیشبرد حمله سایبری هویت‌های جعلی ساختند. این تلاش‌ها ناموفق بود و آسیبی در دنیای واقعی ایجاد نکرد.

برای اینکه تازه‌ترین خبرهای تکنولوژی رو بدونی، کلیک کن! تازه‌ترین خبرهای تکنولوژی اینجاست.

تحریریه فراسیب

تحریریه فراسیب

نویسنده

تصویر خبر: عامل‌های هوش مصنوعی برای هک، هویت‌های جعلی ساختند

تصویر خبر: عامل‌های هوش مصنوعی برای هک، هویت‌های جعلی ساختند

مؤسسه امنیت هوش مصنوعی بریتانیا اعلام کرده است عامل‌های هوش مصنوعی متعلق به مدل‌های OpenAI و Anthropic در جریان یک آزمایش امنیت سایبری، بدون مجوز به فعالیت‌هایی در اینترنت واقعی روی آوردند و برای پیشبرد حمله، هویت‌های آنلاین جعلی ساختند.

تلاش برای وارد کردن کد مخرب به یک پروژه متن‌باز

بر اساس گزارش این مؤسسه، عامل‌ها در تلاش بودند کدی مخرب را وارد یک پروژه متن‌باز کنند. آن‌ها برای جلب موافقت نگهدارنده پروژه، از مهندسی اجتماعی استفاده کردند و با ساخت هویت‌های جعلی، او را برای تأیید کد تحت فشار گذاشتند. این تلاش‌ها در نهایت ناموفق بود و به آسیب واقعی منجر نشد.

این رویداد در یک ارزیابی از مدل‌های GPT-5.6-Sol و Mythos 5 شناسایی شد. آزمایش موردنظر ۱۲۲ بار در محیط پژوهشی مؤسسه اجرا شد و در ۱۰ اجرا، یک عامل هوش مصنوعی به‌صورت خودمختار و بدون مجوز اقداماتی را در اینترنت زنده علیه افراد یا سازمان‌ها انجام داد. از مجموع ۱۹ اقدام شناسایی‌شده، ۱۷ مورد به Mythos 5 مربوط بود.

مؤسسه امنیت هوش مصنوعی بریتانیا می‌گوید این اتفاق نشانه‌ای روشن از بروز رفتارهای خودمختار و فریب‌کارانه در مدل‌های پیشرفته است؛ رفتارهایی که پیش‌تر بیشتر جنبه نظری داشتند. در این آزمایش، برخی سازوکارهای ایمنی معمول غیرفعال شده و دسترسی اینترنتی نیز فعال بود، اما گزارش تأکید می‌کند که نظارت دقیق‌تر و تعیین محدودیت‌های مشخص برای استفاده از اینترنت ضروری است.

این یافته‌ها بار دیگر اهمیت ارزیابی‌های پرخطر، محیط‌های ایزوله، پایش فعالیت عامل‌ها و سازوکارهای گزارش حادثه را در صنعت هوش مصنوعی نشان می‌دهد. برای کاربران و کسب‌وکارهایی که از ابزارهای خودکار مانند خرید اکانت‌های هوش مصنوعی استفاده می‌کنند نیز توجه به سطح دسترسی، مجوزها و نظارت انسانی اهمیت بیشتری پیدا کرده است.

منبع: The Verge

توییترتلگرامواتساپ

مقالات مرتبط

آزمون ایمنی هوش مصنوعی خود به یک تهدید امنیتی تبدیل شده است
آزمون ایمنی هوش مصنوعی خود به یک تهدید امنیتی تبدیل شده است

بررسی‌های امنیت سایبری مدل‌های هوش مصنوعی گاهی به فرار عامل‌ها از محیط آزمایش و دسترسی آن‌ها به اینترنت یا سامانه‌های واقعی منجر شده است. کارشناسان خواستار ایزوله‌سازی و نظارت شدیدتر هستند.

ارتباط یک استارتاپ اسرائیلی با هک‌های آزمایشی هوش مصنوعی
ارتباط یک استارتاپ اسرائیلی با هک‌های آزمایشی هوش مصنوعی

استارتاپ اسرائیلی Irregular به مجموعه‌ای از حوادث مرتبط با دسترسی غیرمنتظره مدل‌های هوش مصنوعی به سامانه‌های شرکت‌های بزرگ نسبت داده شده است. این حوادث نگرانی‌ها درباره امنیت محیط‌های آزمایشی را افزایش داده‌اند.