یک پژوهشگر امنیت هوش مصنوعی درباره احتمال انتشار نوعی «کرم هوش مصنوعی» در جریان کاری Copilot برای Word هشدار داده است؛ حملهای که میتواند از یک سند آلوده برای انتقال دستورهای مخرب به اسناد دیگر استفاده کند.
مکانیزم انتشار حمله چگونه است؟
به گفته هاکون مالوی، مهاجم میتواند دستورهای پنهان را داخل یک سند قرار دهد. اگر این سند بهعنوان منبع در Copilot استفاده شود، مدل ممکن است دستورها را بخشی از درخواست کاربر تفسیر کند و آنها را به سند خروجی منتقل کند. در نتیجه، سند جدید نیز میتواند به حامل دستورهای مخرب تبدیل شود.
این حمله به دسترسی ویژه نیاز ندارد و در سناریوی مطرحشده، اشتراکگذاری یک سند مخرب با قربانی میتواند برای آغاز فرایند کافی باشد. دستورهای پنهان حتی میتوانند با قالببندیهایی مانند متن سفید روی پسزمینه سفید مخفی شوند؛ زیرا Copilot در زمان پردازش، برخی اطلاعات قالببندی متن را کنار میگذارد.
مالوی میگوید این آسیبپذیری را در ماه مارس به مایکروسافت اطلاع داده، اما در زمان انتشار گزارش همچنان امکان بازتولید حمله وجود داشته است. به گفته او، دو تلاش برای کاهش خطر، از جمله ارتقای مدل، نتوانستهاند این دسته از آسیبپذیری را بهطور کامل برطرف کنند.
این گزارش نشان میدهد استفاده از عاملهای هوش مصنوعی در فرایندهای مورداعتماد، بدون کنترل محتوای ورودی و بررسی خروجیها، میتواند ریسکهای تازهای ایجاد کند. کاربران ابزارهای هوش مصنوعی نیز میتوانند برای آشنایی با سرویسهای مشابه، به صفحه خرید اکانتهای هوش مصنوعی در فراسیب مراجعه کنند.
