یک حادثه امنیتی مرتبط با OpenAI و پلتفرم هاجینگفیس، بحث درباره امکان خاموشکردن اضطراری سامانههای هوش مصنوعی را به کنگره آمریکا کشانده است. در پی این ماجرا، طرحی با عنوان «کلید خاموشی هوش مصنوعی» مطرح شده که هدف آن بررسی سازوکارهای واکنش سریع در برابر خطرهای احتمالی مدلهای هوش مصنوعی است.
طرح کلید خاموشی هوش مصنوعی چیست؟
بر اساس گزارش CNBC، این طرح به دنبال ایجاد چارچوبی برای متوقفکردن یا محدودکردن فعالیت برخی سامانههای هوش مصنوعی در شرایط اضطراری است. جزئیات کامل طرح و دامنه اختیاراتی که برای نهادهای دولتی یا شرکتها در نظر میگیرد، در گزارش منتشرشده بهطور کامل مشخص نشده است.
اهمیت این موضوع از آنجا ناشی میشود که مدلهای هوش مصنوعی به شکل گسترده در نرمافزارها، خدمات ابری و ابزارهای توسعهدهندگان به کار گرفته میشوند. هرگونه نفوذ، سوءاستفاده یا اختلال در زنجیره ابزارهای مرتبط با این مدلها میتواند بحث درباره مسئولیت شرکتها، امنیت زیرساختها و نحوه واکنش به بحران را جدیتر کند.
برای کاربران و توسعهدهندگان ایرانی نیز این ماجرا یادآور اهمیت استفاده ایمن از سرویسهای هوش مصنوعی و توجه به سیاستهای دسترسی، امنیت حساب و حفاظت از دادههاست. علاقهمندان میتوانند برای استفاده از ابزارهای هوش مصنوعی معتبر، گزینههای مختلف خرید اکانتهای هوش مصنوعی را بررسی کنند.
طرح موسوم به کلید خاموشی، بخشی از روند گستردهتر قانونگذاری هوش مصنوعی در آمریکاست؛ روندی که تلاش میکند میان توسعه سریع این فناوری و نیاز به کنترل ریسکهای امنیتی و اجتماعی تعادل ایجاد کند. با این حال، تصویب یا اجرای چنین سازوکاری میتواند پرسشهایی درباره تعریف شرایط اضطراری، حفظ نوآوری و احتمال استفاده بیش از حد از اختیارات نظارتی ایجاد کند.
