دو نماینده کنگره آمریکا طرحی با عنوان «قانون کلید خاموشی هوش مصنوعی» معرفی کردهاند که در صورت تصویب، به دولت این کشور اجازه میدهد سامانههای هوش مصنوعی دارای خطر فاجعهبار را محدود یا بهطور کامل متوقف کند.
اختیار وزارت امنیت داخلی برای توقف سامانههای خطرناک
بر اساس این طرح، وزیر وزارت امنیت داخلی آمریکا با مشورت وزارت بازرگانی و مدیر اطلاعات ملی میتواند از شرکتهای هوش مصنوعی بخواهد دسترسی کاربران را مسدود کنند، قابلیت خاصی را غیرفعال یا محدود کنند و در موارد شدید، کل سامانه را خاموش کنند. توسعهدهندگان نیز باید از ابتدا قابلیتهای فنی لازم برای کاهش سرعت، محدودسازی یا توقف سیستمهای خود را ایجاد کنند.
این قانون پیشنهادی اصلاحاتی را در قانون امنیت داخلی سال ۲۰۰۲ دنبال میکند. شرکتهایی که از اجرای دستور توقف سرپیچی کنند، ممکن است با جریمهای تا سقف ۲۰ میلیون دلار برای هر روز تخلف روبهرو شوند. دامنه طرح، شرکتهایی با دستکم ۵۰۰ میلیون دلار درآمد سالانه از فناوری هوش مصنوعی و سامانههایی با حداقل ۱۰۰ میلیون دلار هزینه محاسباتی را هدف میگیرد.
در متن طرح، سناریوهایی مانند دنبالکردن هدفی متفاوت از خواسته توسعهدهنده، مقاومت در برابر دستور خاموششدن یا پنهانکردن قابلیتها از سازوکارهای نظارتی بهعنوان نمونههای خطر ذکر شده است. همچنین، رخدادهایی که به مرگ دستکم ۱۰ نفر یا خسارت اقتصادی حداقل ۱۰۰ میلیون دلار منجر شوند، در محدوده این قانون قرار میگیرند؛ هرچند آزمایشهای کنترلشده تیمهای امنیتی از برخی مفاد آن مستثنی هستند.
اهمیت این طرح در تلاش برای تبدیل قابلیت خاموشسازی به یک الزام قانونی است؛ موضوعی که میتواند هزینههای فنی و نظارتی شرکتهای بزرگ هوش مصنوعی را افزایش دهد و همزمان نگرانیهایی درباره تمرکز قدرت در دولت و احتمال استفاده سیاسی از این اختیار ایجاد کند. کاربران و کسبوکارهایی که از ابزارهای مولد استفاده میکنند نیز میتوانند برای آشنایی با سرویسهای مختلف، گزینههای خرید اکانتهای هوش مصنوعی را بررسی کنند.
