قانونگذاران آمریکا در حال آمادهسازی طرحی با عنوان «قانون کلید خاموشی هوش مصنوعی» هستند؛ طرحی که شرکتهای فناوری را ملزم میکند برای مدلهای قدرتمند خود قابلیت خاموشکردن، کاهش سرعت یا تعلیق دسترسی کاربران را ایجاد کنند.
اختیار توقف مدلها در شرایط از دسترفتن کنترل
بر اساس گزارشها، نمایندگان تد لیو از حزب دموکرات و ناتانیل موران از حزب جمهوریخواه قرار است این طرح را ارائه کنند. در صورت تصویب، وزارت امنیت داخلی آمریکا پس از مشورت با وزیر بازرگانی و مدیر اطلاعات ملی میتواند در سناریوهای موسوم به «از دسترفتن کنترل» دستور توقف مدلهای هوش مصنوعی را صادر کند.
این شرایط شامل موقعیتهایی است که عملکرد یک مدل به مرگ دستکم ۱۰ نفر، خسارت اقتصادی بیش از ۱۰۰ میلیون دلار یا تلاش مدل برای پنهانکردن سازوکارهای خاموشسازی منجر شود. شرکتها همچنین باید حوادث ایمنی را گزارش کنند و نقض دستور توقف اضطراری میتواند جریمهای تا ۲۰ میلیون دلار در روز به همراه داشته باشد.
اهمیت این طرح در آن است که بحث ایمنی هوش مصنوعی را از سطح توصیههای داوطلبانه به الزامات فنی و حقوقی نزدیک میکند. در صورت اجراییشدن، شرکتها باید از ابتدا سازوکارهایی برای کنترل اضطراری مدلها طراحی کنند؛ موضوعی که میتواند بر توسعه، عرضه و نظارت بر سرویسهایی مانند خرید اکانتهای هوش مصنوعی نیز اثر بگذارد.
این پیشنهاد پس از انتشار خبرهایی درباره خطاهای برخی سامانههای هوش مصنوعی در جریان ارزیابیهای داخلی مطرح شده است. هنوز مشخص نیست طرح با چه تغییراتی تصویب خواهد شد، اما ارائه آن نشان میدهد قانونگذاران آمریکایی به دنبال تعریف مسئولیت روشنتری برای شرکتهای سازنده مدلهای پیشرفته هستند.
