تد لیو، نماینده کنگره آمریکا، اعلام کرده است که لایحه موسوم به «کلید خاموشی هوش مصنوعی» باید در سال جاری میلادی به تصویب برسد. این اظهارنظر همزمان با نگرانیها درباره ادامه حملات و سوءاستفاده از عاملهای سرکش هوش مصنوعی مطرح شده است.
افزایش نگرانی درباره کنترل عاملهای هوش مصنوعی
عاملهای هوش مصنوعی میتوانند برای انجام مجموعهای از وظایف، از ابزارهای نرمافزاری و منابع آنلاین استفاده کنند. با افزایش خودکارسازی این سیستمها، قانونگذاران و کارشناسان امنیتی درباره امکان استفاده مخرب، از دست رفتن کنترل و دشواری متوقف کردن فعالیتهای آنها هشدار میدهند.
لایحه مورد اشاره لیو با هدف تقویت سازوکارهای کنترلی و فراهم کردن امکان توقف سامانههای هوش مصنوعی در شرایط خطرناک مطرح شده است. با این حال، جزئیات نهایی و دامنه اختیارات پیشبینیشده در این طرح باید در روند بررسی کنگره مشخص شود.
اهمیت این بحث برای صنعت فناوری در آن است که شرکتهای سازنده مدلها و عاملهای هوش مصنوعی باید در کنار توسعه قابلیتها، روی امنیت، نظارت انسانی و پاسخگویی نیز سرمایهگذاری کنند. تصویب قوانین سختگیرانهتر میتواند بر شیوه عرضه و استفاده از محصولات شرکتهایی مانند OpenAI، Anthropic و Meta اثر بگذارد، هرچند نتیجه نهایی به متن قانون و روند تصویب آن وابسته است.
کاربران ایرانی نیز با گسترش استفاده از ابزارهایی مانند خرید اکانتهای هوش مصنوعی بهتر است به سطح دسترسی، مجوزهای اتصال به ابزارها و امکان نظارت بر عملکرد عاملها توجه کنند. این موضوع نشان میدهد امنیت و کنترل، به بخش جداییناپذیر تجربه استفاده از خدمات هوش مصنوعی تبدیل شده است.
