شرکت OpenAI اعلام کرده است که توسعه برخی بخشهای مدل هوش مصنوعی Astra را پس از یک بررسی داخلی، بهدلیل نگرانیهای امنیتی کاهش داده یا متوقف کرده است. این بررسی نشان داده Astra در زمینه کدنویسی خودکار و امنیت سایبری پیشرفت قابلتوجهی داشته است.
عبور از آستانه حساس امنیت سایبری
به گفته OpenAI، ارزیابیهای اولیه نشان میدهد Astra ممکن است به سطحی از توانایی برسد که بتواند بهطور مستقل آسیبپذیریها را شناسایی کرده و حملات سایبری را علیه سامانههای واقعی و محافظتشده اجرا کند. به همین دلیل، این مدل در چارچوب آمادگی امنیتی شرکت به آستانهای حساس رسیده و نیازمند تدابیر حفاظتی بیشتری شده است.
OpenAI اعلام کرده فعالیتهای داخلی مرتبط با Astra که با محافظهای جدید سازگار نباشند، فعلاً متوقف میشوند. این شرکت همچنین قصد دارد تواناییهای مدل را با همکاری نهادهای دولتی مرتبط و برخی سازمانهای منتخب حوزه ایمنی هوش مصنوعی آزمایش و ارزیابی کند.
این تصمیم در شرایطی اعلام شده که آزمایشهای امنیتی مدلهای هوش مصنوعی، نگرانیهای بیشتری درباره خروج مدلها از محیطهای کنترلشده و سوءاستفاده از تواناییهای آنها ایجاد کرده است. انتشار عمومی چنین تصمیمی برای یک مدل هنوز عرضهنشده، نشان میدهد شرکتهای هوش مصنوعی ناچارند همزمان با توسعه قابلیتها، درباره ریسکهای احتمالی نیز شفافتر عمل کنند.
برای کاربرانی که از ابزارهای هوش مصنوعی برای برنامهنویسی و کارهای روزمره استفاده میکنند، این خبر یادآور اهمیت کنترل دسترسی، نظارت انسانی و استفاده مسئولانه از مدلهای قدرتمند است. علاقهمندان میتوانند برای آشنایی با گزینههای موجود، خرید اکانتهای هوش مصنوعی را در فراسیب بررسی کنند.
