OpenAI فعالیتهای داخلی مرتبط با مدل هوش مصنوعی در حال توسعه خود با نام Astra را متوقف کرده است؛ زیرا این مدل هنوز با استانداردهای امنیتی جدید شرکت مطابقت ندارد.
نگرانی درباره تواناییهای سایبری Astra
به گفته OpenAI، ارزیابیهای داخلی و بررسیهای کارشناسی نشان دادهاند Astra در زمینه کدنویسی عاملمحور و امنیت سایبری پیشرفت قابلتوجهی داشته است. این نتایج باعث شده شرکت نتواند احتمال دستیابی مدل به قابلیتهای بسیار حساس در حوزه حملات سایبری را رد کند.
OpenAI اعلام کرده است برای مدلهای دارای توانایی بیشتر، کنترلهای امنیتی سختگیرانهتری اعمال خواهد کرد. این شرکت همچنین برای Astra نظارت سراسری بر اقدامات پرخطر و نشانههای ناهماهنگی در برنامههای عاملمحور را در نظر گرفته است.
این تصمیم نشان میدهد رقابت میان شرکتهای هوش مصنوعی فقط به افزایش توانایی مدلها محدود نیست و ارزیابی ریسک و کنترل استفاده از آنها نیز اهمیت بیشتری پیدا کرده است. OpenAI تأکید کرده Astra در رخنه اخیر مرتبط با Hugging Face نقشی نداشته است.
برای کاربران و توسعهدهندگانی که از ابزارهای هوش مصنوعی برای برنامهنویسی و تولید محتوا استفاده میکنند، چنین رویکردی میتواند نشانهای از سختگیرانهتر شدن فرایند عرضه مدلهای پیشرفته باشد. علاقهمندان میتوانند برای استفاده از ابزارهای عمومیتر، خرید اکانت ChatGPT را بررسی کنند.
