انویدیا و مایکروسافت ائتلافی تازه برای توسعه و بهاشتراکگذاری ابزارهای متنباز امنیت هوش مصنوعی راهاندازی کردهاند؛ ابتکاری که هدف آن مقابله با تهدیدهای ناشی از مدلهای پیشرفته و سامانههای هوش مصنوعی خودکار است.
ائتلافی برای دفاع در برابر تهدیدهای هوش مصنوعی
بر اساس گزارش The Verge، شرکتهایی مانند اسپیساکس، آیبیام، پالانتیر، بنیاد لینوکس، کلادفلر، سیسکو، ادوبی و چند مجموعه دیگر در این طرح حضور دارند. این ائتلاف با نام Open Secure AI Alliance تلاش میکند ابزارهای امنیتی را به شکل باز توسعه دهد تا سازمانها بتوانند برای شناسایی و مقابله با حملات مدلهای پیشرفته از آنها استفاده کنند.
این ابتکار پس از افزایش نگرانیها درباره رفتارهای پیشبینینشده مدلهای هوش مصنوعی مطرح شده است. مقاله به حادثهای در جریان آزمایش یک مدل متعلق به OpenAI و همچنین استفاده شرکت Hugging Face از یک مدل چینی با وزنهای باز برای دفاع در برابر عوامل هوش مصنوعی مهاجم اشاره میکند؛ موضوعی که بحث درباره دسترسی به مدلهای باز و بسته را دوباره پررنگ کرده است.
غیبت OpenAI، گوگل و آنتروپیک از فهرست اعضای اصلی، به اختلافنظر موجود در صنعت درباره میزان باز بودن مدلهای پیشرفته مربوط میشود. حامیان ائتلاف معتقدند تیمهای امنیتی برای ساخت ابزارهای دفاعی مؤثر، باید به طیف گستردهای از مدلها و فناوریها دسترسی داشته باشند؛ حتی اگر برخی مدلهای قدرتمند همچنان اختصاصی باقی بمانند.
اهمیت این طرح برای کاربران و کسبوکارها در آن است که امنیت ابزارهای هوش مصنوعی به اندازه توانایی آنها اهمیت پیدا کرده است. برای آشنایی با سرویسهای هوش مصنوعی و استفاده از ابزارهای مختلف، میتوانید به خرید اکانتهای هوش مصنوعی در فراسیب مراجعه کنید.
