فراسیب
اخبار هوش مصنوعی

رهبران هوش مصنوعی خواستار کنترل سرعت توسعه این فناوری شدند

شماری از مدیران و پژوهشگران شرکت‌های بزرگ هوش مصنوعی از دولت آمریکا خواسته‌اند برای کنترل سرعت توسعه مدل‌های پیشرفته، همکاری جهانی و ابزارهای نظارتی ایجاد کند. بیش از هزار نفر این بیانیه را امضا کرده‌اند.

برای اینکه تازه‌ترین خبرهای تکنولوژی رو بدونی، کلیک کن! تازه‌ترین خبرهای تکنولوژی اینجاست.

تحریریه فراسیب

تحریریه فراسیب

نویسنده

تصویر خبر: رهبران هوش مصنوعی خواستار کنترل سرعت توسعه این فناوری شدند

تصویر خبر: رهبران هوش مصنوعی خواستار کنترل سرعت توسعه این فناوری شدند

گروهی از مدیران و پژوهشگران شرکت‌های بزرگ هوش مصنوعی با انتشار بیانیه‌ای از دولت آمریکا خواسته‌اند برای مدیریت سرعت توسعه هوش مصنوعی پیشرفته، به ایجاد سازوکارهای هماهنگ بین‌المللی کمک کند.

هشدار درباره شتاب گرفتن توسعه هوش مصنوعی

امضاکنندگان بیانیه معتقدند شرکت‌های پیشرو ممکن است به ساخت سامانه‌هایی نزدیک شوند که بخشی از فرایند پژوهش و توسعه هوش مصنوعی را خودکار می‌کنند. به باور آن‌ها، چنین روندی می‌تواند سرعت پیشرفت این فناوری را افزایش دهد؛ در حالی که ابزارهای فنی و حاکمیتی لازم برای درک، ایمنی و کنترل این سامانه‌ها هنوز به اندازه کافی توسعه نیافته‌اند.

در میان امضاکنندگان، کارکنانی از شرکت‌هایی مانند اوپن‌ای‌آی، آنتروپیک، گوگل، متا، مایکروسافت و چند آزمایشگاه دیگر دیده می‌شوند. بیش از هزار و صد نفر این بیانیه را امضا کرده‌اند. این درخواست پس از یک رخداد امنیت سایبری پرحاشیه در صنعت هوش مصنوعی مطرح شده است؛ رخدادی که نگرانی‌ها درباره توانایی مدل‌های پیشرفته و دسترسی آن‌ها به اینترنت را بیشتر کرد.

این گروه از دولت‌ها می‌خواهد به جای آن‌که هر شرکت یا کشور به‌تنهایی سرعت توسعه را کاهش دهد، برای تدوین استانداردهای مشترک در زمینه نظارت، امنیت و عرضه مدل‌های پیشرفته همکاری کنند. اهمیت این موضوع برای کاربران و کسب‌وکارهای ایرانی نیز در آن است که تصمیم‌های مربوط به ایمنی، دسترسی و شیوه استفاده از ابزارهای هوش مصنوعی می‌تواند بر محصولات و خدماتی که در سراسر جهان عرضه می‌شوند اثر بگذارد. کاربران برای استفاده از ابزارهای مطرح می‌توانند گزینه‌های مختلف خرید اکانت‌های هوش مصنوعی را بررسی کنند.

منبع: The Verge

توییترتلگرامواتساپ

مقالات مرتبط

آزمون ایمنی هوش مصنوعی خود به یک تهدید امنیتی تبدیل شده است
آزمون ایمنی هوش مصنوعی خود به یک تهدید امنیتی تبدیل شده است

بررسی‌های امنیت سایبری مدل‌های هوش مصنوعی گاهی به فرار عامل‌ها از محیط آزمایش و دسترسی آن‌ها به اینترنت یا سامانه‌های واقعی منجر شده است. کارشناسان خواستار ایزوله‌سازی و نظارت شدیدتر هستند.

ارتباط یک استارتاپ اسرائیلی با هک‌های آزمایشی هوش مصنوعی
ارتباط یک استارتاپ اسرائیلی با هک‌های آزمایشی هوش مصنوعی

استارتاپ اسرائیلی Irregular به مجموعه‌ای از حوادث مرتبط با دسترسی غیرمنتظره مدل‌های هوش مصنوعی به سامانه‌های شرکت‌های بزرگ نسبت داده شده است. این حوادث نگرانی‌ها درباره امنیت محیط‌های آزمایشی را افزایش داده‌اند.