مدیرعامل Anthropic: مخالف مدل‌های باز نیستیم، نگران چین هستیم

داریو آمودی، مدیرعامل Anthropic، اعلام کرده است که این شرکت مخالف ممنوعیت مدل‌های هوش مصنوعی با وزن باز نیست و تاکنون نیز چنین ممنوعیتی را پیشنهاد نکرده است. این اظهارنظر در ادامه بحث‌های اخیر درباره محدودیت مدل‌های چینی و نقش آن‌ها در رقابت جهانی هوش مصنوعی مطرح شد.

نگرانی اصلی آمودی درباره چیست؟

آمودی مدل‌های دارای وزن باز را، در صورتی که قابلیت‌های خطرناک نداشته باشند، برای کسب‌وکارها، توسعه‌دهندگان و پژوهشگران مفید می‌داند. با این حال، او هشدار داده است که مدل‌های بسیار قدرتمند می‌توانند توسط دولت‌های اقتدارگرا برای دستیابی به برتری نظامی یا سرکوب شهروندان به کار گرفته شوند.

به گفته او، خطرات احتمالی فقط به حملات سایبری محدود نمی‌شود و امکان استفاده از هوش مصنوعی در حملات زیستی نیز وجود دارد. آمودی معتقد است مدل‌های باز در چنین شرایطی دشوارتر قابل نظارت هستند و پس از انتشار، نمی‌توان آن‌ها را به‌سادگی از دسترس خارج کرد.

این موضع پس از انتشار نامه‌ای از سوی گروهی از شرکت‌های صنعت هوش مصنوعی مطرح شد که در آن، نسبت به اعمال محدودیت‌های گسترده و زودهنگام بر مدل‌های دارای وزن باز هشدار داده شده بود. آمودی به‌جای ممنوعیت کلی، محدود کردن دسترسی چین به تراشه‌های پیشرفته و مقابله رسمی با روش تقطیر مدل‌ها را پیشنهاد کرده است؛ روشی که در آن یک مدل با دریافت ورودی‌های متعدد، از رفتار مدل دیگر یاد می‌گیرد.

مدیرعامل Anthropic همچنین از ایجاد یک سازوکار جهانی برای آزمون ایمنی پیشرفته‌ترین مدل‌های هوش مصنوعی حمایت کرده است؛ سازوکاری که به باور او باید مدل‌ها را فارغ از کشور سازنده یا باز و بسته بودن وزن‌ها ارزیابی کند. این بحث برای کاربران و توسعه‌دهندگان ایرانی نیز اهمیت دارد، زیرا مسیر سیاست‌گذاری جهانی می‌تواند بر دسترسی به مدل‌هایی مانند خرید اکانت کلاد پرو و دیگر ابزارهای هوش مصنوعی اثر بگذارد.