گوگل قابلیت تولید تصویر با هوش مصنوعی در نسخه وب Google Earth را مدت کوتاهی پس از عرضه، بهدلیل نگرانی درباره سوءاستفاده و انتشار اطلاعات نادرست عقبنشینی کرد. این ابزار میتوانست با استفاده از تصاویر ماهوارهای، هوایی و سهبعدی، نماهایی باورپذیر اما ساختگی ایجاد کند.
تصاویر ساختگی با ظاهر واقعی
این ویژگی برای کاربردهایی مانند نمایش مکانهای تاریخی و پروژههای املاک معرفی شده بود، اما آزمایشهای منتشرشده نشان دادند که میتوان از آن برای ساخت تصاویر گمراهکننده درباره رویدادهای حساس استفاده کرد. نمونههایی از تصاویر دستکاریشده، موقعیتهایی مانند حضور پناهجویان نزدیک مرز مکزیک یا یک حفره انفجار در نزدیکی بیمارستانی در غزه را به شکل جعلی نمایش میدادند.
گوگل اعلام کرده بود تصاویر تولیدشده با این ابزار به واترمارک دیجیتال SynthID مجهز هستند و کاربران میتوانند از Gemini یا Lens برای بررسی احتمال تولید شدن تصویر با هوش مصنوعی کمک بگیرند. با این حال، گزارشها نشان میدهد که تشخیص یا دور زدن چنین نشانههایی همیشه ساده نیست و ابزارهای تشخیص هوش مصنوعی نیز ممکن است فریب بخورند.
این اتفاق اهمیت طراحی ایمن ابزارهای هوش مصنوعی مولد را برای پلتفرمهایی که با دادههای جغرافیایی و خبری سروکار دارند، برجسته میکند. کاربران باید تصاویر ماهوارهای یا محتوای بصری حساس را از چند منبع مستقل بررسی کنند و به یک تصویر یا برچسب خودکار اکتفا نکنند. برای آشنایی با ابزارهای هوش مصنوعی عمومی، میتوانید خرید اکانت Gemini گوگل را بررسی کنید.
