ابزارهای تشخیص متن هوش مصنوعی در حالی در مدارس، دانشگاهها و برخی پلتفرمهای انتشار محتوا گسترش پیدا کردهاند که درباره دقت و بیطرفی آنها تردیدهای جدی وجود دارد. این وضعیت باعث شده خوانندگان و نویسندگان بیش از گذشته درباره انسانی یا ماشینی بودن متنها دچار سوءظن شوند.
تشخیص هوش مصنوعی چگونه انجام میشود؟
برخلاف ابزارهای ضدسرقت ادبی که متن را با منابع موجود مقایسه میکنند، آشکارسازهای هوش مصنوعی معمولاً با بررسی الگوهای واژگان، ریتم جملهها، ساختار متن و میزان قابلپیشبینی بودن زبان، احتمال تولید ماشینی را تخمین میزنند. این ارزیابیها قطعی نیستند و سبک نوشتاری افراد میتواند بهاشتباه بهعنوان نشانه استفاده از هوش مصنوعی تفسیر شود.
در گزارش The Verge به نمونههایی از اتهامهای نادرست علیه دانشجویان و نویسندگان اشاره شده است. برخی دانشگاهها نیز بهدلیل نگرانی درباره خطا و سوگیری این سامانهها، استفاده از آنها را محدود یا متوقف کردهاند. مطالعات و هشدارهای آموزشی نشان میدهد نویسندگان غیرانگلیسیزبان و برخی گروههای دیگر ممکن است بیشتر در معرض برچسبگذاری اشتباه قرار بگیرند.
اهمیت این موضوع برای صنعت هوش مصنوعی فقط به محیط آموزشی محدود نیست. وقتی نتیجه یک ابزار احتمالی بهعنوان مدرک قطعی پذیرفته شود، اعتماد میان نویسنده، مدرس، ناشر و خواننده آسیب میبیند. به همین دلیل، بسیاری از کارشناسان توصیه میکنند آشکارسازهای هوش مصنوعی بهتنهایی مبنای تصمیمهای تنبیهی یا شغلی قرار نگیرند و روند تولید محتوا نیز در کنار نتیجه ابزار بررسی شود.
با فراگیرتر شدن استفاده از سرویسهایی مانند ChatGPT و دیگر ابزارهای مولد، حساسیت نسبت به منشأ محتوا نیز افزایش خواهد یافت. کاربران ایرانی که از این سرویسها برای ایدهپردازی، ترجمه یا ویرایش استفاده میکنند، میتوانند از طریق خرید اکانتهای هوش مصنوعی به ابزارهای معتبر دسترسی داشته باشند؛ با این حال، مسئولیت بررسی نهایی و اعلام شیوه استفاده از هوش مصنوعی همچنان بر عهده کاربر است.
