نگرانی از نفوذ هوش مصنوعی

یک مقاله جدید از پژوهشگران دانشگاه سوئیسی EPFL نشان می‌دهد که بین ۳۳٪ تا ۴۶٪ از کارگران جمعیت توزیع شده در سرویس Mechanical Turk از طریقه‌هایی مانند استفاده از ابزارهایی مانند ChatGPT در انجام یک وظیفه خاص در تقلب متهم شده‌اند. اگر این عمل رایج باشد، ممکن است به یک مسئله جدی تبدیل شود.

سرویس Mechanical Turk شرکت آمازون مدت طولانی است که به عنوان پناهگاهی برای توسعه‌دهندگان ناامید که می‌خواهند کارهای خود را توسط انسان‌ها انجام دهند، شناخته می‌شود. به طور خلاصه، این یک رابط برنامه‌نویسی است که وظایف را به انسان‌ها ارسال می‌کند و آن‌ها آن را انجام می‌دهند و نتایج را برمی‌گردانند. این وظایف معمولاً نوعی وظایف هستند که امیدوارید کامپیوترها بهتر در انجام آن‌ها باشند. به عنوان مثال، آمازون می‌گوید نمونه‌ای از این وظایف عبارت است از: "کشیدن جعبه‌های محدود کننده برای ساخت مجموعه داده‌های با کیفیت برای مدل‌های بینایی رایانه، جایی که وظیفه ممکن است برای یک راه حل مکانیکی کاملاً گمراه کننده و برای حتی یک تیم بزرگ از متخصصان انسانی بیش از حد وسیع باشد."

دانشمندان داده‌ها را بر اساس منشا آن‌ها به طرق مختلفی ترتیب می‌دهند - اگر توسط انسان‌ها یا یک مدل زبان بزرگ (LLM) تولید شوند. با این حال، مشکل اینجا با Mechanical Turk بدتر از آنچه به نظر می‌رسد است: هم اکنون هوش مصنوعی به اندازه کافی ارزان شده است که مدیران محصولی که ترجیح می‌دهند از Mechanical Turk به جای یک راه‌حل تولید شده توسط ماشین استفاده کنند، بر این امیدند که انسان‌ها در برخی از مسائل بهتر از ربات‌ها عمل کنند. از بین بردن این منبع داده ممکن است عواقب جدی داشته باشد.

"تشخیص LLM ها از متن تولید شده توسط انسان برای مدل‌های یادگیری ماشین و انسان‌ها هر دو مشکل است"، محققان گفتند. بنابراین، پژوهشگران یک روش شناسایی ایجاد کردند تا بفهمند که محتوای مبتنی بر متن توسط انسان یا ماشین ساخته شده است.

آزمون شامل درخواست به کارگران از طریق جمعیت خرده‌فروشی بود که خلاصه‌هایی به طول ۱۰۰ کلمه از چکیده‌های تحقیقاتی از New England Journal of Medicine را تهیه کنند. ارزش‌مند است به‌یاد داشت که این دقیقاً نوع وظیفه‌ای است که فناوری‌های هوش مصنوعی تولید کننده مانند ChatGPT در آن خوب عمل می‌کنند.