پلیس چین یک کاربر را به‌خاطر تولید اخبار جعلی با ChatGPT دستگیر کرد

پلیس چین یک مرد را در استان «گانسو» در شمال این کشور به‌خاطر استفاده از ChatGPT برای نوشتن مقالات خبری جعلی دستگیر کرد. به‌نظر می‌رسد این اولین دستگیری طبق قانون جدید چین برای هوش مصنوعی باشد. این قانون سوءاستفاده از سرویس‌های هوش مصنوعی برای انتشار اطلاعات جعلی را ممنوع می‌کند.

طبق بیانیه پلیس، این کاربر چینی که «هنگ» نام دارد، متهم به استفاده از چت‌بات OpenAI برای تولید اخبار جعلی درباره یک تصادف قطار مرگبار در چین شده است. مقامات چین در تاریخ 25 آوریل مقاله اصلی درباره این تصادف مرگبار را پیدا کردند و سپس چندین مقاله درباره همین تصادف در محل‌های مختلف کشف شد. این اخبار جعلی به‌طور هم‌زمان از طریق 20 حساب در پلتفرم Baijiahao منتشر شدند.

هنگ از ChatGPT برای بازنویسی اخبار وایرال‌شده استفاده می‌کرد

مقامات گانسو با ردیابی این مقالات، به یک شرکت مستقل با مدیریت هنگ روبه‌رو می‌شوند که صاحب چندین وبلاگ خبری است. طبق ادعای پلیس، هنگ اعتراف کرده که از ChatGPT برای بازنویسی اخبار وایرال‌شده استفاده کرده است تا از فیلتر تکراری‌بودن مطالب دوری کند. در ادامه، این اخبار در فضای آنلاین منتشر می‌شدند. اخبار جعلی که توسط هنگ ساخته شدند، پیش از حذف، بیش از 15 هزار بار دیده شدند.

چین یکی از معدود کشورهایی است که دسترسی به ChatGPT را مسدود کرده، اما کاربران با تغییر آی‌پی همچنان از آن استفاده می‌کنند. علاوه‌براین، طبق قانون جدید، استفاده از هوش مصنوعی برای انتشار اخبار جعلی ممنوع است.

با توجه به ممنوعیت ChatGPT در چین، بسیاری از شرکت‌های چینی مشغول توسعه رقیب چت‌بات شرکت OpenAI هستند. بااین‌حال استفاده از آن‌ها برای انتشار اخبار جعلی هم غیرقانونی است.

اگرچه برخی فعالان از دستگیری این مرد چینی انتقاد کرده‌اند و آن را نوعی مخالفت با آزادی بیان می‌دانند، اما مدت‌هاست که فعالان حوزه هوش مصنوعی درباره امکان انتشار اخبار، تصاویر و ویدیوهای جعلی توسط هوش مصنوعی هشدار می‌دهند.