جفری هینتون، استاد دانشگاه تورنتو که بهدلیل تحقیقات ارزشمندش در حوزهی شبکههای عصبی بهعنوان «پدرخواندهی هوش مصنوعی» شناخته میشود، بهار امسال از گوگل جدا شد تا بهصورت آزادانه از فناوری هوش مصنوعی انتقاد کند.
هینتون معتقد است محبوبیت ناگهانی سرویسهای هوش مصنوعی نظیر ChatGPT و Bing Chat نشاندهندهی شتاب مهارنشده و احتمالا خطرناک در توسعهی هوش مصنوعی است. گوگل قبلاً در حوزهی هوش مصنوعی بسیار محتاط بود، اما رقابت در بازار باعث شد این شرکت نیز بهطور جدیتری روی هوش مصنوعی متمرکز شود.
جفری هینتون در کنفرانس جدیدی به نگرانیهایی که دربارهی هوش مصنوعی دارد اشاره کرد. درحالیکه شرکتهای بزرگ صنعت فناوری به هوش مصنوعی بهعنوان دستیاری برای انجام تمامی کارها نگاه میکنند، هینتون زنگ خطر را به صدا درآورده است.
بر اساس گزارش انگجت، پدرخواندهی هوش مصنوعی میگوید که احتمالاً نسخهی خوب هوش مصنوعی نمیتواند از رقابت با نسخهی بد این فناوری سربلند بیرون بیاید. او همچنین معتقد است که استفادهی اخلاقی از هوش مصنوعی بسیار هزینهبر خواهد بود.
هینتون میگوید جلوگیری از تولید رباتهای نظامی قاتل کار بسیار دشواری است؛ چون شرکتها و ارتشها عاشق جنگهاییاند که در آنها تلفات انسانی با تلفات رباتها جایگزین میشود. هینتون ضمن اشاره به اثرگذاری مدلهای زبانی بزرگ بر بهرهوری انسان میگوید بخش حاکم بازار ممکن است از این مدلها برای افزایش بیشازحد قدرتش استفاده کند تا شکاف ثروت بیش از پیش افزایش یابد. به اعتقاد هینتون در این شرایط «ثروتمندان ثروتمندتر و فقیران فقیرتر خواهند شد.»
جفری هینتون بار دیگر روی ادعای بحثبرانگیز قبلیاش مبنیبر این که هوش مصنوعی خطری برای نسل بشر محسوب میشود، تأکید کرد. اگر هوش مصنوعی از انسانها باهوشتر شود هیچ تضمینی وجود ندارد که انسان توانایی کنترل این فناوری را داشته باشد.
درصورتیکه هوش مصنوعی تصمیم بگیرد برای دستیابی به هدفهایش کنترل را از دست انسان خارج کند، «به دردسر خواهیم افتاد.» هینتون میگوید خطرات هوش مصنوعی صرفا محدود به فیلمهای علمیتخیلی نیست و باید این موارد را جدی بگیریم.
هینتون میگوید یکی از بزرگترین مشکلات فعلی هوش مصنوعی، سوگیری و اطلاعات گمراهکننده است؛ چون دادههای تحریفشدهی موجود در دیتاست باعث ایجاد نتایج غیرمنصفانه میشوند. ازطرفی الگوریتمهای نرمافزاری مبتنیبر هوش مصنوعی به پخش هرچهبیشتر اطلاعات غلط و افزایش مشکلات سلامت روان کمک میکنند.
کنفرانس تورنتو افزونبر هینتون میزبان افراد دیگری نظیر مدیر ارشد گوگل دیپمایند بود. او و افراد دیگر عموما نگاهی مثبت به هوش مصنوعی داشتند و نسبت به آیندهی این فناوری خوشبین بودند. حامیان صنعت میگویند هوش جامع مصنوعی (AGI) که همچون انسان توانایی استدلال و تصمیمگیری خواهد داشت، به حل بسیاری از مشکلات کمک خواهد کرد.