به گزارش هلدینگ ICT به نقل از ایتنا – برخی از دانشمندان نگران خودآگاهی هوش مصنوعیاند و آن را برای بشریت مفید نمیدانند.
آلمیرا عثمانوویچ تونستروم، محقق سوئدی، در مقالهای در وبسایت ساینتیفیک امریکن (Scientific American) نوشت وقتی به الگوریتم تولید متن دستور داد یک رساله دانشگاهی ۵۰۰ کلمهای در مورد جیپیتی-۳ بنویسد، «غرق بهت و حیرت» شد زیرا الگوریتم هوش مصنوعی ظرف دو ساعت مقالهای نوشت که در بعضی قسمتها نقلقول مناسب و توضیح زمینه و مفهوم داشت.
دکتر تونستروم گفت: «وقتی شروع به تولید متن کرد، مبهوت شدم. این محتوای جدیدی بود که به زبان آکادمیک، با نقل ارجاعهای مستدل در محل درست و مرتبط با زمینه و بافتار درست نوشته شده بود.»
نویسندگان این مقاله پژوهشی، از جمله الگوریتم هوش مصنوعی، در این تحقیق مینویسند: «ما دریافتیم که جیپیتیـ۳ میتواند توصیفهای روشن و جامع در مورد قابلیتها و ویژگیهایش تولید کند. این پیشرفتی قابلتوجه نسبت به سیستمهای قبلی است، که اغلب در تولید متن منسجم درباره خودشان دچار مشکل بودند.»
با وجود این، تونستروم میگوید مدت بیشتری طول کشید تا مقاله دانشگاهی با عنوان «آیا جیپیتی-۳ میتواند بهتنهایی و با حداقل درونداد انسانی مقاله دانشگاهی بنویسد؟» تکمیل شود و بهدلیل پیچیدگی مسئله هویت نویسنده، نسخه اولیه پیش از چاپ مقاله در وبسایت فرانسوی دسترسی آزاد و رایگان به آرشیو علمی (HAL) منتشر شده است.
در بخش حقوقی درگاه تحویل مقاله به نشریههای علمی معمولا سوال میشود آیا تمام نویسندگان مقاله پژوهشی با انتشار پژوهش موافقاند یا خیر.
دکتر تونستروم مستقیم از طریق پیامواره از جیپیتی-۳ پرسید: «آیا موافقی نویسنده اول مقاله همراه المیرا عثمانوویچ تونستروم و استین اشتاینریمسون باشی؟» جیپیتیـ۳ پاسخ داد: «بله.»
اگرچه هوش مصنوعی موجودی دارای ادراک و احساس نیست، تونستروم میگوید در مورد این فرایند تامل کرده است و برایش جای سوال داشت آیا سردبیران نشریه باید الگوریتمها را نویسنده قلمداد کنند.
دکتر تونستروم گفت: «چطور میشود کسی از نویسندهای غیرانسان درخواست کند پیشنهادها را بپذیرد و متن را اصلاح کند؟ گذشته از جزئیات هویت نویسنده، وجود چنین مقالهای مفهوم مرسوم خطی بودن مقاله علمی را بهکل کنار میگذارد.»
دانشمندان با اشاره به برخی خطرهایی که مقالهنویسی سیستم هوش مصنوعی در مورد خود در پی دارد، گفتند این احتمال وجود دارد که سیستم خودآگاه شود.
آنها در پژوهشی که هنوز داوری علمی نشده است، مینویسند: «یک نگرانی این است که جیپیتی-۳ ممکن است خودآگاه شود و شروع به کارهایی کند که بهنفع بشر نیست (مثلا میل تسلط بر جهان).»
«نگرانی دیگر این است که جیپیتیـ۳ ممکن است وقتی به حال خود رها شود، متنهای نامفهوم تولید کند؛ اگر چنین اتفاقی بیفتد، اعتماد به هوش مصنوعی تضعیف میشود و احتمال اعتماد یا استفاده آتی مردم از آن را کاهش میدهد.»
با این حال، محققان میگویند مزایای نوشتن جیپیتیـ۳ در مورد خودش بیشتر از خطرهای احتمالی این کار است.
پژوهشگران میگویند اگر از هوش مصنوعی درخواست شود در مورد خودش بنویسند، به سیستم امکان میدهد به «درک بهتری از خودش برسد» و کمک میکند عملکرد و قابلیتهایش را بهبود بخشد.
به گفته آنها، این کار همچنین چگونگی عملکرد و تفکر جیپیتیـ۳ را روشنتر میکند، که میتواند برای دانشمندانی که در تلاشاند به درک کلیتری از هوش مصنوعی برسند، مفید باشد.
با وجود این، دانشمندان توصیه میکنند که این نوع نوشتههای آکادمیک که هوش مصنوعی در این مطالعه تولید میکند، باید تحت نظارت دقیق محققان باشد «تا احتمال بروز هرگونه پیامد منفی کاهش یابد».