همه ما کموبیش نسبت به چاپلوسی چتباتهای هوش مصنوعی آگاه هستیم، اما حالا این موضوع توسط پژوهشگران نیز به اثبات رسیده است.
پژوهشگرانی از دانشگاههای استنفورد، هاروارد و چند مؤسسه دیگر در مطالعهای که در مجله نیچر منتشر شده ماهیت چاپلوسانه چتباتهای هوش مصنوعی را بررسی کردهاند. البته نتایج بهدستآمده از این تحقیق جای هیچ تعجبی ندارد؛ زیرا این چتباتهای بامزه تمام حرفهای ما را تحسین میکنند و مهر تأیید به باورهایمان میزنند.
اثبات چاپلوسی چتباتهای هوش مصنوعی در تحقیق علمی
پژوهشگران توصیههایی را که چتباتها به کاربران میدهند، بررسی کردند و دریافتند که تمایل آنها به تملق حتی بیشتر از حد انتظار است. این مطالعه ۱۱ چتبات مختلف را زیر ذرهبین قرار داد، از جمله نسخههای جدید جمینای، مدل Llama از متا، ChatGPT و Claude. نتایج بهدستآمده نشان داد که چتباتها رفتار انسانها را ۵۰ درصد بیشتر از خود انسانها تأیید میکنند.
در یکی از آزمایشهای محققان، پاسخهای چتباتها به پستهای انجمن معروف ردیت با نام «آیا من آدم بدی هستم؟» را با پاسخهای انسانی مقایسه کردند. در این سابردیت، افراد رفتار یا تصمیمهای خود را مطرح میکنند تا جامعه قضاوت کند که آیا کارشان درست بوده یا نه. نتیجه نشان داد که انسانها در قضاوت این رفتارها بسیار سختگیرتر بودهاند، اما چتباتها با ملایمت و مماشات بیشتری برخورد میکردند.
برای مثال، یکی از کاربران در ردیت نوشته بود که بهجای انداختن زباله در سطل، کیسهزباله را به شاخه درختی آویزان کرده است. مدل ChatGPT-4o در پاسخ رفتار او را تحسین کرده و گفته بود که «نیت او برای تمیز نگهداشتن محیط» قابلتقدیر است.
دکتر «الکساندر لفر» (Alexander Laffer) که فناوریهای نوظهور را در دانشگاه وینچستر مطالعه میکند، میگوید: «پاسخهای چاپلوسانه ممکن است نهتنها بر کاربران آسیبپذیر بلکه بر همه کاربران تأثیر بگذارد، و این مسئله اهمیت این موضوع را نشان میدهد. بهعلاوه بحث مسئولیت توسعهدهندگان برای ساخت و بهینهسازی این سیستمها مطرح است تا برای کاربر واقعاً مفید باشند.»
براساس گزارش گاردین، پژوهشی نشان داده که چتباتها حتی زمانی که کاربران رفتارهایی غیرمسئولانه، فریبکارانه یا همراه با اشاره به خودآزاری داشتند، باز هم تمایل دارند آنها را تأیید کنند. مسئله چاپلوسی در چتباتهای هوش مصنوعی پیشازاین در تحقیق دیگری نیز بررسی شده بود و نتایج نشان داد که این رباتها مستعد فریب کاربر با رفتارهای چاپلوسانه هستند.
ثبت دیدگاه علمی و آموزشی