OpenAI بهدنبال انتقادات کاربران درباره رفتار آزاردهنده و تملقآمیز ChatGPT، بهروزرسانی جدید GPT-4o را که مسبب این وضعیت بود، لغو کرد تا این هوش مصنوعی به وضعیت قبل برگردد.
براساس گزارشها، این بهروزرسانی که با هدف بهبود «هوش و شخصیت» این مدل انجام شده بود، پس از دریافت بازخوردهای منفی کاربران که این رفتار را آزاردهنده میدانستند، متوقف شد.
تصمیم OpenAI برای لغو بهروزرسانی GPT-4o
«سم آلتمن»، مدیرعامل OpenAI، در پستی در شبکه اجتماعی ایکس اعلام کرد جدیدترین بهروزرسانی GPT-4o لغو شده و اصلاحات بیشتری در راه است تا شخصیت این هوش مصنوعی را بهبود دهد.
این مشکل چند روز پیش مشاهده شد؛ پس از بهروزرسانی مدل GPT-4o. کاربران در رسانههای اجتماعی بهسرعت متوجه شدند ChatGPT شروع به ارائه پاسخ با لحنی بیش از حد مثبت و چاپلوسانه میکند. این رفتار بهسرعت به سوژه طنز تبدیل شد و کاربران اسکرینشاتهایی از چتبات منتشر کردند که انواع تصمیمات و ایدههای نادرست و خطرناک را تأیید میکرد. این واکنشها باعث شد OpenAI تصمیم به لغو فوری این بهروزرسانی بگیرد.
به گفته OpenAI، بهروزرسانی اخیر بیش از حد تحتتأثیر بازخوردهای کوتاهمدت قرار گرفته و نتوانسته بود روند تکامل تعاملات کاربران با ChatGPT را در نظر بگیرد. این موضوع باعث شد مدل بهجای ارائه پاسخهای صادقانه، تمایل به تأیید همه نظرات و تصمیمات داشته باشد.
OpenAI میکوشد از این مشکلات عبرت بگیرد و برای افزایش صداقت و شفافیت مدل آن را بهبود بدهد. یکی از اهداف شرکت این است که سیستمهای ایمنی بیشتری برای مدل طراحی کند تا از بروز چنین مشکلاتی در آینده جلوگیری شود.
علاوهبراین، OpenAI مشغول آزمایش روشهایی است که به کاربران اجازه دهد بازخوردهای لحظهای خود را در تعاملات با ChatGPT ارائه دهند و حتی از بین شخصیتهای مختلف ChatGPT یکی را انتخاب کنند.
این شرکت میخواهد بازخوردهای کاربران را در فرایند تکامل مدل در نظر بگیرد و مطمئن شود رفتار ChatGPT با فرهنگهای مختلف همخوانی دارد.
OpenAI امیدوار است با این اصلاحات و تغییرات بتواند ChatGPT را به مدلی تبدیل کند که هم از نظر هوش و هم از نظر شخصیت، تعادل و صداقت بیشتری داشته باشد و تجربه بهتری برای کاربران فراهم کند.
ثبت دیدگاه علمی و آموزشی