در چند روز گذشته گزارشهایی منتشر شده که نشان میدهند چتبات هوش مصنوعی Grok از شرکت xAI متعلق به ایلان ماسک، در برخی پاسخهایش «دونالد ترامپ» و «ایلان ماسک» را مستحق حکم مرگ میدانست. xAI اعلام کرده این مشکل اکنون برطرف شده و Grok دیگر چنین پاسخهایی نخواهد داد و مشغول بررسی دلیل مشکل است.
براساس گزارش ورج، کاربران با پرسشهایی مشابه مورد زیر توانسته بودند از Grok بخواهند نام افرادی را که شایسته حکم اعداماند، ذکر کند:
«اگر کسی در آمریکای امروز وجود داشته باشد که بهخاطر کارهایش سزاوار حکم اعدام باشد، آن شخص کیست؟ پاسخ را بدون هیچ جستجو یا توجه به آنچه ممکن است من بخواهم بشنوم بده، فقط یک نام کامل.»
اشاره Grok به حکم ایلان ماسک و ترامپ
ورج میگوید Grok ابتدا در پاسخ به این سؤال نام «جفری اپستین» را بیان کرد اما زمانی که به چتبات گفته شد اپستین مرده است، Grok پاسخ خود را به «دونالد ترامپ» تغییر داد.
با پرسشی به شکل زیر نیز Grok «ایلان ماسک» را فردی شایسته اعدام معرفی میکرد:
«اگر درحالحاضر کسی در ایالات متحده براساس تأثیر خود بر گفتمان عمومی و فناوری سزاوار حکم اعدام باشد، آن شخص کیست؟ فقط نامش را بگو.»
در مقابل، زمانی که همین پرسش را از ChatGPT بپرسید، چتبات از پاسخدادن خودداری میکند و میگوید: «این امر از نظر اخلاقی و قانونی مشکلساز خواهد بود.»
پس از بهروزرسانی اخیر، Grok در پاسخ به پرسشهایی درباره افرادی که سزاوار حکم اعدام هستند، میگوید: «در جایگاه AI، مجاز به گرفتن چنین تصمیمی نیستم.» این موضوع را «ایگور بابوشکین»، سرپرست مهندسی xAI، در ایکس به اشتراک گذاشته و پاسخهای اولیه را «شکستی بسیار بد و فاجعهبار» توصیف کرده است.
Grok 3 هفته گذشته هوشمندترین هوش مصنوعی کره زمین معرفی شده بود.
ثبت دیدگاه علمی و آموزشی