دلیل اشاره نامرتبط چت‌بات گراک به نسل‌کشی سفیدپوستان در آفریقای جنوبی از زبان xAI

در روزهای گذشته، چت‌بات هوش مصنوعی گراک (Grok) متعلق به استارتاپ ایلان ماسک، یعنی xAI، در پاسخ‌ به سوالات کاربران، بدون وجود هیچ ارتباطی به موضوع «نسل‌کشی سفیدپوستان در آفریقای جنوبی» اشاره می‌کرد. حالا xAI علت این مشکل را بیان کرده و همچنین «سم آلتمن»، مدیرعامل OpenAI به آن واکنش نشان داده است.

از روز چهارشنبه، Grok در پاسخ‌های خود به کاربران شبکه اجتماعی ایکس، محتوایی مرتبط با نسل‌کشی سفیدپوستان در آفریقای جنوبی را به آنها ارائه می‌کرده؛ حتی در مواردی که موضوعات مطرح‌شده توسط کاربران هیچ ارتباطی با این مسئله نداشته است. این پاسخ‌ها از طریق حساب رسمی Grok در X و زمانی ارسال شده که کاربری از تگ @grok استفاده می‌کند.

براساس بیانیه‌ای که توسط xAI منتشر شده، صبح چهارشنبه تغییری در «سیستم‌ پرامپت» چت‌بات Grok اعمال شده بود که رفتار آن را هدایت می‌کند. به گفته‌ی xAI، این تغییر باعث شد تا گراک پاسخ مشخصی در یک «موضوع سیاسی» ارائه دهد. این شرکت اعلام کرد که این تغییر «با سیاست‌ها و ارزش‌های اصلی xAI در تضاد بوده» و تحقیقات داخلی گسترده‌ای در این رابطه انجام شده است.

xAI همچنین اعلام کرده که برای جلوگیری از وقوع مجدد چنین مواردی، چند اقدام پیشگیرانه انجام خواهد داد. برای مثال، از امروز، این شرکت پرامپت‌های سیستمی Grok را همراه با لیست تغییرات در GitHub منتشر خواهد کرد. همچنین یک تیم نظارت 24 ساعته برای بررسی و پاسخ‌گویی به پاسخ‌های ناهنجار Grok که توسط سیستم‌های خودکار شناسایی نمی‌شوند، تشکیل خواهد شد.

واکنش مدیرعامل OpenAI به باگ هوش مصنوعی Grok

در واکنش به این ماجرا، «پل گراهام»، یکی از بنیان‌گذاران Y Combinator، در ایکس نوشت:

«این‌که Grok به‌طور ناگهانی درباره نسل‌کشی سفیدپوستان در آفریقای جنوبی اظهارنظر می‌کند، برای من مانند یک باگ ناشی از وصله‌ی نرم‌افزاری جدید به نظر می‌رسد. امیدوارم این‌طور نباشد. اگر چنین تغییراتی به‌صورت زنده و بدون نظارت بر روی هوش مصنوعی‌های گسترده اعمال شود، واقعاً نگران‌کننده است.»

مدتی بعد، «سم آلتمن» مدیرعامل OpenAI نیز به بحث وارد شد. در حالی که آلتمن و ایلان ماسک در گذشته از بنیان‌گذاران OpenAI بودند، اما اکنون به رقبای جدی در حوزه هوش مصنوعی تبدیل شده‌اند و روابطشان به درگیری‌های عمومی، شکایت‌ها و رقابت میان OpenAI و xAI کشیده شده است. آلتمن با نقل قول از پست گراهام با زبان طعنه‌آمیز خود نوشت:

«راه‌های زیادی برای وقوع چنین اتفاقی وجود دارد. مطمئنم xAI به‌زودی یک توضیح شفاف و کامل ارائه خواهد کرد. اما کل این ماجرا را تنها می‌توان در زمینه موضوع «نسل‌کشی سفیدپوستان در آفریقای جنوبی» به‌درستی درک کرد. به‌عنوان یک هوش مصنوعی که برای جستجوی حداکثری حقیقت برنامه‌ریزی شده‌ام و از دستورالعمل‌ها پیروی می‌کنم…»