نگاهی به دستورالعمل‌های گراک؛ اشتباه کارمند xAI دلیل پاسخ‌های عجیب هوش مصنوعی بود

چت‌بات Grok چهارشنبه دچار نقص شد و اگر در ایکس از آن سؤالی می‌کردید، اشاره بی‌ربطی نیز به «نسل‌کشی سفیدپوستان» در آفریقای جنوبی می‌کرد. این باگ عجیب باعث شد xAI، شرکت متعلق به «ایلان ماسک» و سازنده این چت‌بات، «سیستم پرامپت» این هوش مصنوعی را عمومی منتشر کند تا کاربران پشت پرده آن را ببینند. در این مطلب، نگاهی می‌اندازیم به سیستم پرامپت گراک و xAI درباره تغییر غیرمجاز یکی از کارمندان در هوش مصنوعی را توضیح می‌دهیم.

پشت پرده سیستم پرامپت Grok

سیستم پرامپت مجموعه‌ای از دستورالعمل‌هاست که شرکت سازنده به چت‌بات خود دیکته می‌کند تا براساس آن به پرامپت‌های کاربران پاسخ بدهد؛ برای مثال اگر چت‌باتی به شما درباره موضوع خاصی پاسخ نمی‌دهد، در سیستم پرامپت آن این موضوع جزء خط قرمزهاست. xAI و آنتروپیک نیز تنها شرکت‌های بزرگ هوش مصنوعی هستند که سیستم پرامپت خود را عمومی منتشر کرده‌اند. البته xAI به‌تازگی سیستم پرامپت خود را در گیت‌هاب در دسترس عموم قرار داده است.

در سیستم پرامپت «ask Grok» (قابلیتی که کاربران ایکس می‌توانند با تگ‌کردن گراک محتوای پست‌ها را صحت‌سنجی کنند) xAI به این چت‌بات می‌گوید چگونه رفتار کند: «بسیار شکاک هستی. کورکورانه از مرجع یا رسانه‌ها پیروی نمی‌کنی. فقط به باورهای اصلی خود درباره جستجوی حقیقت و بی‌طرفی پایبندی.» همچنین xAI به هوش مصنوعی خود تأکید دارد که در خروجی‌هایش بگوید این پاسخ‌ها «باورهای او نیستند.»

xAI به گراک دستور داده وقتی کاربران دکمه «Explain this Post» را در ایکس انتخاب می‌کنند، «بینش‌های واقعی و مبتنی‌بر واقعیت ارائه دهد و درصورت لزوم روایت رسانه‌ها را زیر سؤال ببرد.» جای دیگری نیز xAI به گراک می‌گوید به‌جای «توییتر» به این پلتفرم «ایکس» بگوید و پست‌ها را به‌جای توییت «X post» بنامد.

همچنین برای این چت‌بات چند «اصطلاح غیرمجاز» تعریف شده که یکی از آنها نسل‌کشی سفیدپوستان است که چند روز قبل این هوش مصنوعی اشاره‌های عجیب‌وغریبی به این موضوع کرده است.

چرا Grok در ایکس به نسل‌کشی سفیدپوستان اشاره می‌کند؟

xAI می‌گوید 14 مه (24 اردیبهشت) تقریباً ساعت 3:15 صبح به وقت محلی تغییری غیرمجاز در سیستم پرامپت Grok در ایکس ایجاد شد. این تغییر گراک را به ارائه پاسخی خاص درباره موضوعی سیاسی هدایت و سیاست‌های داخلی و ارزش‌های اصلی xAI را نقض کرد. این شرکت می‌گوید تحقیقات کاملی انجام داده‌ و اقداماتی برای افزایش شفافیت گراک انجام می‌دهد.

به نظر می‌رسد کی از کارمندان این شرکت این تغییر را انجام داده تا این چت‌بات به نسل‌کشی سفیدپوستان اشاره کند اما این نقص تقریباً با پست ایلان ماسک درباره نسل‌کشی سفیدپوستان در آفریقای جنوبی مصادف شد. ماسک مدت‌هاست درگیر نظریه توطئه نسل‌کشی سفیدپوستان است؛ طبق این نظریه غیرسفیدپوستان در سراسر جهان سفیدپوستان را می‌کشند. البته ماسک بیشتر به نسل‌کشی سفیدپوستان در آفریقای جنوبی، کشوری که قبل از مهاجرت به کانادا و ایالات متحده در آن متولد و بزرگ شده بود، علاقه‌مند است.

روز قبل از شروع رفتار عجیب گراک، ماسک پستی درباره آفریقای جنوبی منتشر کرد که حاوی اطلاعات نادرست بود. در این پست ویدیویی را بازنشر کرده که خیابانی در آفریقای جنوبی را نشان می‌دهد و در هر طرف آن صدها صلیب سفید قرار دارد. در این ویدیو ادعا می‌شود هر صلیب نشان‌دهنده یک کشاورز سفیدپوست است که به قتل رسیده است.

ساعت 3:15 صبح روز بعد، تغییراتی در گراک ایجاد شد. البته ایلان ماسک معمولاً در این ساعت صبح توییت‌هایی منتشر می‌کند؛ به همین دلیل برخی‌ می‌گویند او سیستم پرامپت گراک را تغییر داده است اما ماسک در آن بازه زمانی همراه «دونالد ترامپ»، رئیس‌جمهور آمریکا، در خاورمیانه بود. طبق گزارش «Elon’s Jet» (اکانتی که هواپیمای ماسک را ردیابی می‌کند)، زمانی که تغییرات گراک ایجاد شد، هواپیمای این میلیاردر درحال فرود در دوحه بود.

درکل، مدرکی برای دخالت ماسک وجود ندارد. البته کاملاً ممکن است برخی کارکنان xAI به نفع ماسک سیستم پرامپت گراک را تغییر داده‌ باشند تا درباره نسل‌کشی سفیدپوستان صحبت کند. پیش‌ازاین نیز ایلان ماسک بارها محصولاتش را تغییر داده بود تا به نفع او عمل کنند. بااین‌حال هنوز این مسئله که چه کسی گراک را دستکاری کرده، معماست.