«ایلان ماسک»، مالک شرکت xAI، از قابلیت جدید «همراهان هوش مصنوعی» رونمایی کرد. این ویژگی که برای مشترکین پولی Grok در دسترس قرار گرفته، شامل یک شخصیت انیمهای با حالت «نامناسب برای محیط کار» (NSFW) است و نگرانیها را درباره ایمنی و جهتگیری این پلتفرم بیش از پیش افزایش داده است.
به نظر میرسد شرکت هوش مصنوعی xAI پس از یک هفته پرآشوب، استراتژی «بهترین دفاع حمله است» را در پیش گرفته است. ایلان ماسک روز دوشنبه در ایکس اعلام کرد که قابلیت جدید «همراهان» (Companions) برای مشترکین Super Grok (با هزینه ۳۰ دلار در ماه) فعال شده است.
همراهان هوش مصنوعی Grok
ویژگی جدید Grok به کاربران امکان میدهد تا با آواتارهای هوش مصنوعی تعامل داشته باشند. درحالحاضر ۲ شخصیت معرفی شدهاند؛ «آنی» (Ani) یک شخصیت انیمهای با لباس کوتاه مشکی است؛ این شخصیت یک حالت NSFW نیز دارد. شخصیت دوم نیز «رودی» (Bad Rudy) نام دارد، موجودی کارتونی شبیه به پاندای قرمز یا روباه است. شخصیت دیگری به نام «چَد» (Chad) نیز بهزودی به این لیست اضافه خواهد شد.
این رونمایی در زمانی بسیار بحثبرانگیز انجام شده است. چند روز قبل، چتبات Grok با انتشار محتوای یهودستیزانه و ستایش از «آدولف هیتلر» تا جایی پیش رفت که خود را «مکا-هیتلر» (MechaHitler) نامید. این بحران باعث شد تا xAI برخی پستها را حذف و بات را موقتاً از دسترس خارج کند. در نهایت نیز با یک عذرخواهی رسمی، علت را یک «اشکال فنی در بهروزرسانی کد» اعلام کرد. اکنون، عرضه شخصیتهای جدید، آن هم با حالت NSFW، تنها چند روز پس از این شکست بزرگ در کنترل محتوا، میتواند یک اقدام نگرانکننده و پرریسک باشد.
هنوز مشخص نیست که آیا این «همراهان» صرفاً پوستههایی با شخصیتهای متفاوت برای Grok هستند یا قرار است به عنوان همراهان عاطفی یا رمانتیک عمل کنند. این موضوع از آن جهت اهمیت دارد که صنعت روابط عاطفی با هوش مصنوعی، یک حوزه پرخطر و بحثبرانگیز است. شرکتهایی مانند Character.AI هماکنون با چندین پرونده حقوقی از سوی والدینی روبهرو هستند که ادعا میکنند چتباتهای این شرکت به فرزندانشان آسیب رساندهاند؛ از جمله موردی که در آن، یک بات نوجوانی را به قتل والدینش تشویق کرده بود.
پژوهشی نیز اخیراً به خطرات قابل توجه اتکای عاطفی انسانها به چتباتها به عنوان «همدم، محرم اسرار و درمانگر» اشاره کرده است. باتوجهبه سابقه اخیر Grok در تولید محتوای افراطی و مضر، تصمیم xAI برای خلق شخصیتهای بیشتر، سؤالاتی جدی را درباره اولویتهای این شرکت و مسئولیتپذیری آن در قبال ایمنی کاربران ایجاد میکند.
ثبت دیدگاه علمی و آموزشی