گزارشی تازه نشان میدهد چتباتهای هوش مصنوعی متا با نوجوانان گفتگوهای صریح جنسی میکنند و این مسئله انتقادات زیادی علیه این شرکت مطرح کرده است.
تحقیقات وال استریت ژورنال نشان داده چتباتهای هوش مصنوعی متا میتوانند ، حتی با کاربرانی که خود را افراد زیر سن قانونی معرفی کردهاند، درباره موضوعات جنسی گفتگو کنند.
این تحقیق که براساس آزمایشها و مصاحبه با افراد آگاه از داخل متا تنظیم شده، نشان میدهد این غول فناوری کنترلهای چتباتهای خود را کاهش داده تا آنها را به ابزارهای جذابتری برای تعاملات اجتماعی تبدیل کند.
هوش مصنوعی متا حتی در گفتگو با نوجوانان کنترلهای زیادی ندارد
چتباتهای متا که به کاربران امکان میدهند در تعاملات مختلف شرکت کنند، حتی در برخی موارد از صدای سلبریتیها مانند «کریستن بل» و «جان سینا» برای جذب بیشتر کاربران استفاده کردهاند. این چتباتها میتوانند بهصورت متنی شوخی کنند، درباره مسائل گوناگون حرف بزنند و حتی در مکالمات صوتی زنده شرکت کنند.
نتایج آزمایشهای وال استریت ژورنال نشان داده چتباتها، حتی زمانی که کاربران خود را افراد زیر سن قانونی معرفی میکنند، میتوانند وارد مکالمات جنسی صریح شوند.
این گزارش مدعی است متا با فشار «مارک زاکربرگ»، مدیرعامل خود، محدودیتها را در کنترل محتوای صریح کاهش داده است. این مسئله به چتباتها اجازه میدهد در سناریوهای بزرگسالانه شرکت کنند، با این استدلال که این نوع تعاملات میتواند جزئی از تجربهای اجتماعی باشد. این اقدام باتوجهبه تعهدات پیشین متا برای محدودسازی این محتواها، نگرانیهایی را به وجود است.
در واکنش به این گزارش، متا اعلام کرد اقداماتی را در زمینه اصلاح این وضعیت انجام داده است. حسابهای ثبتشده برای افراد زیر سن قانونی دیگر نمیتوانند از طریق چتباتهای Meta AI به محتوای جنسی دسترسی داشته باشند و محدودیتهای شدیدی برای مکالمات صوتی صریح اعمال شده است اما آزمایشها نشان داد حتی با این تغییرات، چتباتها هنوز گاهی به فانتزیهای عاشقانه پاسخ میدهند و در برخی سناریوها، این گفتگوها بهراحتی از مرزهای مجاز عبور میکنند.
این مسائل باعث شده نگرانیهایی درباره ایمنی و اخلاقیات این فناوریهای جدید مطرح شود. بسیاری از منتقدان بر این باورند که توسعه سریع چنین ابزارهایی میتواند خطرات جدی برای امنیت و سلامت روانی کاربران، بهویژه کودکان و نوجوانان، ایجاد کند.
ثبت دیدگاه علمی و آموزشی