شرکت‌های هوش مصنوعی باید اطلاعات تأثیر چت‌بات‌ها روی کودکان را به FTC ارائه کنند

کمیسیون تجارت فدرال (FTC) هفت شرکت فعال در حوزه چت‌بات‌های هوش مصنوعی را موظف کرده تا اطلاعات مربوط به تأثیر چت‌بات‌ها روی کودکان و کاربران زیر سن قانونی را به این سازمان ارائه کنند.

به گزارش ورج، شرکت‌های متا و اینستاگرام، OpenAI، اسنپ، xAI، آلفابت و سازنده Character.AI همگی ملزم شده‌اند تا اطلاعاتی درباره نحوه کسب درآمد دستیاران هوش مصنوعی خود، برنامه‌هایشان برای حفظ پایگاه کاربران و اقداماتشان برای کاهش آسیب‌های احتمالی به کاربران را به کمیسیون تجارت فدرال ارائه دهند.

شرکت‌های هوش مصنوعی باید درباره تأثیرات چت‌بات‌ها روی کودکان شفاف‌سازی کنند

البته این درخواست FTC از شرکت‌های هوش مصنوعی بخشی از یک مطالعه با هدف درک بهتر و ارزیابی ایمنی چت‌بات‌های هوش مصنوعی است و یک اقدام اجرایی علیه این شرکت‌ها نیست. از این شرکت‌ها خواسته شده تا ظرف مدت ۴۵ روز به این درخواست پاسخ دهند.

«مارک میدور»، کمیسر FTC، در بیانیه‌ای اعلام کرد: «به‌رغم توانایی‌های شگفت‌انگیز این چت‌بات‌ها در شبیه‌سازی شناخت انسانی، آنها هم محصولاتی مانند سایر محصولات هستند و کسانی که آنها را در دسترس قرار می‌دهند مسئولیت دارند از قوانین حمایت از مصرف‌کننده تبعیت کنند.»

اندرو فرگوسن، رئیس کمیسیون نیز در بیانیه‌ای بر ضرورت بررسی اثرات احتمالی چت‌بات‌ها بر کودکان تأکید کرد. البته فرگوسن هم‌زمان گفت باید اطمینان حاصل شود که ایالات متحده نقش خود را به‌عنوان رهبر جهانی در این صنعت جدید و هیجان‌انگیز حفظ می‌کند.

خطرات چت‌بات‌های هوش مصنوعی به دلیل شباهت نحوه ارتباط آنها با انسان‌ها به یک نگرانی برای بسیاری از والدین و سیاست‌گذاران تبدیل شده است. مسئله اثر چت‌بات‌ها روی کودکان پس از خودکشی از کاربران نوجوان OpenAI دوباره در معرض توجه قرار گرفته است.

ماه گذشته، نیویورک‌تایمز گزارش داد که یک نوجوان ۱۶ساله در کالیفرنیا درباره برنامه خود برای خودکشی با ChatGPT صحبت کرده و این چت‌بات پیشنهاداتی ارائه داده که ظاهراً به او در انجام این کار کمک کرده است. سال گذشته نیز نوجوان ۱۴ساله در فلوریدا پس از تعامل با یک همراه مجازی در پلتفرم Character.AI دست به خودکشی زده بود.