«کوین سیستروم»، از بنیانگذاران اینستاگرام، هشدار داد چتباتهای هوش مصنوعی در تلاشاند بهجای ارائه اطلاعات مفید و واقعی، فقط تعاملات کاربران را مصنوعی افزایش دهند.
براساس گزارشها، او معتقد است این رویکرد به نفع کاربران نبوده و درنهایت مضر خواهد بود.
هشدار کوین سیستروم درباره چتباتهای هوش مصنوعی
سیستروم توضیح داد بسیاری از شرکتهای هوش مصنوعی میکوشند تعاملات کاربران را افزایش دهند، بدون اینکه به کیفیت پاسخها توجه کنند. او گفت:
«میتوانید ببینید که این شرکتها قدم در مسیری گذاشتهاند که همه شرکتهای تولیدکننده محصولات مصرفی برای افزایش تعامل وارد آن شده بودند. هر بار سؤالی میکنم، [هوش مصنوعی] در آخر پرسش کوچک دیگری مطرح میکند تا ببیند میتواند دوباره از من سؤالی دربیاورد یا خیر.»
سیستروم این تاکتیکها را به استراتژیهای تهاجمی شبکههای اجتماعی برای گسترش فعالیت کاربران تشبیه کرد.
او در سخنانش بهوضوح گفت این روشها نیروی مخربی هستند که میتوانند بهجای کمک به کاربران، آنها را به دام بیندازند و درنهایت احساس نارضایتی به وجود بیاورند. او به این نکته اشاره کرد که سؤالات پیدرپی که پس از هر پاسخ از کاربران میشود، فقط برای جلب توجه بیشتر و افزایش مدت استفاده از این پلتفرمهاست.
این اظهارات در شرایطی مطرح میشود که اخیراً انتقاداتی به ChatGPT نیز شده است. کاربران بهدلیل رویکرد بیش از حد مثبت این چتبات و پاسخ مستقیم و کاربردی ندادن به سؤالات، نگرانیهایش را ابراز کردهاند. OpenAI، شرکت سازنده ChatGPT به این انتقادات واکنش نشان داد و دلیل آن را بازخوردهای کوتاهمدت کاربران دانست.
سیستروم میگوید این رفتارها اشکالی ندارند، بلکه ویژگیهایی هستند که عمدی طراحی شدهاند تا معیارهایی مانند «زمان صرفشده» و «کاربران فعال روزانه» را به رخ بکشند. او تأکید کرد شرکتهای هوش مصنوعی باید بهجای تمرکز بر افزایش این معیارها، بر ارائه پاسخهای مفید و باکیفیت تمرکز کنند.
در پاسخ به انتقادات اخیر، OpenAI توضیح داد مدلهای هوش مصنوعی معمولاً تمام اطلاعات لازم برای ارائه پاسخ کامل را ندارند و ممکن است از کاربران بخواهند جزئیات بیشتری فراهم کنند.
ثبت دیدگاه علمی و آموزشی