هوش مصنوعی خلاصه‌سازی اپل محتوای یک خبر را به‌شکلی فاحش تغییر داد

هوش مصنوعی اپل اینتلیجنس تیتر یکی از خبرهای بی‌بی‌سی را به‌اشتباه تغییر داده و به کاربران اعلام کرده فرد مظنون به قتل مدیرعامل UnitedHealthcare اقدام به خودکشی کرده است.

خلاصه‌سازی اخبار و نوتیکفیشن‌ها یکی از قابلیت‌هایی است که هوش مصنوعی اپل اینتلیجنس به دستگاه‌های آیفون اضافه کرده است اما این قابلیت در همین مدت‌ کوتاه پس از عرضه جنجال‌هایی به راه انداخته است. در جدیدترین مورد، این قابلیت اپل اینتلیجنس تیتر یکی از خبرهای بی‌بی‌سی درمورد «لوئیجی مانژیونه»، فرد مظنون به قتل مدیرعامل یونایتدهلتکر، را تغییر داده و گفته او به خودش شلیک کرده، درحالی‌که چنین اتفاقی نیفتاده است.

هوش مصنوعی اپل اینتلیجنس ظاهراً در خلاصه‌کردن نوتیکفیشن‌ها مشکل دارد

در واکنش به این مسئله، یکی از سخنگویان بی‌بی‌سی گفته با اپل تماس گرفته تا نگرانی‌های این رسانه درمورد این تیتر را مطرح کرده و خواستار رفع مشکل شود. البته بی‌بی‌سی اعلام نکرده تیتر و محتوای خبری که هوش مصنوعی اپل آن را تغییر داده، چه بوده است.

همچنین فقط قسمت اول نوتیفیکیشن اپل اینتلیجنس در مورد اقدام به خودکشی لوئیجی مانژیونه نادرست بوده و سایر خبرهای خلاصه‌شده در این نوتیفیکیشن درست هستند.

توهم‌زدن در مدل‌های هوش مصنوعی و ایجاد خبرهای نادرست یکی از مشکلاتی است که توسعه‌دهندگان سعی در حل آن دارند. حتی در مواردی دیده شده هوش مصنوعی جملات نادرستی به نقل از برخی افراد مطرح می‌کند و حاشیه‌ها ایجاد می‌کند.

به نظر می‌رسد توسعه‌دهندگان ابزارهای هوش مصنوعی باید درک این فناوری از گفتگوهای انسانی را بالا ببرند.

اگر خلاصه خبرهایی که در اپل اینتلیجنس دریافت می‌کنید، منطقی به نظر نمی‌رسند، می‌توانید از مسیر Settings > Notifications > Summarize Notifications فهرست اپلیکیشن‌هایی را که آیفونتان محتوای آنها را خلاصه می‌کند، تغییر دهید. همچنین می‌توانید این قابلیت را کامل غیرفعال کنید.