«داریو آمودی»، مدیرعامل شرکت هوش مصنوعی آنتروپیک، معتقد است که مدلهای هوش مصنوعی امروزی کمتر از انسانها دچار توهم میشوند. توهم زدن مدلهای هوش مصنوعی به معنای آن است که این مدلها اطلاعات جعلی میسازند و آنها را طوری ارائه میدهند که گویی واقعیت دارند.
به گزارش تک کرانچ، مدیرعامل آنتروپیک که در نخستین رویداد توسعهدهندگان این شرکت در سانفرانسیسکو حضور یافته بود، ادعا کرد که میزان توهم زدن مدلهای هوش مصنوعی کمتر از انسانها است. آمودی این صحبتها را در پاسخ به این موضوع که توهمات هوش مصنوعی مانعی بر سر راه آنتروپیک برای دستیابی به AGI نیست مطرح کرد.
توهم زدن یکی از مشکلات عمده توسعه مدلهای هوش مصنوعی است
آمودی در این باره گفت: «این واقعاً بستگی دارد که چطور آن را اندازهگیری کنید، اما حدس میزنم مدلهای هوش مصنوعی احتمالاً کمتر از انسانها دچار توهم میشوند، ولی توهمات آنها به شکلهای غافلگیرکنندهتری بروز میکند.»
مدیرعامل آنتروپیک یکی از خوشبینترین افراد در صنعت هوش مصنوعی نسبت به دستیابی به هوش جامع مصنوعی (AGI) است. او سال گذشته مقالهای را منتشر کرد و گفت که معتقد است شرکتهای فعال در این حوزه میتوانند تا سال ۲۰۲۶ به هوش جامع مصنوعی دست یابند. آمودی همچنین در نشست خبری روز گذشته خود گفت که پیشرفت بهسوی دستیابی به این هدف بهطور پیوسته درحال انجام است.
در مقابل، برخی دیگر از رهبران حوزه هوش مصنوعی معتقدند که توهم، مانعی بزرگ در مسیر دستیابی به هوش جامع مصنوعی است. برای مثال، «دمیس هسابیس»، مدیرعامل گوگل DeepMind، میگوید که مدلهای فعلی هوش مصنوعی هنوز حفرههای زیادی دارند و به پرسشهای بدیهی زیادی پاسخ نادرست میدهند. برای مثال، اوایل همین ماه، شرکت آنتروپیک به دلیل توهم زدن یکی از مدلهای این شرکت و ارائه اسامی نادرست در یک پرونده قضایی مجبور به عذرخواهی شد.
بااینحال، شواهدی وجود دارد که نشان میدهد میزان توهم در مدلهای هوش مصنوعی با توانایی استدلال پیشرفته درحال افزایش است. برای مثال، مدلهای o۳ و o4-mini شرکت OpenAI نرخ توهم بالاتری نسبت به مدلهای نسل قبلی این شرکت دارند و خود OpenAI هنوز دلیل این موضوع را کشف نکرده است.
ثبت دیدگاه علمی و آموزشی