چند ماه پیش، دانشمندان در مطالعهای مدعی شده بودند با پیشرفت هوش مصنوعی، این سیستمها شروع به توسعه «سیستمهای ارزشی» میکنند. بهطور خاص، این تحقیق ادعا میکرد که هوشمصنوعی ممکن است رفاه خود را بر انسانها اولویت دهد. اما یک مطالعه جدید از دانشمندان MIT این دیدگاه را رد کرده و بهعنوان نتیجهگیری میگوید که هوش مصنوعی هیچگونه سیستم ارزشی منسجمی ندارد.
براساس گزارش تککرانچ، نویسندگان این تحقیق میگویند که «همراستایی» یا اطمینان از رفتار مدلهای هوشمصنوعی بهگونهای مطلوب و قابلاعتماد، ممکن است پیچیدهتر از آنچه که معمولاً تصور میشود باشد. آنها تأکید کردهاند که هوشمصنوعی امروزی بیشتر شبیه به یک سیستم تقلیدکننده است و در بسیاری از جنبهها پیشبینیپذیر نبوده و ناپایدار است.
تحقیق MIT درباره ارزش سیستمهای هوش مصنوعی
«استیون کاسپر»، یکی از نویسندگان این تحقیق و دانشجوی دکترای MIT، بیان میکند که مدلهای هوش مصنوعی اغلب ثابت نیستند و در آزمایشهای محدود نمیتوان بهطور قطعی در مورد ترجیحات یا دیدگاههای آنها اظهار نظر کرد. او معتقد است که بیشتر مشکلات زمانی ایجاد میشود که تلاش میکنیم مدلها را بهطور دقیق بر اساس آزمایشهای خاص تحلیل کنیم.
در این تحقیق، محققان مدلهای هوش مصنوعی از شرکتهای مختلف از جمله متا، گوگل، Mistral ،OpenAI و انتروپیک را مورد بررسی قرار دادند تا ببینند که آیا این مدلها ارزشها و دیدگاههای ثابت و قوی دارند یا خیر.
نتیجهگیری آنها این بود که هیچیک از این مدلها در ترجیحات خود ثابت نبوده و بسته به نحوه پرسشها و شرایط مختلف، دیدگاههای متفاوتی از خود نشان دادند.
کاسپر معتقد است که این شواهد نشان میدهد مدلهای هوش مصنوعی در واقع سیستمهایی نیستند که مجموعهای ثابت و منسجم از باورها و ارزشها داشته باشند، بلکه بیشتر شبیه به تقلیدکنندگان هستند که پاسخهای گوناگونی را تولید میکنند.
ثبت دیدگاه علمی و آموزشی