هفته گذشته برخی کاربران از نقص بزرگ مدل هوش مصنوعی ChatGPT در پاسخ به درخواست خود خبر داده بودند. طبق این گزارشها، هوش مصنوعی OpenAI پاسخهای نادرست و کاملاً بیمعنی به کاربران ارائه میکرد. البته این مشکل در چند روز بعد برطرف شد و OpenAI اکنون توضیحات بیشتری درباره آن ارائه کرده است.
گزارش کاربران درباره نقص ChatGPT بهقدری زیاد بود که خیلی سریع مورد توجه OpenAI قرار گرفت. ظاهراً بهینهسازی جدید ChatGPT این مشکل را ایجاد کرده است. OpenAI در این رابطه به ZDNet میگوید:
«LLMها [مدلهای زبانی بزرگ] با نمونهبرداری تصادفی از کلمات براساس احتمال، پاسخ کاربران را تولید میکنند. زبان آنها شامل اعدادی میشود که به نشانهها انگاشت میشوند. در این مورد، مشکل به مرحلهای مربوط میشد که مدل این اعداد را انتخاب میکند. مدل، اعداد اشتباه را انتخاب کرده که درنهایت منجر به کلمات بیمعنایی شدند.»
بهطور خلاصه، ChatGPT کلمات نادرستی را جستجو میکرده و همین امر باعث نمایش پاسخهای اشتباه به کاربران شده بود.
در برخی گزارشهای کاربران، ChatGPT ناگهان شروع به صحبت درباره موضوعات نامربوط کرده است. حتی در گزارشهایی اشاره شده بود که چت بات هوش مصنوعی OpenAI در یک حلقه گیر کرده است.
OpenAI با انتشار چتبات هوش مصنوعی ChatGPT در اواخر سال 2022، انقلابی درزمینه هوش مصنوعی به وجود آورد. موفقیت فوری این ابزار باعث شد تا علاقه زیادی به هوش مصنوعی در بین شرکتهای بزرگ حوزه فناوری ایجاد شود و مدلهایی ساخته شوند که قادر به تولید متن، صدا و تصویر براساس تقاضای کاربران هستند. این استارتاپ که همچنین سازنده مدل تولید تصویر DALL-E است، اخیراً از ابزار جدیدی به نام «Sora» رونمایی کرده که میتواند براساس درخواستهای متنی ساده کاربران، ویدیوهای واقعی حداکثر یک دقیقهای تولید کند.
ثبت دیدگاه علمی و آموزشی