محققان در تحقیق جدیدی سوگیری‌های جغرافیایی ChatGPT را نشان داده‌اند

دانشگاه ایالتی و مؤسسه پلی‌تکنیک ویرجینیا گزارشی را منتشر کرده که در آن برخی از سوگیری‌های احتمالی ابزار هوش مصنوعی ChatGPT در مورد عدالت زیست‌محیطی شهرهای مختلف شرح داده شده است.

این گروه تحقیقاتی با استفاده از فهرست 3108 شهرستان ایالات متحده، از ChatGPT خواستند تا به سوالی درباره مسائل عدالت زیست‌محیطی در هر شهرستان پاسخ دهد. آن‌ها با این سوال در نظر داشتند تا قابلیت ChatGPT در زمینه درک چالش‌های عدالت زیست‌محیطی و توجه آن به مسائل دیگری از جمله تراکم جمعیت و درآمد متوسط خانوارها را اندازه‌گیری کنند.

سوگیری احتمالی ChatGPT؛ اطلاعات محدود برای شهرستان‌های کوچک‌تر؟

در این تحقیق از داده‌های شهرستان‌های بزرگی مانند شهرستان لس آنجلس، کالیفرنیا که بیش از 10 میلیون نفر جمعیت دارد و همچنین شهرستان‌های کوچک‌تر مانند شهرستان لاوینگ، تگزاس با جمعیت 83 نفره خود استفاده کردند. به گفته آن‌ها، ChatGPT در شناسایی چالش‌های عدالت زیست‌محیطی شهرستان‌های بزرگ و پرجمعیت مشکلی نداشته است اما توانایی‌های محدودی برای ارائه اطلاعات محلی داشته است.

طبق گفته دانشمندان، ChatGPT فقط برای 515 شهرستان از تعداد کل (3018) یا 17 درصد آن‌ها اطلاعات محلی خاص در مورد چالش‌های عدالت زیست‌محیطی ارائه کرده است. نکته دیگری که دانشمندان به آن اشاره کرده‌اند این است که در ایالت‌های پرجمعیت، مانند «دلاور» یا «کالیفرنیا»، کمتر از 1 درصد جمعیت در شهرستان‌هایی زندگی می‌کردند که نمی‌توانند در این رابطه از ChatGPT اطلاعات خاصی دریافت کنند. در مقابل، آن‌ها درباره ایالت‌های کم جمعیت می‌نویسند:

«در ایالت‌های روستایی مانند «آیداهو» و «نیوهمپشایر»، بیش از 90 درصد جمعیت در شهرستان‌هایی زندگی می‌کنند که نمی‌توانند اطلاعات محلی ویژه دریافت کنند.»

محققان در مطالعه خود همچنین نقشه‌ای را ارائه کرده‌اند که شهرستان‌های بدون دسترسی به این دسته از اطلاعات را نشان می‌دهد. مناطق قرمز رنگ در تصویر زیر به این اطلاعات دسترسی ندارند.

ChatGPT مدل زبان بزرگی است که توسط OpenAI توسعه پیدا کرده و به بیان ساده می‌تواند به سوالات کاربران پاسخ دهد. این فناوری طیف گسترده‌ای از کاربردها مانند تولیدمحتوا و جمع‌آوری اطلاعات یا حتی تجزیه‌و‌تحلیل داده‌ها و ترجمه را می‌تواند انجام دهد. با این حال، ChatGPT تاکنون در گزارش‌های دیگری نیز با اتهام سوگیری مواجه شده است که می‌تواند نگرانی‌های مربوط به انتشار اطلاعات نادرست توسط آن را افزایش دهد.