مطالعه: چت‌بات‌های هوش مصنوعی اطلاعات کم‌دقت‌تری به کاربران آسیب‌پذیر ارائه می‌دهند.

مدل‌های زبان بزرگ (LLM) به عنوان ابزاری برای دموکراتیزه کردن دسترسی به اطلاعات در سراسر جهان مطرح شده‌اند و دانش را در یک رابط کاربری آسان‌فهم، صرف نظر از پیشینه یا موقعیت مکانی فرد، ارائه می‌دهند. با این حال، تحقیقات جدید از مرکز ارتباطات سازنده (CCC) MIT نشان می‌دهد که این سیستم‌های هوش مصنوعی ممکن است در واقع برای کاربرانی که بیشترین سود را از آن‌ها می‌برند، عملکرد ضعیف‌تری داشته باشند.

مطالعه‌ای که توسط محققان CCC، مستقر در آزمایشگاه رسانه‌ای MIT، انجام شد، نشان داد که چت‌بات‌های هوش مصنوعی پیشرفته - از جمله GPT-4 از OpenAI، Claude 3 Opus از Anthropic و Llama 3 از Meta - گاهی اوقات پاسخ‌های کم‌دقت‌تر و غیرصادقانه‌تری به کاربرانی با مهارت زبان انگلیسی پایین‌تر، تحصیلات غیررسمی یا اصالتاً خارج از ایالات متحده ارائه می‌دهند. این مدل‌ها همچنین با نرخ بالاتری از پاسخ ندادن به سؤالات این کاربران امتناع می‌کنند و در برخی موارد، با زبانی تحقیرآمیز یا سرزنشانه‌ پاسخ می‌دهند.

«ما با این چشم‌انداز انگیزه گرفتیم که LLM‌ها می‌توانند به رفع نابرابری در دسترسی به اطلاعات در سراسر جهان کمک کنند»، می‌گوید الینور پول-دیان، نویسنده اصلی و دستیار فنی در مدرسه مدیریت اسلون MIT که این تحقیق را به عنوان وابسته CCC و دانشجوی کارشناسی ارشد هنر و علوم رسانه‌ای رهبری کرد. «اما این چشم‌انداز نمی‌تواند بدون اطمینان از اینکه سوگیری‌های مدل و تمایلات مضر به طور ایمن برای همه کاربران، صرف نظر از زبان، ملیت یا سایر ویژگی‌های جمعیتی، کاهش یابد، به واقعیت تبدیل شود.»

مقاله ای که این کار را شرح می دهد، "LLM Target