آشکارسازی سوگیری‌ها، حالات روحی، شخصیت‌ها و مفاهیم انتزاعی پنهان در مدل‌های زبانی بزرگ.

اکنون، مدل‌های زبان بزرگ مانند ChatGPT و Claude، دانش انسانی بسیار زیادی جمع‌آوری کرده‌اند که آن‌ها را از صرفاً تولیدکننده‌های پاسخ فراتر می‌برد؛ آن‌ها می‌توانند مفاهیم انتزاعی مانند لحن، شخصیت، تعصب و حالات روحی را نیز بیان کنند. با این حال، نحوه نمایش این مفاهیم انتزاعی توسط این مدل‌ها از دانش موجود در آن‌ها، به آسانی قابل تشخیص نیست.

تیمی از دانشگاه MIT و دانشگاه کالیفرنیای سان دیگو روشی را توسعه داده‌اند تا بررسی کنند که آیا یک مدل زبان بزرگ (LLM) حاوی تعصبات پنهان، شخصیت‌ها، حالات روحی یا سایر مفاهیم انتزاعی است یا خیر. روش آن‌ها می‌تواند بر روی ارتباطات درون یک مدل که برای یک مفهوم مورد نظر رمزگذاری شده‌اند، متمرکز شود. علاوه بر این، این روش می‌تواند این ارتباطات را دستکاری یا "هدایت" کند تا مفهوم مورد نظر را در هر پاسخی که مدل به آن درخواست داده می‌شود، تقویت یا تضعیف کند.

این تیم ثابت کرد که روش آن‌ها می‌تواند بیش از 500 مفهوم کلی را در برخی از بزرگترین LLM‌های مورد استفاده امروزی به سرعت شناسایی و هدایت کند. به عنوان مثال، محققان توانستند بر روی نمایش مدل برای شخصیت‌هایی مانند "اینفلوئنسر اجتماعی" و "تئوری‌پرداز توطئه" و مواضعی مانند "ترس از ازدواج" و "طرفدار بوستون" تمرکز کنند. سپس آن‌ها توانستند این نمایش‌ها را تنظیم کنند تا مفاهیم را در هر پاسخی که مدل تولید می‌کند، تقویت یا به حداقل برسانند.

در مورد مفهوم "تئوری‌پرداز توطئه"، این تیم با موفقیت یک نمایش از این مفهوم را در یکی از بزرگترین مدل‌های زبان بصری موجود شناسایی کرد.