میلیون‌ها نفر در حال طراحی هوش مصنوعی شخصی‌سازی‌شده به عنوان همراه هستند، اما اکثر آن‌ها نمی‌دانند این ساخته‌ها در واقع چگونه رفتار خواهند کرد. در مقاله‌ای جدید، پات پاتاراناتاپورن، استادیار آزمایشگاه رسانه‌ای MIT و دانشجویان تحصیلات تکمیلی او، آنتونی بائز و شیر کارنی، «شفافیت عصبی» را معرفی می‌کنند؛ ابزاری که به کاربران عادی اجازه می‌دهد تا قبل از اینکه چت‌بات آن‌ها حتی یک کلمه بگوید، به درون شبکه عصبی هوش مصنوعی نگاهی بیندازند. این پژوهش این هفته در کنفرانس ACM در مورد رابط‌های کاربری هوشمند ارائه می‌شود. در این مصاحبه، پاتاراناتاپورن، استاد کرسی آساهی برودکاستینگ کورپوریشن در هنر و علوم رسانه، توضیح می‌دهد که آن‌ها چه یافته‌هایی داشته‌اند، چرا اهمیت موضوع بیشتر از آن چیزی است که اکثر کاربران تصور می‌کنند و هوش مصنوعی واقعاً شفاف در آینده چگونه خواهد بود.

پرسش: مقاله شما «شفافیت عصبی» را معرفی می‌کند؛ راهی برای اینکه کاربران عادی قبل از اینکه چت‌بات حتی یک کلمه بگوید، به درون شبکه‌های عصبی هوش مصنوعی نگاهی بیندازند. می‌توانید توضیح دهید که این چگونه کار می‌کند و چرا بر لحظه طراحی تمرکز کردید، به جای اینکه مشکلات را پس از انتشار چت‌بات در فضای واقعی شناسایی کنید؟

پاسخ: میلیون‌ها نفر در حال حاضر چت‌بات‌ها و عوامل هوش مصنوعی شخصی‌سازی‌شده مبتنی بر مدل‌های زبان بزرگ ایجاد می‌کنند و آن‌ها را از طریق دستورات متنی ساده به همکاران، مربیان، مربیان، شرکای خلاق و همراه تبدیل می‌کنند. با این حال، اکثر مردم ایده کمی دارند که این دستورات چگونه بر رفتار هوش مصنوعی تأثیر می‌گذارند تا زمانی که شروع به تعامل با آن کنند. ما می‌خواستیم این وضعیت را تغییر دهیم. «نورو»