سیستم به انسان‌ها کمک می‌کند پیش‌بینی کنند خودروهای خودران چه زمانی مرتکب اشتباه می‌شوند.

خودروهای خودران اغلب توسط مدل‌های یادگیری عمیق کنترل می‌شوند که گاهی اوقات در موقعیت‌های غیرمنتظره دچار نقص می‌شوند. به عنوان مثال، خودرو ممکن است به‌طور ناگهانی ترمز کرده و مسیر یک وسیله نقلیه اورژانسی را مسدود کند. راننده یا سرنشین انسانی ممکن است برای جلوگیری از برخورد نیاز به واکنش سریع داشته باشد.

برای کمک به انسان‌ها در پیش‌بینی بهتر اشتباهات خودرو، محققان MIT و شرکت فناوری خودروهای خودران Motional روش جدیدی توسعه داده‌اند که توضیحات روشنی از تصمیمات مدل زیربنایی ارائه می‌دهد. معمولاً فرآیند استدلال داخلی یک مدل یادگیری عمیق مبهم و دشوار برای درک است. اما این روش جدید، به نام شبکه Concept-Wrapper (CW-Net)، آن فرآیند استدلال را به مفاهیمی تبدیل می‌کند که به‌طور دقیق تصمیمات خودروی خودران را بدون تغییر عملکرد رانندگی آن توصیف می‌کنند.

CW-Net با استفاده از مفاهیم قابل درک مانند «نزدیک شدن به وسیله نقلیه متوقف‌شده» یا «نزدیکی به دوچرخه‌سوار»، تصمیمات برنامه‌ریزان مبتنی بر یادگیری ماشین را توضیح می‌دهد. این توضیحات می‌توانند تصورات غلط رانندگان و سرنشینان در مورد رفتار خودرو را اصلاح کرده و آگاهی موقعیتی آن‌ها را بهبود بخشند.

در آزمایش‌های جاده‌ای انجام شده در یک پیست خصوصی، توضیحات CW-Net به رانندگان ایمنی کمک کرد تا رفتار خودرو را دقیق‌تر پیش‌بینی کنند. یک مطالعه شبیه‌سازی بزرگ‌تر با کاربران غیرمتخصص نتایج مشابهی را نشان داد. این آزمایش‌ها نشان می‌دهند که چگونه CW-Net می‌تواند بازخورد مهمی برای مهندسان در هنگام رفع اشکال سیستم‌های هوش مصنوعی درون خودرو ارائه دهد. در بلندمدت، این تکنیک می‌تواند به بهبود ایمنی و قابلیت اطمینان خودروهای خودران کمک کند.