مزایای کمک هوش مصنوعی پزشکی بسته به تخصص کاربر متفاوت است.

رویکرد یک‌اندازه برای همه احتمالاً بهترین استراتژی برای طراحی سیستم‌های هوش مصنوعی که به کاربران در تشخیص بیماری‌ها کمک می‌کنند، نیست.

مطالعه جدیدی توسط محققان MIT و دیگر مراکز نشان داد که در حالی که کمک هوش مصنوعی به‌طور کلی دقت افراد غیرمتخصص و پزشکان را در تشخیص بیماری‌های پوستی بهبود می‌بخشد، روش‌های توضیح‌پذیری هوش مصنوعی بسته به سطح دانش کاربران تأثیرات متفاوتی دارند. روش‌های هوش مصنوعی قابل توضیح به کاربران کمک می‌کنند تا بدانند چه زمانی باید به پیش‌بینی‌های یک مدل اعتماد کنند، با توصیف یا اعتبارسنجی فرآیند تصمیم‌گیری مدل. برای مثال، یک مدل ممکن است از نقشه حرارتی برای برجسته کردن مناطق مهم تصویر در تشخیص خود یا از یک مدل زبان بزرگ (LLM) برای توضیح پیش‌بینی به زبان ساده استفاده کند.

در این مطالعه، محققان افراد غیرمتخصص و پزشکان مراقبت‌های اولیه را در تشخیص بیماری‌های پوستی با و بدون کمک سیستم‌های هوش مصنوعی قابل توضیح مختلف آزمایش کردند. آن‌ها دریافتند که دقت تشخیصی افراد غیرمتخصص بهبود یافته است، اما عمدتاً به دلیل اعتماد به سیستم هوش مصنوعی بود. افراد غیرمتخصص به توضیحات مبتنی بر LLM چه درست باشند چه غلط، اعتماد می‌کردند و توضیحات مبهم یا کلی را متقاعدکننده‌تر می‌یافتند.

در مقابل، پزشکان با کمک نادرست هوش مصنوعی گمراه نشدند و زمانی بهترین عملکرد را داشتند که فقط پیش‌بینی مدل بدون هیچ توضیح همراهی به آن‌ها ارائه شود. سیستم‌های هوش مصنوعی خوب می‌توانند عملکرد را در برخی از محیط‌های مراقبت‌های بهداشتی بهبود بخشند، اما این باید به‌طور دقیق با اعتماد الگوریتمی که می‌تواند منجر به خطای بیشتر شود، متعادل شود.