Исследование Массачусетского технологического института (MIT) и других организаций, опубликованное 4 августа 2026 года в Nature Medicine, показало, что методы объяснимого ИИ по-разному влияют на диагностику кожных заболеваний у неспециалистов и врачей первичного звена. Как сообщается, точность неспециалистов при поддержке ИИ росла, но в основном за счёт доверия системе: они доверяли объяснениям на основе больших языковых моделей независимо от правильности ответа и находили более убедительными расплывчатые формулировки. Врачи, напротив, лучше всего справлялись, когда им показывали только прогноз модели без пояснений.

По данным исследования, при модели, учитывающей справедливость и направленной против предвзятости к более тёмным оттенкам кожи, точность значительно повышалась, а диагностические различия по тону кожи сокращались. Исследователи также отметили, что объяснение, показанное до самостоятельной диагностики, усиливало склонность полагаться на модель. ИИ превосходил людей при неявных проявлениях болезни, но люди справлялись лучше при атипичных симптомах.

Авторы связывают результаты с риском автоматизационной предвзятости и предлагают сначала просить пользователя сформулировать гипотезу, а затем показывать подсказку ИИ. Работа поддержана, в частности, Национальным научным фондом США, Schmidt Sciences, Национальным бюро экономических исследований и Колумбийским университетом.