Um estudo do MIT e de outras instituições, descrito em 4 de agosto de 2026 na Nature Medicine, examinou como diferentes métodos de inteligência artificial explicável afetaram o diagnóstico de doenças de pele. Não especialistas e médicos de atenção primária foram testados com e sem o auxílio desses sistemas. Segundo os pesquisadores, a precisão dos não especialistas melhorou em todos os métodos, sobretudo por deferência ao modelo: eles confiaram em explicações geradas por grandes modelos de linguagem (LLMs) mesmo quando estavam erradas, e julgaram as explicações mais convincentes quando vagas ou genéricas.

Já os médicos não foram induzidos ao erro por auxílios incorretos e tiveram melhor desempenho quando receberam apenas a previsão do modelo, sem explicação. Entre os métodos testados, os LLMs foram os que menos elevaram a precisão desse grupo. Os autores também relataram que um modelo com restrição de equidade melhorou a precisão e reduziu disparidades por tom de pele. Os participantes que mais deferiam à IA foram os de pior desempenho sem auxílio, e explicações apresentadas antes da avaliação própria aumentaram a deferência.

Os resultados, segundo os autores, indicam que a IA explicável pode gerar dependência excessiva. Eles sugerem que solicitar primeiro uma hipótese diagnóstica do usuário pode ser mais eficaz do que explicações mais detalhadas.