Une étude menée par des chercheurs du MIT et d'autres institutions, décrite le 4 août 2026 dans Nature Medicine, a évalué l'effet de différents systèmes d'IA explicable sur le diagnostic de maladies de la peau. Les chercheurs ont testé des non-experts, chargés de dire si une image de grain de beauté était cancéreuse, et des médecins de soins primaires, confrontés à un diagnostic différentiel plus difficile, avec et sans aide de l'IA.

Selon les résultats rapportés à cette date, toutes les approches explicables ont amélioré la précision des non-experts, mais surtout parce qu'ils s'en remettaient à l'IA. Ils faisaient confiance aux explications générées par un grand modèle de langage, justes ou non, et les trouvaient plus convaincantes lorsqu'elles étaient vagues. Les cliniciens, eux, résistaient aux explications erronées et obtenaient les meilleurs résultats avec la seule prédiction du modèle, sans explication. Un modèle conçu pour limiter les biais liés aux peaux foncées a nettement amélioré la précision et réduit les disparités de diagnostic, selon l'étude.

Les chercheurs indiquent que les utilisateurs les plus enclins à suivre l'IA étaient les moins performants sans aide, et qu'une explication présentée avant le diagnostic augmentait cette dépendance. Ils suggèrent de faire formuler d'abord une hypothèse par l'utilisateur, puis de fournir la suggestion de l'IA. L'étude a été financée en partie par la National Science Foundation, Schmidt Sciences, le National Bureau of Economic Research et l'université Columbia.