Une étude de l’Université Ben-Gourion du Néguev et de Clalit, le principal organisme de santé israélien, a évalué si les grands modèles de langage savent reconnaître un examen ou un traitement inutile. Les résultats, parus dans Annals of Internal Medicine, ont été annoncés le 21 octobre.
Les chercheurs ont testé six modèles de Google, d’Anthropic et d’OpenAI sur des centaines de scénarios fondés sur la campagne « Choosing Wisely » contre les soins de faible valeur. Chaque scénario avait un jumeau où l’intervention était vraiment nécessaire. Les modèles ont refusé à tort des soins nécessaires dans 0,6 % des cas et recommandé des examens ou traitements inutiles dans 5,4 %.
Pour 8 des 15 recommandations, les modèles n’ont jamais proposé d’acte inutile. Les erreurs se concentrent dans des zones grises où les médecins eux-mêmes divergent, comme l’électrocardiogramme chez des patients à faible risque. Les auteurs soulignent qu’il reste à tester la réaction des modèles face à des patients anxieux ou insistants.
