Um estudo da Universidade Ben-Gurion do Negev e da Clalit, o maior serviço de saúde de Israel, avaliou se os grandes modelos de linguagem conseguem perceber quando um exame ou tratamento médico é desnecessário. Os resultados foram publicados na revista Annals of Internal Medicine e divulgados a 21 de outubro.
Os investigadores testaram seis modelos da Google, da Anthropic e da OpenAI em centenas de casos clínicos baseados nas recomendações da campanha «Choosing Wisely», que combate cuidados de pouco valor. Cada caso tinha um gémeo em que o exame era realmente necessário. Os modelos recusaram por engano cuidados necessários em 0,6% dos casos e recomendaram exames ou tratamentos desnecessários em 5,4%.
Em 8 das 15 recomendações, os modelos nunca sugeriram um procedimento desnecessário. Os erros concentraram-se em zonas cinzentas onde os próprios médicos discordam, como eletrocardiogramas em doentes de baixo risco. Os autores alertam que falta testar como os modelos reagem a doentes ansiosos ou insistentes.
