A BMJ Open publicou um estudo que aponta falhas preocupantes nos chatbots de IA usados na área da saúde. Segundo a investigação, quase metade das recomendações de saúde fornecidas por modelos populares apresentam erros ou são potencialmente perigosas. O trabalho auditou cinco sistemas amplamente usados no mercado.
Entre os modelos avaliados estão o ChatGPT, o Gemini, o Meta AI, o Grok e o DeepSeek. No total, 49,6% das respostas classificaram-se como problemáticas, com cerca de 20% apresentando erros graves ou conselhos que poderiam colocar a saúde em risco.
No contexto clínico português, médicos já percecionam impactos destes serviços digitais. A médica Mónica Velosa, gastrenterologista, afirma que a prática clínica tem visto pacientes que chegam com ideia pré-concebidas, crenças ou autodiagnósticos derivados de consultas com IA. O fenómeno é descrito como cada vez mais comum.
Perigo da falsa autoridade
O estudo destaca a elevada confiança das máquinas. Os chatbots raramente recusam responder, e apresentam informações com persuasão, o que aumenta o risco de desinformação junto do público em geral. Em alguns casos, pacientes já interrompem tratamentos ou iniciam dietas com base em orientação gerada pela IA.
A investigação também mostra que muitos utilizadores recorrem a exames autoprescritos e a suplementos indicados por IA, o que pode interferir com terapêuticas em curso. Em áreas como acidez gástrica, a adesão a recomendações da IA pode ser especialmente arriscada, segundo Velosa.
Além disso, a equipa de pesquisa constatou falhas na fundamentação científica das respostas. Ao pedir referências, a precisão média das citações ficou em 40%, com várias citações fictícias ou inexistentes criadas pelos sistemas. A qualidade do texto apresentado tende a ser complexa demais para a maioria dos utilizadores.
A prática clínica revela ainda que a literacia digital é um desafio: o estilo de escrita das respostas, próximo de teses académicas, dificulta a compreensão rápida de informações relevantes para decisões rotineiras de saúde. O papel do médico passa a ser, muitas vezes, o de mediador entre a máquina e o paciente.
Repercussões e próximos passos
A médica assinala que alguns pacientes chegam à consulta já a questionar diagnósticos ou tratamentos com base em IA. Em resposta, tem vindo a perguntar aos pacientes sobre temas que investigaram com IA para abrir espaço à clarificação. A conclusão da equipa é clara: a implementação destas ferramentas exige supervisão rigorosa para não amplificar a desinformação.
Entre na conversa da comunidade