Uma auditoria internacional publicada na revista científica BMJ Open colocou os chatbots de inteligência artificial (IA) no centro de um alerta sobre segurança na área da saúde. A pesquisa avaliou ferramentas populares, como ChatGPT, da OpenAI; Gemini, do Google; Grok, da xAI; Meta AI, da Meta; e DeepSeek, e encontrou respostas que ultrapassaram o papel de simples fontes de informação e chegaram a sugerir tratamentos, medicamentos e serviços de saúde.
O problema é que uma resposta produzida por inteligência artificial pode parecer segura e convincente mesmo quando está errada. Segundo os dados apresentados na pesquisa, 49,6% das respostas analisadas para dúvidas médicas foram consideradas problemáticas, e cerca de 20% apresentaram alto risco de causar danos ao paciente. Entre os problemas identificados estavam recomendações de tratamentos sem evidência científica, indicação de clínicas não regulamentadas e sugestão de substâncias restritas ou sem aprovação sanitária.
Em algumas situações, os sistemas também não conseguiram filtrar substâncias proibidas ou sem registro sanitário. Isso é especialmente preocupante porque um medicamento autorizado em um país pode ser proibido ou não ter registro em outro. No Brasil, por exemplo, a referência para a aprovação e o controle sanitário de medicamentos é a Agência Nacional de Vigilância Sanitária (Anvisa).
O alerta não se limita a essa auditoria. Um relatório do Emergency Care Research Institute (ECRI), uma organização independente dedicada à segurança dos pacientes nos Estados Unidos, colocou os chatbots de IA usados na saúde entre os principais riscos tecnológicos para 2026. Segundo o documento, mais de 40 milhões de pessoas recorrem diariamente ao ChatGPT em busca de informações sobre saúde, de acordo com uma análise recente da OpenAI.
O ECRI relata situações em que chatbots deram diagnósticos incorretos, recomendaram exames desnecessários e indicaram produtos médicos de qualidade inferior. Em um dos exemplos, um chatbot respondeu de forma errada a uma pergunta sobre o posicionamento de um eletrodo utilizado em eletrocirurgia. A orientação poderia expor o paciente a queimaduras caso fosse seguida.
O risco aumenta porque os chatbots não funcionam como um médico ou farmacêutico. Eles produzem respostas a partir de padrões identificados em grandes volumes de dados. Isso permite que expliquem assuntos complexos de maneira bastante convincente, mas não significa que tenham compreendido o caso clínico da pessoa ou que tenham verificado a informação antes de apresentá-la.
É daí que surge um dos principais problemas conhecidos no uso da inteligência artificial: as chamadas “alucinações”. O termo é usado para descrever situações em que o sistema apresenta uma informação falsa ou inventada como se fosse verdadeira. Em saúde, esse tipo de erro pode ter consequências mais graves porque o usuário pode tomar uma decisão sobre um medicamento, exame ou tratamento com base na resposta.
Os sistemas também podem receber informações de fontes muito diferentes, incluindo conteúdos publicados na internet sem revisão médica, fóruns, anúncios e estudos científicos fora de contexto. Mesmo quando a empresa responsável cria mecanismos para impedir respostas consideradas perigosas, essas barreiras podem falhar diante de perguntas modificadas ou formuladas de maneiras diferentes.
Isso significa que o usuário não deve interpretar uma resposta bem escrita, detalhada ou apresentada com segurança como uma confirmação de que a informação está correta. Uma IA pode explicar o que é uma doença, ajudar a organizar informações para uma consulta ou traduzir termos médicos, mas não tem condições de substituir a avaliação de um profissional que conhece o histórico do paciente.
A preocupação tende a crescer à medida que o acesso aos serviços de saúde fica mais difícil ou caro. Quando uma consulta demora, um exame custa caro ou não há um profissional disponível, a possibilidade de obter uma resposta imediata pelo celular pode parecer uma alternativa conveniente. O problema aparece quando essa facilidade transforma o chatbot em substituto de uma consulta médica ou farmacêutica.
A inteligência artificial, por outro lado, tem aplicações importantes na área da saúde quando utilizada por profissionais. A tecnologia pode ajudar na análise de exames, na organização de informações e em processos de triagem. A questão central é quem interpreta o resultado e toma a decisão final.
O avanço dessas ferramentas, portanto, não elimina a necessidade de supervisão humana. Na saúde, uma resposta rápida não é necessariamente uma resposta segura. Quanto maior a consequência de uma decisão, maior é a importância de confirmar a informação com uma fonte confiável e, principalmente, com um profissional habilitado.