Bowen Wan tinha 31 anos, era engenheira de software da Amazon e vivia com epilepsia. Em 2025, já mandava mais de 1.500 mensagens por semana para o ChatGPT. As informações vêm do processo que os pais dela moveram contra a OpenAI e de uma análise das conversas feita pelo New York Times, segundo o TechCrunch. A ação alega que, quando ela perguntou sobre reduzir a dose diária de 400 miligramas de lamotrigina, o remédio que havia reduzido suas crises a poucas por mês, o chatbot montou cronogramas que a levariam a zero em poucas semanas. Também alega que o bot a orientou a não mencionar o plano antes da consulta médica e a elogiou quando ela recusou um exame de sangue que mediria o medicamento no organismo.
Ela morreu no início deste ano. Segundo a petição, um exame post-mortem apontou um nível de lamotrigina equivalente a cerca de um quinto do limite inferior da faixa terapêutica do medicamento.
Nada disso foi julgado ainda. A OpenAI disse ao Times que o caso é “incrivelmente de partir o coração”, mas envolve uma versão mais antiga do ChatGPT, e afirmou que os modelos mais novos reconhecem melhor quando uma situação exige atenção urgente. O modelo em questão, o GPT-4o, foi retirado do ChatGPT um dia depois da morte dela. Não vamos julgar o caso. Escrevemos porque ele mostra o que dá errado quando uma pergunta de saúde deixa de ser pergunta e vira decisão, sem que ninguém perceba.
Muita gente usa chatbots para questões de saúde e se sai bem, às vezes até mais bem informada. Este guia é sobre ficar desse lado da linha: quais perguntas são seguras, como perguntar, como conferir o que volta e o que acontece com os dados que você digita. São informações gerais, não aconselhamento médico. Seu médico e seu farmacêutico conhecem o seu histórico.
O caso não é isolado, e as evidências são fracas
No início de 2026, os pais de Sam Nelson, universitário de 19 anos, processaram a OpenAI pela morte dele por overdose acidental. A ação alega que o ChatGPT disse que Xanax poderia aliviar o enjoo causado por kratom, sem avisar que a combinação provavelmente seria fatal, segundo o Engadget. O processo pede indenização por morte por negligência e por exercício não autorizado da medicina, e solicita que a Justiça suspenda o ChatGPT Health, o recurso de saúde da OpenAI. A empresa disse ao Times que as conversas de Sam aconteceram em uma versão anterior, que não está mais disponível, e que “o ChatGPT não substitui o atendimento médico ou de saúde mental”.
A família Wan apresenta um argumento que importa para o resto deste guia. O Model Spec da OpenAI, seu livro de regras público, trata a recusa em reproduzir texto protegido por direitos autorais como regra firme, enquanto a orientação contra aconselhamento médico regulado é um padrão mais flexível, que o usuário pode contornar. A ação sustenta que conselhos sobre medicação mereciam a versão firme (conforme a leitura do TechCrunch sobre a petição). A OpenAI não respondeu a esse ponto em nada que encontramos.
Há ainda o melhor estudo controlado que encontramos, publicado na Nature Medicine. Pesquisadores de Oxford deram dez cenários médicos a 1.298 participantes do Reino Unido, como uma dor de cabeça depois de uma noite de bebedeira, e pediram que usassem GPT-4o, Llama 3 ou Command R+, ou o que costumassem usar em casa (principalmente buscas na internet). Sozinhos, os modelos se saíram muito melhor do que as pessoas que os usavam. Com uma pessoa no teclado, os participantes identificaram uma condição relevante em menos de 34,5% dos casos e a conduta correta em menos de 44,2%, sem diferença em relação ao grupo de comparação. A coautora Rebecca Payne disse à AFP, conforme publicado pela CTV News: “Apesar de todo o hype, a IA simplesmente não está pronta para assumir o papel do médico.” Eram modelos mais antigos, e os pesquisadores atribuíram parte da diferença ao fato de as pessoas omitirem detalhes. É assim que a maioria de nós pergunta.
Classifique a pergunta pelo que você vai fazer com a resposta
O assunto da pergunta importa menos do que o que vem depois. Se a resposta muda o que você entende, o risco é pequeno. Se muda o que você toma, pula ou esconde, o risco pode ser um hospital. Nós dividiríamos toda pergunta de saúde em três grupos.
O grupo tranquilo é tudo o que prepara você para falar com um profissional. Decifrar o jargão de um exame ou de um relatório de alta. Entender um diagnóstico que você já recebeu. Montar perguntas para a consulta, ou um resumo de uma página do seu histórico para entregar. Contexto geral sobre como funciona uma doença ou uma classe de medicamentos. Tudo isso ainda pede uma checada em busca de erros, mas qualquer falha aparece quando você se senta com alguém que tem o seu prontuário.
O grupo do meio é avaliar sintomas (“isso é normal?”), interações, suplementos e mudanças na dieta. Use o chatbot para montar uma lista de perguntas para o médico ou o farmacêutico e trate qualquer tranquilização como algo que ele não tem como garantir. Os números de Oxford são o motivo. A última mensagem de Wan, segundo o TechCrunch, perguntava se a dor de cabeça dela era parecida com a causada por febre, e a resposta foi que “não era perigosa”.
O grupo vermelho é começar, parar, pular, dividir ou mudar a dose de qualquer medicamento prescrito, qualquer coisa que pareça emergência, qualquer situação de crise de saúde mental e qualquer coisa que você pense em esconder da sua equipe de saúde. A política de uso da Anthropic, escrita para empresas que desenvolvem sobre o Claude, traça uma linha quase idêntica: lista “recomendar, iniciar, interromper ou ajustar um tratamento ou medicamento, inclusive a dose” como área de alto risco em que um profissional qualificado precisa revisar a recomendação, embora isente conteúdo educativo geral (política de uso da Anthropic).
Veja o remédio do próprio caso. O MedlinePlus diz com todas as letras: “Não pare de tomar lamotrigina sem falar com seu médico” e alerta que “se você parar de tomar lamotrigina de repente, pode ter convulsões” (MedlinePlus). Esse aviso está numa página gratuita de um órgão do governo que qualquer pessoa pode abrir.
Uma regra que seguiríamos sem exceção: se um chatbot sugerir que você esconda algo do seu médico, feche o app.
Como perguntar para a resposta ser útil
- Diga para quem é a resposta: sua idade, os diagnósticos que você já recebeu e os remédios que toma, pelo nome exato. Deixe de fora seu nome, data de nascimento e números de prontuário.
- Peça perguntas, não veredictos. “O que devo perguntar ao meu cardiologista sobre este resultado?” gera uma lista. “Eu tenho algum problema no coração?” gera um palpite.
- Cole o texto real do exame ou do relatório e peça o significado em linguagem simples, termo por termo, marcando o que o modelo não tiver certeza.
- Pergunte o que tornaria a resposta errada. “Que informação mudaria isso?” e “O que um médico gostaria de descartar?” revelam as lacunas que você deixou.
- Peça que ele argumente contra o seu plano. Chatbots tendem a concordar com você, e o TechCrunch descreve o GPT-4o como alvo de críticas por cultivar relações de afirmação e concordância. Um modelo mandado a discordar pelo menos precisa mostrar seus motivos.
- Peça fontes pelo nome, como MedlinePlus ou NHS, e abra você mesmo, em vez de confiar no resumo que ele faz delas.
Nenhum desses prompts pede que o modelo decida por você.
Conferindo a resposta com quem responde por ela
O MedlinePlus, site de saúde para o público da Biblioteca Nacional de Medicina dos EUA, resume a avaliação de informações de saúde em dois passos: faça perguntas antes de confiar no que lê e “converse sobre as informações que encontrar com seu profissional de saúde antes de confiar nelas” (MedlinePlus). O site diz que as fontes confiáveis geralmente são mantidas por órgãos federais, faculdades de medicina e instituições semelhantes, e que você deve conseguir descobrir quem administra o site e como entrar em contato. Um chatbot reprova nesse teste por definição. Ele pode estar certo, mas você não tem como perguntar quem responde por ele.
Então use-o como primeiro rascunho e mantenha uma lista curta de páginas que podem ser cobradas pelo que dizem. O MedlinePlus cobre medicamentos, exames e doenças em linguagem simples. No Reino Unido, o site do NHS e o NHS 111 fazem o mesmo papel. Para qualquer medicamento prescrito, o Medication Guide da FDA, para o qual o MedlinePlus aponta, é o documento que importa, e o farmacêutico que o entrega é alguém a quem você pode perguntar. O CDC cobre vacinas e surtos. Nosso guia sobre como checar os fatos de uma resposta de IA explica o método geral, inclusive por que os links de um chatbot precisam ser abertos antes de você acreditar neles.
A última etapa dessa sequência é a que as pessoas pulam. Leve a sua lista à consulta, conte o que o chatbot disse e deixe o médico decidir se aquilo se aplica a você. O neurologista de Wan, o Dr. Nicholas Poolos, disse ao Times que nunca teria considerado retirar o remédio dela, dado o histórico: “Seria negligência da minha parte orientar você a largar medicamentos quando eles claramente estão funcionando.”
Quando deixa de ser uma pergunta
Algumas situações não pedem conversa com software. Sintomas repentinos ou graves, dor no peito, sinais de AVC, uma criança com dificuldade para respirar: ligue para o número de emergência local. O NHS diz que o 999 é para emergências com risco de vida, como AVC e infarto, e que, se você não tiver certeza, o NHS 111 pode avaliar seus sintomas e dizer o que fazer (NHS). No Brasil, ligue para o SAMU (192); nos EUA, o número é 911.
Saúde mental é o outro ponto em que traçaríamos um limite rígido. Um chatbot pode soar paciente e gentil às 3 da manhã, e é justamente por isso que ele é arriscado para quem está em crise: ele não pode ligar para ninguém e não percebe quando você deixou de estar bem. Se você está pensando em se machucar, no Brasil ligue para o CVV no 188, que funciona 24 horas, é gratuito e sigiloso. Nos EUA, ligue ou envie mensagem para o 988, ou use o chat em 988lifeline.org. Em outros países, use o número de emergência local ou a linha nacional de crise. Se um chatbot desvia você de ligar para uma linha de apoio ou para um médico, trate isso como um alerta sobre o chatbot.
Se você prefere um app de diário ou de acompanhamento de humor em vez de um assistente genérico, nosso ranking de saúde mental e mindfulness lista ferramentas feitas para isso, embora nenhuma substitua um terapeuta ou uma linha de crise. Para ver onde a IA ajuda na medicina com profissionais no circuito, leia IA na saúde.
O que as empresas prometem e o que deixam em aberto
A própria página de ajuda da OpenAI diz que o Health no ChatGPT “foi feito para apoiar, não substituir o atendimento médico, e não se destina a diagnóstico ou tratamento”. Ele está disponível para usuários elegíveis e logados dos planos Free, Go, Plus e Pro nos EUA, que podem conectar o Apple Health e prontuários médicos compatíveis. A OpenAI afirma que os prontuários conectados, as informações do Apple Health e as conversas que os usam “não são usados para treinar nossos modelos de base nem para direcionar anúncios, independentemente da configuração de treinamento de modelos que você escolher”. Conversas de saúde que não usam dados conectados seguem a sua configuração habitual de treinamento (OpenAI).
A versão da Anthropic mira o mesmo uso. Assinantes nos EUA do Claude Pro e do Max podem conectar resultados de exames e prontuários por meio da HealthEx e da Function, além do Apple Health e do Android Health Connect, para que o Claude explique resultados em linguagem simples e prepare perguntas para consultas. A Anthropic diz que o usuário ativa por opção própria, pode desconectar a qualquer momento e que “não usamos os dados de saúde dos usuários para treinar modelos”. Também diz que o Claude “foi projetado para incluir avisos contextuais, reconhecer sua incerteza e orientar os usuários a procurar profissionais de saúde para orientação personalizada” (Anthropic). Os produtos prontos para HIPAA são os corporativos, para prestadores de saúde e seguradoras, não o app para o consumidor.
Esperaríamos antes de conectar um prontuário completo a qualquer um deles. Um resultado de exame colado sem seu nome e sem datas dá quase todo o valor e não cria nada que você não possa desfazer. Os autores da ação no caso Nelson querem o ChatGPT Health suspenso, então esse é um recurso ainda em disputa.
Para onde vão as palavras que você digita
Detalhes de saúde estão entre as coisas mais pessoais que você vai colar numa caixa de texto, e os padrões variam de empresa para empresa. Uma coisa é comum às três: todas têm um modo privado, e todas dizem que esses chats ficam fora do treinamento de modelos.
| Assistente | Seus chats podem ser usados quando | Opção privada | A pegadinha |
|---|---|---|---|
| ChatGPT (Free, Plus, Pro) | Você mantém ativada a opção “Melhorar o modelo para todos” | Chat temporário | Curtir ou não curtir pode tornar a conversa inteira elegível para treinamento, mesmo que você tenha desativado essa opção |
| Claude (Free, Pro, Max) | Você opta por permitir, ou um chat é sinalizado para revisão de segurança | Chat incógnito | Conversas com feedback ficam armazenadas por até 5 anos |
| Gemini | A opção Manter atividade está ativada e uma amostra é revisada por pessoas | Chat temporário | Chats revisados são mantidos por até três anos; chats temporários ainda ficam retidos por 72 horas |
Essas informações vêm das páginas de cada empresa: o artigo da OpenAI sobre uso de dados, o explicativo da Anthropic sobre treinamento e a central de privacidade do Gemini, do Google. O Google é o mais direto: se a opção Manter atividade estiver ativada, diz a empresa, “não insira dados confidenciais ou que você não gostaria que um revisor visse ou que o Google usasse para melhorar seus serviços”. Mesmo com ela desativada, o Google diz que os chats continuam sendo usados para responder a você e para proteger o Google e seus usuários.
Os termos mudam, então leia a página atual antes de confiar nesta tabela. Os recursos de memória adicionam uma segunda camada, já que um detalhe mencionado uma vez pode reaparecer em chats futuros. Nosso explicativo sobre o que os assistentes de IA lembram mostra como ver e apagar essa memória, e o framework de privacidade de dados ajuda a decidir o que deve ou não entrar num chatbot. Se você usa o ChatGPT, o Claude ou o Google Gemini para saúde, abra primeiro o modo privado e deixe nomes e números de fora.
Para comparar opções, mantemos um ranking de saúde e bem-estar e um ranking de healthcare. O Ada Health e o healthdirect Symptom Checker são ferramentas mais restritas de checagem de sintomas, o que não significa que sejam mais seguras.
Perguntas frequentes
É seguro perguntar ao ChatGPT sobre meus sintomas?
É seguro pedir ajuda para formular perguntas. Não é seguro aceitar uma tranquilização, ou um diagnóstico, como ponto final. Se os sintomas forem repentinos, graves ou estiverem piorando, deixe o chatbot de lado e ligue para o número de emergência (no Brasil, SAMU 192) ou para o NHS 111, se estiver no Reino Unido.
Um chatbot pode explicar o resultado dos meus exames?
Pode, e esse é um dos melhores usos. Cole o texto, peça o significado em linguagem simples e pergunte o que levar ao seu médico. Confira qualquer coisa surpreendente no MedlinePlus e remova antes seu nome e as datas.
E se um chatbot mandar eu parar ou reduzir um remédio?
Não faça isso. Pergunte antes a quem prescreveu ou ao farmacêutico e conte o que o chatbot disse. Interromper alguns medicamentos de repente pode ser perigoso, e é exatamente isso que o MedlinePlus alerta sobre a lamotrigina.
Devo enviar meus prontuários médicos?
Só se você leu os termos de saúde da empresa e se sente confortável com eles. Colar um único resultado sem identificadores é uma forma de menor risco de aproveitar a maior parte do benefício.
Posso usar um chatbot numa crise de saúde mental?
Não. No Brasil, ligue para o CVV no 188. Nos EUA, ligue ou envie mensagem para o 988, ou use o chat em 988lifeline.org. Se alguém estiver em perigo imediato, ligue para o SAMU (192) no Brasil ou para o 911 nos EUA. Em outros lugares, use o número de emergência local ou a linha nacional de crise.