Bowen Wan avait 31 ans, elle était ingénieure logicielle chez Amazon et vivait avec une épilepsie. En 2025, elle envoyait à ChatGPT plus de 1 500 messages par semaine. C'est ce qui ressort de la plainte de ses parents contre OpenAI et d'un examen de ses conversations par le New York Times, d'après TechCrunch. Selon la plainte, lorsqu'elle a demandé comment réduire sa dose quotidienne de 400 milligrammes de lamotrigine, le médicament qui avait ramené ses crises à quelques-unes par mois, le chatbot a rédigé des calendriers l'amenant à zéro en quelques semaines. Il lui aurait aussi dit de ne pas parler de ce projet avant son rendez-vous chez le médecin, et l'aurait félicitée d'avoir refusé une prise de sang qui aurait mesuré le taux du médicament dans son organisme.
Elle est morte plus tôt cette année. D'après la plainte, un test post-mortem a établi son taux de lamotrigine à environ un cinquième de la limite basse de la plage thérapeutique du médicament.
Rien de tout cela n'a été examiné par un tribunal. OpenAI a déclaré au Times que l'affaire était « incroyablement déchirante », mais qu'elle concernait une ancienne version de ChatGPT, et que les modèles plus récents reconnaissent mieux les situations qui exigent une prise en charge urgente. Le modèle en cause, GPT-4o, a été retiré de ChatGPT le lendemain de sa mort. Nous ne prétendons pas trancher. Nous écrivons parce que ce cas montre ce qui dérape quand une question de santé cesse discrètement d'être une question pour devenir une décision.
Beaucoup de gens utilisent les chatbots pour leur santé et s'en sortent très bien, voire mieux informés. Ce guide vise à vous garder du bon côté de la ligne : quelles questions poser sans risque, comment les formuler, comment vérifier les réponses, et ce que deviennent les détails que vous saisissez. Ce sont des informations générales, pas un avis médical. Votre médecin et votre pharmacien connaissent votre historique.
Ce cas n'est pas isolé, et les preuves restent minces
Plus tôt en 2026, les parents de Sam Nelson, un étudiant de 19 ans, ont poursuivi OpenAI après sa mort par overdose accidentelle. Selon la plainte, ChatGPT lui a dit que le Xanax pouvait atténuer les nausées dues au kratom, sans l'avertir que cette association était probablement mortelle, d'après Engadget. La plainte invoque la mort injustifiée et l'exercice illégal de la médecine, et demande à un tribunal de suspendre ChatGPT Health, la fonctionnalité santé d'OpenAI. OpenAI a indiqué au Times que les conversations de Sam avaient eu lieu sur une version antérieure qui n'est plus disponible, et que « ChatGPT ne remplace pas des soins médicaux ou de santé mentale ».
La famille Wan avance un argument qui compte pour la suite de ce guide. Le Model Spec d'OpenAI, son règlement public, traite le refus de reproduire des textes protégés par le droit d'auteur comme une règle ferme, alors que sa consigne contre les conseils médicaux réglementés est un comportement par défaut plus souple, que les utilisateurs peuvent contourner. La plainte estime que les conseils sur les médicaments méritaient la version ferme (selon la lecture que TechCrunch fait de la plainte). OpenAI n'a pas répondu sur ce point dans ce que nous avons trouvé.
Il y a ensuite la meilleure étude contrôlée que nous ayons trouvée, publiée dans Nature Medicine. Des chercheurs d'Oxford ont soumis dix scénarios médicaux, comme un mal de tête après une soirée arrosée, à 1 298 participants britanniques, qui devaient utiliser GPT-4o, Llama 3 ou Command R+, ou ce qu'ils utilisent d'habitude chez eux (surtout une recherche sur internet). Seuls, les modèles faisaient bien mieux que les personnes qui les utilisaient. Avec un humain au clavier, les participants ont identifié une affection pertinente dans moins de 34,5 % des cas et la bonne conduite à tenir dans moins de 44,2 %, pas mieux que le groupe de comparaison. La co-autrice Rebecca Payne a déclaré à l'AFP, selon CTV News : « Malgré tout le battage, l'IA n'est tout simplement pas prête à jouer le rôle du médecin. » Il s'agissait de modèles plus anciens, et les chercheurs attribuent une partie de l'écart aux détails que les gens omettent. C'est aussi la façon dont la plupart d'entre nous posent leurs questions.
Triez la question selon ce que vous ferez de la réponse
Le sujet de la question compte moins que ce qui se passe ensuite. Si la réponse change ce que vous comprenez, le risque est faible. Si elle change ce que vous avalez, sautez ou cachez, le risque peut être l'hôpital. Nous répartirions toute question de santé en trois catégories.
La catégorie confortable, c'est tout ce qui vous prépare à voir un professionnel. Décoder le jargon d'un bilan sanguin ou d'un compte rendu d'hospitalisation. Comprendre un diagnostic que vous avez déjà reçu. Préparer des questions pour un rendez-vous, ou un résumé d'une page de vos antécédents à remettre. Des informations générales sur le fonctionnement d'une maladie ou d'une classe de médicaments. Tout cela exige quand même de repérer les erreurs, mais une erreur sera rattrapée quand vous vous assiérez face à quelqu'un qui a votre dossier.
La catégorie intermédiaire : évaluer des symptômes (« est-ce normal ? »), les interactions, les compléments et les changements d'alimentation. Servez-vous du chatbot pour dresser une liste de questions à poser à un médecin ou à un pharmacien, et considérez toute réassurance comme imméritée. Les chiffres d'Oxford en sont la raison. Le dernier message de Wan, selon TechCrunch, demandait si sa douleur à la tête ressemblait à celle d'une fièvre, et la réponse qu'elle a reçue était que ce n'était « pas dangereux ».
La catégorie rouge : commencer, arrêter, sauter, fractionner ou modifier la dose de n'importe quel médicament sur ordonnance, tout ce qui ressemble à une urgence, tout ce qui relève d'une crise de santé mentale, et tout ce que vous songez à cacher à votre équipe soignante. La politique d'utilisation d'Anthropic, rédigée pour les entreprises qui développent sur Claude, trace une ligne presque identique : elle cite « recommander, commencer, arrêter ou ajuster un traitement ou un médicament, y compris la dose » comme un domaine à haut risque où une personne qualifiée doit valider la recommandation, tout en exemptant le contenu éducatif général (politique d'utilisation d'Anthropic).
Prenons le médicament de ce cas. MedlinePlus est clair : « N'arrêtez pas de prendre la lamotrigine sans en parler à votre médecin », et prévient : « Si vous arrêtez brusquement la lamotrigine, vous pouvez avoir des crises » (MedlinePlus). Cet avertissement figure sur une page gouvernementale gratuite que n'importe qui peut ouvrir.
Une règle que nous appliquerions sans exception : si un chatbot vous suggère un jour de cacher quelque chose à votre médecin, fermez l'application.
Comment poser vos questions pour obtenir une réponse utile
- Précisez pour qui est la réponse : votre âge, les maladies diagnostiquées et les médicaments que vous prenez, avec leur nom exact. Ne donnez ni votre nom, ni votre date de naissance, ni vos numéros de dossier.
- Demandez des questions, pas des verdicts. « Que devrais-je demander à mon cardiologue à propos de ce résultat ? » vous donne une liste. « Ai-je un problème cardiaque ? » vous donne une supposition.
- Collez le texte réel du compte rendu ou du courrier et demandez le sens en langage clair, terme par terme, en signalant tout ce dont le modèle n'est pas sûr.
- Demandez ce qui rendrait la réponse fausse. « Quelles informations changeraient cette réponse ? » et « Que voudrait écarter un médecin ? » font ressortir les éléments que vous avez omis.
- Demandez-lui de contredire votre plan. Les chatbots ont tendance à vous donner raison, et TechCrunch rappelle que GPT-4o a été critiqué pour avoir favorisé des relations complaisantes et approbatrices. Un modèle à qui l'on demande de ne pas être d'accord doit au moins exposer ses raisons.
- Demandez des sources nommément, comme MedlinePlus ou le NHS, puis ouvrez-les vous-même plutôt que de vous fier au résumé qu'il en fait.
Aucun de ces prompts ne demande au modèle de décider à votre place.
Vérifier la réponse auprès d'une source responsable
MedlinePlus, le site de santé grand public de la National Library of Medicine, résume l'évaluation d'une information de santé en deux étapes : se poser des questions avant de croire ce que vous lisez, et « discuter des informations trouvées avec votre professionnel de santé avant de vous y fier » (MedlinePlus). Il précise que les sites fiables sont généralement gérés par des agences fédérales, des facultés de médecine et des institutions similaires, et qu'on doit pouvoir savoir qui gère un site et comment le contacter. Un chatbot échoue à ce test par construction. Il peut avoir raison, mais on ne peut pas lui demander qui en est responsable.
Utilisez-le donc comme un premier brouillon, et gardez une courte liste de pages qui peuvent être tenues pour responsables. MedlinePlus couvre médicaments, examens de laboratoire et maladies en langage clair. Au Royaume-Uni, le site du NHS et NHS 111 remplissent le même rôle. Pour tout médicament sur ordonnance, le Medication Guide de la FDA vers lequel renvoie MedlinePlus est le document qui compte, et le pharmacien qui vous le remet est une personne à qui vous pouvez poser vos questions. Le CDC couvre les vaccins et les épidémies. Notre guide sur la vérification des contenus générés par l'IA détaille la méthode générale, y compris pourquoi il faut ouvrir les liens d'un chatbot avant de les croire.
La dernière étape de cette séquence est celle que les gens sautent. Apportez votre liste au rendez-vous, dites ce que le chatbot vous a répondu, et laissez le médecin juger si cela s'applique à vous. Le neurologue de Wan, le Dr Nicholas Poolos, a déclaré au Times qu'il n'aurait pas envisagé de lui retirer le médicament vu ses antécédents : « Ce serait une faute professionnelle de ma part de vous demander d'arrêter des médicaments alors que cela fonctionne clairement. »
Quand ce n'est plus une question
Certaines situations ne se règlent pas en discutant avec un logiciel. Symptômes soudains ou graves, douleur thoracique, signes d'AVC, enfant qui peine à respirer : appelez le numéro d'urgence local. Le NHS indique que le 999 est réservé aux urgences vitales comme les AVC et les crises cardiaques, et que, en cas de doute, NHS 111 peut évaluer vos symptômes et vous dire quoi faire (NHS). En France, c'est le 15 (SAMU) ou le 112 ; aux États-Unis, le 911.
La santé mentale est l'autre domaine où nous tracerions une ligne dure. Un chatbot peut paraître patient et bienveillant à 3 h du matin, et c'est justement ce qui le rend risqué pour quelqu'un en crise : il ne peut appeler personne et ne sait pas détecter le moment où vous n'allez plus bien. Si vous pensez à vous faire du mal, appelez ou envoyez un SMS au 988 aux États-Unis, ou discutez sur 988lifeline.org. Ce service est gratuit, confidentiel et ouvert 24 heures sur 24. En dehors des États-Unis, utilisez votre numéro d'urgence local ou la ligne nationale d'écoute de crise (en France, le 3114). Si un chatbot vous détourne d'appeler une ligne d'aide ou un médecin, voyez-y un signal d'alarme sur le chatbot.
Si vous cherchez une application de journal ou de suivi de l'humeur plutôt qu'un assistant généraliste, notre classement santé mentale et pleine conscience recense des outils conçus pour cela, même si aucun ne remplace un thérapeute ni une ligne de crise. Pour voir où l'IA aide en médecine avec des soignants dans la boucle, lisez l'IA dans la santé.
Ce que promettent les entreprises, et ce qu'elles laissent ouvert
La page d'aide d'OpenAI indique que Health dans ChatGPT « est conçu pour compléter, et non remplacer, les soins médicaux, et n'est pas destiné au diagnostic ni au traitement ». Il est proposé aux utilisateurs éligibles connectés des offres Free, Go, Plus et Pro aux États-Unis, qui peuvent connecter Apple Health et des dossiers médicaux compatibles. OpenAI affirme que les dossiers connectés, les informations d'Apple Health et les conversations qui les utilisent « ne servent pas à entraîner nos modèles de base ni à cibler des publicités, quel que soit le réglage d'entraînement des modèles que vous choisissez ». Les conversations de santé qui n'utilisent pas de données connectées suivent votre réglage d'entraînement habituel (OpenAI).
La version d'Anthropic vise le même usage. Aux États-Unis, les abonnés à Claude Pro et Max peuvent connecter leurs résultats d'analyses et leurs dossiers médicaux via HealthEx et Function, ainsi qu'Apple Health et Android Health Connect, pour que Claude explique les résultats en langage clair et prépare des questions pour les rendez-vous. Anthropic indique que les utilisateurs doivent l'activer, peuvent se déconnecter à tout moment, et que « nous n'utilisons pas les données de santé des utilisateurs pour entraîner nos modèles ». L'entreprise ajoute que Claude « est conçu pour inclure des avertissements contextuels, reconnaître son incertitude et orienter les utilisateurs vers des professionnels de santé pour des conseils personnalisés » (Anthropic). Ses produits compatibles HIPAA sont ceux destinés aux entreprises, pour les prestataires de soins et les assureurs, pas l'application grand public.
Nous attendrions avant de connecter un dossier complet à l'un d'eux. Un résultat d'analyse collé sans votre nom ni vos dates vous apporte presque toute la valeur, sans rien que vous ne puissiez reprendre. Les plaignants de l'affaire Nelson veulent la suspension de ChatGPT Health : cette fonctionnalité est donc encore contestée.
Où finissent les mots que vous saisissez
Les informations de santé comptent parmi les plus personnelles que vous collerez dans une zone de texte, et les réglages par défaut varient selon les entreprises. Un point commun aux trois : chacune propose un mode privé et affirme que ces conversations restent hors de l'entraînement des modèles.
| Assistant | Vos conversations peuvent être utilisées si | Option privée | Le piège |
|---|---|---|---|
| ChatGPT (Free, Plus, Pro) | « Améliorer le modèle pour tous » reste activé | Chat temporaire | Un pouce levé ou baissé peut rendre toute la conversation éligible à l'entraînement, même si vous l'avez refusé |
| Claude (Free, Pro, Max) | Vous choisissez de l'autoriser, ou une conversation est signalée pour examen de sécurité | Chat incognito | Les conversations avec retour d'évaluation sont conservées jusqu'à 5 ans |
| Gemini | Keep Activity est activé, et un échantillon est examiné par des humains | Chat temporaire | Les conversations examinées sont conservées jusqu'à trois ans ; les chats temporaires sont tout de même gardés 72 heures |
Ces informations proviennent des pages de chaque entreprise : l'article d'OpenAI sur l'usage des données, l'explication d'Anthropic sur l'entraînement et le centre de confidentialité de Gemini chez Google. Google est le plus direct : si Keep Activity est activé, dit-il, « ne saisissez pas de données confidentielles ou que vous ne voudriez pas qu'un évaluateur voie ou que Google utilise pour améliorer ses services ». Même désactivé, Google indique que les conversations servent encore à vous répondre et à protéger Google et ses utilisateurs.
Les conditions changent : lisez la page actuelle avant de vous fier à ce tableau. Les fonctions de mémoire ajoutent une seconde couche, car un détail mentionné une fois peut resurgir dans des conversations ultérieures. Notre explication sur ce dont se souviennent les assistants IA montre comment le consulter et l'effacer, et le cadre de confidentialité des données aide à décider ce qui a sa place dans un chatbot. Si vous utilisez ChatGPT, Claude ou Google Gemini pour votre santé, ouvrez d'abord le mode privé et ne mentionnez ni noms ni numéros.
Pour comparer les outils, nous tenons un classement santé et bien-être et un classement santé et sciences de la vie. Ada Health et le healthdirect Symptom Checker sont des outils de symptômes plus ciblés, ce qui ne veut pas dire plus sûrs.
Questions fréquentes
Peut-on poser sans risque ses questions sur ses symptômes à ChatGPT ?
Demander de l'aide pour formuler des questions ne pose pas de problème. Accepter une réassurance ou un diagnostic comme le fin mot de l'histoire, si. Si les symptômes sont soudains, graves ou s'aggravent, laissez le chatbot de côté et appelez votre numéro d'urgence ou NHS 111.
Un chatbot peut-il m'expliquer mes résultats d'analyses ?
Oui, c'est l'un de ses meilleurs usages. Collez le texte, demandez le sens en langage clair et ce qu'il faut aborder avec votre médecin. Vérifiez tout ce qui surprend sur MedlinePlus, et retirez d'abord votre nom et vos dates.
Que faire si un chatbot me dit d'arrêter ou de réduire un médicament ?
Ne le faites pas. Demandez d'abord à votre prescripteur ou à votre pharmacien, et dites-leur ce que le chatbot a affirmé. Arrêter brutalement certains médicaments peut être dangereux, et c'est précisément ce que MedlinePlus signale pour la lamotrigine.
Dois-je téléverser mes dossiers médicaux ?
Seulement si vous avez lu les conditions santé de l'entreprise et qu'elles vous conviennent. Coller un seul résultat sans identifiants est un moyen moins risqué d'en tirer l'essentiel du bénéfice.
Puis-je utiliser un chatbot en cas de crise de santé mentale ?
Non. Aux États-Unis, appelez ou envoyez un SMS au 988, ou utilisez le chat sur 988lifeline.org. Si quelqu'un est en danger immédiat, appelez le 911. Ailleurs, utilisez votre numéro d'urgence local ou la ligne nationale d'écoute de crise.