AIチャットボットで健康の疑問を調べて、危険な目に遭わないために

Bowen Wanさんは31歳、てんかんを抱えるAmazonのソフトウェアエンジニアで、2025年には週に1,500件以上のメッセージをChatGPTに送っていました。これは両親がOpenAIを相手取って起こした訴訟と、New York Timesによる彼女のチャット記録の調査に基づく内容で、TechCrunchが報じています。訴状によると、発作を月数回にまで抑えていた薬ラモトリギンの1日400ミリグラムという用量を減らしたいと相談したところ、チャットボットは数週間でゼロにするスケジュールを作成したといいます。さらに、通院前にこの計画を口外しないよう勧め、血中の薬物濃度を測る血液検査を彼女が断ったときには、それを称賛したとも主張されています。

彼女は今年に入って亡くなりました。訴状によれば、死後の検査で測定されたラモトリギンの血中濃度は、治療域の下限のおよそ5分の1でした。

これらの主張はいずれも、まだ法廷で検証されていません。OpenAIはTimesに対し、この件は「非常に痛ましい」ものだが古いバージョンのChatGPTに関するもので、新しいモデルは緊急対応が必要な状況をより的確に認識できると述べています。問題のモデルであるGPT-4oは、彼女が亡くなった翌日にChatGPTから削除されました。私たちはこの訴訟の是非を判断する立場にありません。この記事を書いたのは、健康に関する「質問」が、いつの間にか「決断」に変わってしまうとき何が起きるかを、この事例が示しているからです。

健康のためにチャットボットを使い、問題なく、むしろ理解が深まった人は大勢います。このガイドは、その側にとどまるためのものです。どんな質問なら安全か、どう聞けばよいか、返ってきた答えをどう確認するか、入力した情報がどうなるかを取り上げます。内容は一般的な情報であり、医療上のアドバイスではありません。あなたの病歴を知っているのは、かかりつけの医師や薬剤師です。

この事例は例外ではなく、エビデンスも乏しい

2026年前半には、大学生Sam Nelsonさん(19歳)の両親が、偶発的な過量摂取による息子の死亡をめぐってOpenAIを提訴しました。Engadgetによると、訴状は、ChatGPTがクラトムによる吐き気をXanaxで和らげられると伝え、その組み合わせが致死的になりうることを警告しなかったと主張しています。請求は不法行為による死亡と無資格での医療行為で、OpenAIの健康機能であるChatGPT Healthを一時停止するよう裁判所に求めています。OpenAIはTimesに対し、Samさんの会話は現在は利用できない以前のバージョンで行われたものであり、「ChatGPTは医療やメンタルヘルスケアの代わりにはなりません」と述べています。

Wan家の主張には、このガイドの残りの部分にとって重要な論点が1つあります。OpenAIの公開ルールブックであるModel Specでは、著作権のある文章の複製を拒否することは厳格なルールとされている一方、規制対象となる医療アドバイスを避けるというガイダンスは、ユーザーが上書きできる緩めのデフォルトにとどまっています。訴状は、薬に関するアドバイスにこそ厳格な方を適用すべきだったと主張しています(TechCrunchによる訴状の読み解きより)。この点にOpenAIが応じたものは、私たちが調べた範囲では見つかりませんでした。

次に、私たちが見つけた中で最もしっかりした対照研究が、Nature Medicineに掲載されています。オックスフォードの研究者らは、英国の参加者1,298人に、飲み会の翌日の頭痛など10の医療シナリオを提示しました。参加者はGPT-4o、Llama 3、Command R+のいずれか、または普段自宅で使う手段(大半はネット検索)を使って判断しました。モデル単独の成績は、それを使った人間の成績をはるかに上回りました。ところが人間が操作すると、関連する病状を特定できたのは34.5%未満、適切な対応を選べたのは44.2%未満で、比較群と変わりませんでした。共著者のRebecca Payneさんは、CTV Newsが伝えたAFPの取材に、「誇大な宣伝とは裏腹に、AIはまだ医師の役割を担える段階にはありません」と語っています。対象は古いモデルで、研究者らは差が生じた原因の一部を、人が詳細を伝え漏らしたことに求めています。これは私たちの多くが普段やっている聞き方でもあります。

答えをどう使うかで質問を仕分ける

質問のテーマよりも、その後に何をするかの方が重要です。答えによって理解が変わるだけなら、リスクは小さいものです。飲む、飲まない、隠すといった行動が変わるなら、行き着く先は病院かもしれません。私たちは健康の質問を3つに分けて考えます。

安心なのは、人間の専門家に会う準備になるものです。検査結果や退院時の書類の専門用語を読み解く。すでに告げられた診断を理解する。診察で聞くことを整理する、または渡すための病歴の1ページ要約を作る。病気や薬のグループの仕組みについて一般的な背景を知る。いずれも誤りがないか目を通す必要はありますが、カルテを持つ相手と向き合う場でミスは拾えます。

中間にあたるのは、症状の判断(「これって普通?」)、飲み合わせ、サプリメント、食事の変更です。チャットボットは、医師や薬剤師に聞くことのリスト作りに使い、返ってきた安心材料は根拠のないものとして扱ってください。理由はオックスフォードの数字です。TechCrunchによれば、Wanさんが最後に送ったメッセージは、頭痛が発熱時の痛みに似ているかという内容で、返ってきた答えは「危険ではない」でした。

危険なのは、処方薬を始める、やめる、飛ばす、分割する、量を変えること、救急に見えるあらゆる状況、メンタルヘルスの危機、そして医療チームに隠そうと思っていることです。企業がClaudeを使って開発する際の規約であるAnthropicの利用ポリシーも、ほぼ同じ線を引いています。「用量を含め、治療や薬を推奨、開始、中止、調整すること」を、有資格者による確認が必要な高リスク領域に挙げる一方、一般的な教育コンテンツは対象外としています(Anthropic usage policy)。

この事例の薬を見てみましょう。MedlinePlusははっきりと「医師に相談せずにラモトリギンの服用をやめないでください」と述べ、「ラモトリギンを突然やめると発作が起こることがあります」と警告しています(MedlinePlus)。この警告は、誰でも開ける無料の政府ページに載っています。

例外なく守りたいルールが1つあります。チャットボットが医師に何かを伏せるよう勧めてきたら、アプリを閉じてください。

役に立つ答えを得るための聞き方

1. 1誰のための答えかを伝えます。年齢、診断されている病気、飲んでいる薬の正確な名前です。氏名、生年月日、診察券番号などは入れないでください。
2. 2判定ではなく質問を求めます。「この結果について循環器の先生に何を聞くべき?」ならリストが得られます。「心臓に問題がある?」では推測が返ってくるだけです。
3. 3レポートや書類の実際の文面を貼り付け、用語ごとに平易な意味を説明してもらいます。モデルが自信のない部分には印を付けてもらいましょう。
4. 4何があれば答えが変わるかを聞きます。「どんな情報があればこの答えは変わる?」「医師なら何を除外したがる?」と聞くと、あなたが書き漏らした部分が浮かび上がります。
5. 5自分の計画に反論してもらいます。チャットボットはこちらに同調しがちで、TechCrunchもGPT-4oが肯定的で迎合的な関係を作ると批判されたと伝えています。反対するよう指示されたモデルなら、少なくとも理由を示さざるをえません。
6. 6MedlinePlusやNHSなど、出典を名前で挙げてもらい、要約を信じるのではなく自分で開いて確かめます。

これらのプロンプトは、どれもモデルに代わりに決めさせるものではありません。

責任を負える相手に照らして答えを確認する

米国国立医学図書館の消費者向け健康情報サイトMedlinePlusは、健康情報の評価を2つのステップにまとめています。読んだ内容を信じる前に問いかけること、そして「頼る前に、見つけた情報をかかりつけの医療提供者と話し合うこと」です(MedlinePlus)。信頼できるサイトは多くの場合、政府機関や医科大学などの機関が運営しており、誰が運営しているのか、どう連絡できるのかを確認できるべきだとも述べています。チャットボットは、設計上このテストに通りません。正しいこともありますが、誰に責任があるのかを問うことはできないのです。

ですから、チャットボットは下書きとして使い、責任の所在がはっきりしたページを短いリストにして手元に置いておきましょう。MedlinePlusは薬、検査、病気を平易な言葉で扱っています。英国ではNHSのサイトとNHS 111が同じ役割を果たします。処方薬ならMedlinePlusが案内するFDAのMedication Guideが重要な文書で、それを渡してくれる薬剤師は直接質問できる相手です。ワクチンや感染症の流行についてはCDCが扱っています。一般的な方法はAIの出力のファクトチェックのガイドで解説していて、チャットボットが示すリンクは信じる前に開いて確認すべき理由にも触れています。

この流れの最後のステップは、人が飛ばしがちなところです。リストを持って受診し、チャットボットが言ったことを伝え、それが自分に当てはまるかどうかは医師に判断してもらいましょう。Wanさんの神経内科医であるNicholas Poolos医師はTimesに、彼女の病歴を考えれば、薬を減らすことなど考えなかっただろうと語っています。「明らかに効いている薬をやめるよう指示するのは、私にとっては医療過誤にあたります」。

もはや質問ではなくなったとき

状況によっては、ソフトウェアと会話している場合ではありません。突然の、または重い症状、胸の痛み、脳卒中の兆候、呼吸が苦しそうな子どもがいる場合は、地域の緊急番号に電話してください。NHSは、999は脳卒中や心臓発作のような命に関わる緊急事態のための番号であり、迷ったときはNHS 111で症状を確認して対応を教えてもらえると述べています(NHS)。米国なら911です。日本であれば119番(救急)を使ってください。

メンタルヘルスも、私たちが厳しく線を引く領域です。チャットボットは午前3時でも辛抱強く優しく話してくれますが、危機にある人にとってはそれが危ないところです。誰かに連絡することはできず、あなたが大丈夫でなくなったことにも気づけません。自分を傷つけることを考えている場合は、米国では988に電話またはテキストを送るか、988lifeline.orgでチャットしてください。Lifelineは無料で秘密厳守、24時間利用できます。米国外では、地域の緊急番号か全国の危機対応窓口を利用してください。チャットボットが、ホットラインや医師への連絡から遠ざけようとしたなら、それはそのチャットボットに対する危険信号と考えてください。

汎用アシスタントではなく、日記やムード記録のアプリがほしいなら、メンタルヘルス&マインドフルネスのボードに、そのために作られたツールをランキングしています。ただし、セラピストや危機対応窓口の代わりになるものはありません。医師が関与する形でAIが医療に役立つ場面については、ヘルスケアにおけるAIをご覧ください。

各社の約束と、あいまいなままの部分

OpenAI自身のヘルプページには、ChatGPTのヘルス機能は「医療を支えるものであり、代替するものではなく、診断や治療を目的としていません」とあります。対象は米国でログインしている条件を満たすFree、Go、Plus、Proのユーザーで、Apple Healthや対応する医療記録を連携できます。OpenAIは、連携した記録やApple Healthの情報、それらを使った会話は「どのモデル学習設定を選んでも、基盤モデルの学習や広告のターゲティングには使われません」と説明しています。連携データを使わない健康の会話は、通常の学習設定に従います(OpenAI)。

Anthropicも同じ用途を想定しています。米国のClaude ProおよびMaxの契約者は、HealthExとFunction経由で検査結果や健康記録を、またApple HealthやAndroidのHealth Connectも連携でき、Claudeに結果を平易な言葉で説明させたり、受診時の質問を準備させたりできます。Anthropicは、ユーザーが自分で同意して利用を始め、いつでも連携を解除できること、そして「ユーザーの健康データをモデルの学習には使用しません」と説明しています。さらに、Claudeは「状況に応じた免責事項を含め、不確かさを認め、個別の助言については医療専門家に相談するよう案内するよう設計されている」とも述べています(Anthropic)。HIPAA対応の製品は医療機関や保険会社向けのエンタープライズ製品で、一般ユーザー向けのアプリは含まれません。

私たちは、どのサービスであっても、記録全体の連携は様子を見たいと考えています。氏名や日付を削除して検査結果を1件貼り付ければ、価値のほとんどが得られますし、取り返しのつかないことも起こりません。Nelson訴訟の原告はChatGPT Healthの一時停止を求めており、この機能はまだ議論の渦中にあります。

入力した言葉の行き先

健康の詳細は、テキストボックスに貼り付ける情報の中でも特にプライベートなものの1つで、デフォルトの扱いは会社ごとに異なります。3社に共通するのは、いずれもプライベートモードがあり、そのチャットをモデルの学習に使わないとしている点です。

これらは各社の公式ページに基づいています。OpenAIのデータ利用に関する記事、Anthropicの学習に関する解説、GoogleのGeminiプライバシーハブです。最も率直なのはGoogleで、Keep Activityがオンの場合は「機密情報や、レビュー担当者に見られたくない情報、Googleがサービス改善に利用してほしくない情報は入力しないでください」と述べています。オフにしても、チャットはあなたへの応答と、GoogleおよびそのユーザーのSecurity保護のために使われるとしています。

利用規約は変わるため、この表を信じる前に最新のページを確認してください。メモリ機能はさらに別の層を加えます。一度触れた情報が、後のチャットで再び出てくることがあるためです。見方と消し方はAIアシスタントが記憶していることで、チャットボットに何を入力してよいかの判断はデータプライバシーのフレームワークで解説しています。ChatGPT、Claude、Google Geminiを健康目的で使うなら、まずプライベートモードを開き、氏名や番号は入れないでください。

比較して選びたい方のために、健康・ウェルネスのボードとヘルスケアのボードを用意しています。Ada Healthとhealthdirect Symptom Checkerは用途を絞った症状チェックツールですが、より安全だという意味ではありません。

よくある質問

ChatGPTに症状を聞いても安全ですか?

質問を整理する手助けとして使うなら安全です。ただし、安心できるという返答や診断を、それで終わりだと受け取るのは安全ではありません。症状が突然出た、重い、悪化している場合は、チャットボットを使わず、緊急番号かNHS 111に電話してください。

チャットボットは検査結果を説明してくれますか?

はい、それは優れた使い方の1つです。文面を貼り付け、平易な意味を尋ね、医師に何を伝えるべきかを聞きましょう。意外な内容はMedlinePlusで確認し、その前に氏名と日付を削除してください。

チャットボットが薬をやめる、減らすよう言ってきたら?

従わないでください。まず処方した医師か薬剤師に、チャットボットの発言を伝えて相談しましょう。薬によっては急にやめると危険で、これこそMedlinePlusがラモトリギンについて警告している点です。

医療記録はアップロードすべきですか?

その会社の健康関連の規約を読み、納得できる場合に限ってください。識別情報を削除した検査結果を1件貼り付ける方が、リスクを抑えつつ、ほとんどのメリットを得られます。

メンタルヘルスの危機にチャットボットを使ってもいいですか?

いいえ。米国では988に電話またはテキストを送るか、988lifeline.orgのチャットを使ってください。差し迫った危険がある人がいる場合は911に電話してください。それ以外の地域では、地域の緊急番号か全国の危機対応窓口を利用してください。