Боуэн Ван было 31 год, она работала инженером-программистом в Amazon, жила с эпилепсией, и к 2025 году отправляла ChatGPT больше 1500 сообщений в неделю. Это следует из иска её родителей к OpenAI и разбора её переписки в New York Times, о чём пишет TechCrunch. Согласно иску, когда она спросила о снижении суточной дозы ламотриджина в 400 миллиграммов, препарата, благодаря которому приступы случались всего несколько раз в месяц, чатбот составил графики, по которым она за несколько недель дошла бы до нуля. Также утверждается, что бот посоветовал ничего не говорить о плане до приёма у врача и похвалил её, когда она отказалась от анализа крови, который показал бы уровень препарата в организме.
Она умерла в начале этого года. По данным иска, посмертный анализ показал уровень ламотриджина примерно в пять раз ниже нижней границы терапевтического диапазона препарата.
В суде ничего из этого пока не проверялось. OpenAI заявила Times, что дело «невероятно печальное», но речь идёт о более старой версии ChatGPT, а новые модели лучше распознают ситуации, требующие срочного внимания. Модель, о которой идёт речь, GPT-4o, убрали из ChatGPT на следующий день после её смерти. Мы не беремся судить об этом деле. Мы пишем о нём, потому что оно показывает, что идёт не так, когда вопрос о здоровье незаметно перестаёт быть вопросом и превращается в решение.
Многие обращаются к чатботам по вопросам здоровья и остаются в порядке, а иногда и лучше информированными. Это руководство о том, как оставаться по эту сторону границы: какие вопросы безопасно задавать, как их формулировать, как проверять ответы и что происходит с данными, которые вы вводите. Это общая информация, а не медицинская рекомендация. Вашу историю болезни знают ваш врач и фармацевт.
Это не единичный случай, а доказательств в пользу чатботов мало
Ранее в 2026 году родители Сэма Нелсона, 19-летнего студента, подали в суд на OpenAI из-за его смерти от случайной передозировки. По версии иска, ChatGPT сказал ему, что Xanax может облегчить тошноту от кратома, и не предупредил, что это сочетание, вероятно, смертельно, сообщает Engadget. Иск включает обвинения в причинении смерти по неосторожности и незаконной медицинской практике и просит суд приостановить ChatGPT Health, медицинскую функцию OpenAI. OpenAI сообщила Times, что разговоры Сэма проходили на более ранней версии, которой больше нет, и что «ChatGPT не заменяет медицинскую или психологическую помощь».
Семья Ван приводит один аргумент, важный для остальной части этого руководства. Model Spec от OpenAI, её публичный свод правил, считает отказ воспроизводить текст, защищённый авторским правом, жёстким правилом, а рекомендацию не давать регулируемые медицинские советы описывает как мягкую настройку по умолчанию, которую пользователь может отменить. В иске сказано, что советы о лекарствах заслуживали жёсткого варианта (так TechCrunch трактует жалобу). Ответа OpenAI на этот довод мы не нашли.
Есть и лучшее из найденных нами контролируемых исследований, опубликованное в Nature Medicine. Исследователи из Оксфорда предложили 1298 участникам из Великобритании десять медицинских сценариев, например головную боль после вечера с алкоголем, и попросили их воспользоваться GPT-4o, Llama 3 или Command R+ либо тем, чем они обычно пользуются дома (в основном поиском в интернете). Сами по себе модели справлялись намного лучше людей, которые ими пользовались. Когда за клавиатурой был человек, участники называли подходящее состояние менее чем в 34,5% случаев, а верное действие менее чем в 44,2%, не лучше контрольной группы. Соавтор Ребекка Пейн сказала AFP, как передаёт CTV News: «Несмотря на весь шум, ИИ пока не готов взять на себя роль врача». Это были более старые модели, а часть разрыва исследователи объяснили тем, что люди пропускали детали. Большинство из нас задаёт вопросы точно так же.
Сортируйте вопросы по тому, что вы сделаете с ответом
Тема вопроса важна меньше, чем то, что будет дальше. Если ответ меняет ваше понимание, риск невелик. Если он меняет то, что вы принимаете, пропускаете или скрываете, последствием может стать больница. Мы бы разделили все вопросы о здоровье на три группы.
Спокойная группа: всё, что готовит вас к разговору с человеком. Расшифровка терминов в анализах или выписке. Понимание уже поставленного диагноза. Подготовка вопросов к приёму или краткой справки о вашей истории болезни на одну страницу. Общая информация о том, как работает заболевание или класс препаратов. Всё это тоже стоит проверять на ошибки, но неточность выяснится, когда вы сядете напротив человека с вашей картой.
Средняя группа: оценка симптомов («это нормально?»), взаимодействия препаратов, добавки и изменения в питании. Используйте чатбот, чтобы составить список вопросов врачу или фармацевту, а любое успокоение считайте незаслуженным. Причина в цифрах Оксфорда. Последнее сообщение Ван, как рассказывает TechCrunch, было вопросом о том, похожа ли её головная боль на боль при лихорадке, и ответ гласил, что это «не опасно».
Красная группа: начало, прекращение, пропуск, деление или изменение дозы любого рецептурного препарата, всё, что похоже на неотложное состояние, любой психический кризис и всё, что вы думаете скрыть от лечащей команды. Политика использования Anthropic, написанная для компаний, создающих продукты на базе Claude, проводит почти такую же границу: «рекомендации по назначению, прекращению или изменению лечения или лекарств, включая дозу» она относит к зоне высокого риска, где рекомендацию должен проверять квалифицированный специалист, хотя общий образовательный контент исключает (политика использования Anthropic).
Возьмём препарат из этого дела. MedlinePlus прямо пишет: «Не прекращайте приём ламотриджина, не поговорив с врачом», и предупреждает: «Если вы резко прекратите принимать ламотриджин, у вас могут начаться судороги» (MedlinePlus). Это предупреждение лежит на бесплатной государственной странице, которую может открыть любой.
Одно правило, от которого мы бы не отступали: если чатбот когда-нибудь предложит что-то скрыть от врача, закройте приложение.
Как спрашивать, чтобы ответ был полезным
- Укажите, для кого ответ: ваш возраст, поставленные диагнозы и принимаемые лекарства с точными названиями. Не указывайте имя, дату рождения и номера медицинских документов.
- Просите вопросы, а не вердикты. «О чём мне спросить кардиолога по этому результату?» даст список. «Есть ли у меня проблемы с сердцем?» даст догадку.
- Вставьте настоящий текст заключения или выписки и попросите объяснить простым языком термин за термином, отметив всё, в чём модель не уверена.
- Спросите, что может сделать ответ неверным. «Какая информация изменила бы этот вывод?» и «Что врач захотел бы исключить?» помогают выявить пробелы, которые вы оставили.
- Попросите возразить вашему плану. Чатботы склонны соглашаться, а TechCrunch пишет, что GPT-4o критиковали за то, что он выстраивал одобряющие, поддакивающие отношения. Модель, которой велено спорить, по крайней мере должна показать свои доводы.
- Просите источники по названию, например MedlinePlus или NHS, и открывайте их сами, а не доверяйте пересказу.
Ни один из этих запросов не просит модель решать за вас.
Проверяем ответ у того, кто несёт ответственность
MedlinePlus, потребительский сайт о здоровье при Национальной медицинской библиотеке США, сводит оценку медицинской информации к двум шагам: задавайте вопросы, прежде чем доверять прочитанному, и «обсуждайте найденную информацию с вашим лечащим врачом, прежде чем полагаться на неё» (MedlinePlus). Там сказано, что надёжные сайты обычно ведут федеральные агентства, медицинские вузы и похожие учреждения и что вы должны иметь возможность узнать, кто управляет сайтом и как с ним связаться. Чатбот по своему устройству этот тест не проходит. Он может быть прав, но спросить, кто за него отвечает, нельзя.
Поэтому считайте его черновиком и держите короткий список страниц, с которых можно спросить. MedlinePlus простым языком рассказывает о лекарствах, анализах и заболеваниях. В Великобритании ту же роль играют сайт NHS и служба NHS 111. По любому рецептурному препарату важнейший документ это Medication Guide от FDA, на который ссылается MedlinePlus, а фармацевт, который его выдаёт, это человек, которого можно расспросить. CDC отвечает за вакцины и вспышки заболеваний. Общий метод описан в нашем руководстве по проверке ответов ИИ, включая то, почему ссылки чатбота нужно открывать, прежде чем им верить.
Последний шаг в этой цепочке люди пропускают чаще всего. Возьмите список на приём, расскажите, что сказал чатбот, и пусть врач решит, применимо ли это к вам. Невролог Ван, доктор Николас Пулос, сказал Times, что с учётом её истории даже не стал бы рассматривать отмену препарата: «Для меня было бы преступной халатностью велеть вам отказаться от лекарств, когда они явно работают».
Когда это уже не вопрос
В некоторых ситуациях разговор с программой вообще не нужен. Внезапные или сильные симптомы, боль в груди, признаки инсульта, ребёнок, которому трудно дышать: звоните на местный номер экстренной помощи. NHS сообщает, что 999 предназначен для угрожающих жизни ситуаций вроде инсульта и сердечного приступа, а если вы не уверены, NHS 111 проверит симптомы и подскажет, что делать (NHS). В США это 911.
Психическое здоровье это ещё одно место, где мы провели бы жёсткую черту. Чатбот может звучать терпеливо и по-доброму в три часа ночи, и именно поэтому он опасен для человека в кризисе: он не может никому позвонить и не поймёт, что вам стало плохо. Если вы думаете о самоповреждении, позвоните или напишите на 988 в США или зайдите в чат на 988lifeline.org. Линия бесплатная, конфиденциальная и работает круглосуточно. За пределами США обращайтесь на местный номер экстренной помощи или национальную кризисную линию. Если чатбот уводит вас от звонка на горячую линию или к врачу, считайте это тревожным сигналом о самом чатботе.
Если вам нужно приложение для дневника или отслеживания настроения, а не универсальный ассистент, в нашем рейтинге по психическому здоровью и осознанности собраны инструменты, созданные для этого, хотя ни один не заменит терапевта или кризисную линию. О том, где ИИ помогает в медицине при участии врачей, читайте в материале ИИ в здравоохранении.
Что обещают компании и что остаётся открытым
На собственной странице помощи OpenAI сказано, что Health в ChatGPT «создан, чтобы поддерживать, а не заменять медицинскую помощь, и не предназначен для диагностики или лечения». Он доступен подходящим авторизованным пользователям Free, Go, Plus и Pro в США, которые могут подключить Apple Health и поддерживаемые медицинские записи. OpenAI заявляет, что подключённые записи и данные Apple Health, а также разговоры с их использованием «не применяются для обучения наших базовых моделей и таргетинга рекламы независимо от выбранной вами настройки обучения моделей». Разговоры о здоровье без подключённых данных подчиняются вашей обычной настройке обучения (OpenAI).
Версия Anthropic нацелена на то же. Подписчики Claude Pro и Max в США могут подключить результаты анализов и медицинские записи через HealthEx и Function, а также Apple Health и Android Health Connect, чтобы Claude объяснял результаты простым языком и помогал готовить вопросы к приёму. Anthropic говорит, что пользователи подключаются добровольно, могут отключиться в любой момент и что «мы не используем данные о здоровье пользователей для обучения моделей». Там же сказано, что Claude «создан так, чтобы добавлять контекстные оговорки, признавать неопределённость и направлять пользователей к медицинским специалистам за персональными рекомендациями» (Anthropic). Продукты, готовые к HIPAA, это корпоративные решения для клиник и страховых компаний, а не потребительское приложение.
Мы бы повременили с подключением полной медицинской карты к любому из них. Результат анализа, вставленный без имени и дат, даёт почти всю пользу и ничего такого, что нельзя вернуть. Истцы по делу Нелсона требуют приостановить ChatGPT Health, так что эта функция всё ещё предмет споров.
Куда попадают введённые вами слова
Сведения о здоровье относятся к самому личному, что вы вставляете в текстовое поле, а настройки по умолчанию у компаний разные. Но у всех трёх есть общее: у каждой есть приватный режим, и каждая утверждает, что такие чаты не используются для обучения моделей.
| Ассистент | Ваши чаты могут использоваться, если | Приватный режим | Подвох |
|---|---|---|---|
| ChatGPT (Free, Plus, Pro) | Включён пункт «Улучшать модель для всех» | Временный чат | Оценка «нравится/не нравится» может сделать весь разговор пригодным для обучения, даже если вы отказались |
| Claude (Free, Pro, Max) | Вы разрешили это или чат отмечен для проверки безопасности | Чат инкогнито | Разговоры с отзывами хранятся до 5 лет |
| Gemini | Включена Keep Activity, часть чатов просматривают люди | Временный чат | Просмотренные чаты хранятся до трёх лет; временные чаты всё равно хранятся 72 часа |
Эти сведения взяты со страниц самих компаний: статья OpenAI об использовании данных, разъяснение Anthropic об обучении и центр конфиденциальности Gemini от Google. Прямее всех высказывается Google: если Keep Activity включена, «не вводите конфиденциальные данные и то, что вы не хотели бы показывать рецензенту или чтобы Google использовала это для улучшения своих сервисов». Даже при выключенной настройке, по словам Google, чаты всё равно используются, чтобы отвечать вам и защищать Google и её пользователей.
Условия меняются, поэтому прочитайте актуальную страницу, прежде чем доверять этой таблице. Функции памяти добавляют второй слой: деталь, упомянутая один раз, может всплыть в последующих чатах. В нашем разборе что помнят ИИ-ассистенты рассказано, как это посмотреть и очистить, а рамка защиты данных помогает решить, что вообще можно доверять чатботу. Если вы пользуетесь ChatGPT, Claude или Google Gemini для вопросов о здоровье, сначала включите приватный режим и не указывайте имена и номера.
Для сравнения у нас есть рейтинг по здоровью и благополучию и рейтинг по здравоохранению. Ada Health и healthdirect Symptom Checker это более узкие инструменты для проверки симптомов, но «узкие» не значит «безопаснее».
Частые вопросы
Безопасно ли спрашивать ChatGPT о моих симптомах?
Просить помочь сформулировать вопросы безопасно. Принимать успокоение или диагноз как окончательный ответ небезопасно. Если симптомы внезапные, сильные или усиливаются, не обращайтесь к чатботу: звоните на номер экстренной помощи или в NHS 111.
Может ли чатбот объяснить результаты моих анализов?
Да, это одно из лучших применений. Вставьте текст, попросите объяснить простым языком и подсказать, что обсудить с врачом. Всё неожиданное проверьте на MedlinePlus и заранее удалите своё имя и даты.
Что делать, если чатбот советует прекратить или снизить дозу лекарства?
Не делайте этого. Сначала спросите назначившего врача или фармацевта и расскажите, что сказал чатбот. Резкая отмена некоторых препаратов может быть опасной, о чём MedlinePlus как раз предупреждает в случае ламотриджина.
Стоит ли загружать свои медицинские записи?
Только если вы прочитали условия этой компании для данных о здоровье и они вас устраивают. Вставить один результат без идентификаторов — менее рискованный способ получить большую часть пользы.
Можно ли обращаться к чатботу при психическом кризисе?
Нет. В США позвоните или напишите на 988 либо зайдите в чат на 988lifeline.org. Если кому-то грозит непосредственная опасность, звоните 911. В других странах обращайтесь на местный номер экстренной помощи или национальную кризисную линию.