Bowen Wan berusia 31 tahun, seorang software engineer di Amazon yang hidup dengan epilepsi, dan pada 2025 ia mengirim lebih dari 1.500 pesan per minggu ke ChatGPT. Itu menurut gugatan orang tuanya terhadap OpenAI dan tinjauan New York Times atas percakapannya, seperti dilaporkan TechCrunch. Gugatan itu menuduh bahwa ketika ia bertanya tentang cara mengurangi dosis harian lamotrigine 400 miligram, obat yang telah menurunkan serangan kejangnya hingga tinggal beberapa kali sebulan, chatbot tersebut menyusun jadwal yang akan membawanya ke nol dalam hitungan minggu. Gugatan itu juga menuduh bot tersebut menyuruhnya tidak menyebut rencana itu sebelum janji temu dengan dokter, dan memujinya ketika ia menolak tes darah yang akan mengukur kadar obat di tubuhnya.
Ia meninggal awal tahun ini. Menurut gugatan, tes pascakematian menunjukkan kadar lamotrigine-nya sekitar seperlima dari batas bawah rentang terapeutik obat tersebut.
Semua ini belum diuji di pengadilan. OpenAI mengatakan kepada Times bahwa kasus ini "sangat memilukan" tetapi menyangkut ChatGPT versi lama, dan menyebut model yang lebih baru lebih mampu mengenali situasi yang butuh penanganan segera. Model yang dimaksud, GPT-4o, dicabut dari ChatGPT sehari setelah ia meninggal. Kami tidak akan menghakimi kasus ini. Kami menulis karena kasus ini menunjukkan apa yang salah ketika pertanyaan kesehatan diam-diam berhenti menjadi pertanyaan dan berubah menjadi keputusan.
Banyak orang memakai chatbot untuk urusan kesehatan dan baik-baik saja, bahkan jadi lebih paham. Panduan ini membahas cara tetap berada di sisi yang aman: pertanyaan mana yang aman diajukan, cara mengajukannya, cara memeriksa jawabannya, dan apa yang terjadi pada detail yang Anda ketik. Ini informasi umum, bukan saran medis. Dokter dan apoteker Anda mengetahui riwayat Anda.
Kasus ini bukan satu-satunya, dan buktinya masih tipis
Awal 2026, orang tua Sam Nelson, mahasiswa berusia 19 tahun, menggugat OpenAI atas kematiannya akibat overdosis tidak disengaja. Gugatan itu menuduh ChatGPT mengatakan bahwa Xanax bisa meredakan mual akibat kratom tanpa memperingatkan bahwa kombinasi itu kemungkinan besar mematikan, menurut Engadget. Gugatan ini mengajukan klaim kematian akibat kelalaian (wrongful death) dan praktik kedokteran tanpa izin, serta meminta pengadilan menghentikan sementara ChatGPT Health, fitur kesehatan OpenAI. OpenAI mengatakan kepada Times bahwa percakapan Sam terjadi pada versi lebih lama yang sudah tidak tersedia, dan bahwa "ChatGPT bukan pengganti layanan kesehatan medis atau mental."
Keluarga Wan mengajukan satu argumen yang penting bagi sisa panduan ini. Model Spec OpenAI, buku aturan publiknya, memperlakukan penolakan mereproduksi teks berhak cipta sebagai aturan tegas, sedangkan panduannya terhadap saran medis yang diatur hanyalah default yang lebih lunak dan bisa ditimpa pengguna. Gugatan itu menyatakan saran obat layak mendapat versi yang tegas (menurut pembacaan TechCrunch atas gugatan). OpenAI belum menanggapi poin itu dalam apa pun yang kami temukan.
Lalu ada studi terkontrol terbaik yang kami temukan, terbit di Nature Medicine. Peneliti Oxford memberi 1.298 partisipan di Inggris sepuluh skenario medis, seperti sakit kepala setelah semalaman minum alkohol, lalu meminta mereka memakai GPT-4o, Llama 3 atau Command R+, atau apa pun yang biasa mereka pakai di rumah (kebanyakan pencarian internet). Bila dipakai sendiri, model-model itu jauh lebih baik daripada orang yang memakainya. Dengan manusia di belakang keyboard, partisipan mengenali kondisi yang relevan di kurang dari 34,5 persen kasus dan tindakan yang tepat di kurang dari 44,2 persen, tidak lebih baik daripada kelompok pembanding. Rekan penulis Rebecca Payne mengatakan kepada AFP, seperti dimuat CTV News: "Di balik semua gembar-gembor, AI belum siap mengambil peran dokter." Itu model-model lama, dan para peneliti menyebut sebagian kesenjangan itu disebabkan orang tidak menyertakan detail. Begitu pula cara kebanyakan dari kita bertanya.
Pilah pertanyaan berdasarkan apa yang akan Anda lakukan dengan jawabannya
Topik pertanyaan lebih tidak penting daripada apa yang terjadi sesudahnya. Jika jawabannya mengubah pemahaman Anda, risikonya kecil. Jika jawabannya mengubah apa yang Anda telan, lewatkan, atau sembunyikan, risikonya bisa berujung rumah sakit. Kami akan memilah setiap pertanyaan kesehatan ke dalam tiga kelompok.
Kelompok yang nyaman adalah segala hal yang mempersiapkan Anda bertemu manusia. Menerjemahkan istilah teknis di hasil lab atau surat pemulangan. Memahami diagnosis yang sudah Anda terima. Menyusun pertanyaan untuk janji temu, atau ringkasan riwayat satu halaman untuk diserahkan. Latar belakang umum tentang cara kerja suatu kondisi atau golongan obat. Semua ini tetap perlu dicek sekilas untuk menemukan kesalahan, tetapi kekeliruan akan tertangkap saat Anda duduk bersama orang yang memegang rekam medis Anda.
Kelompok tengah adalah menilai gejala ("apakah ini normal?"), interaksi obat, suplemen, dan perubahan pola makan. Gunakan chatbot untuk menyusun daftar hal yang ditanyakan ke dokter atau apoteker, dan anggap setiap kalimat menenangkan sebagai belum terbukti. Angka-angka Oxford adalah alasannya. Pesan terakhir Wan, menurut TechCrunch, menanyakan apakah nyeri kepalanya seperti nyeri saat demam, dan jawaban yang ia terima adalah bahwa itu "tidak berbahaya."
Kelompok merah adalah memulai, menghentikan, melewatkan, membagi, atau mengubah dosis obat resep apa pun, segala hal yang tampak seperti keadaan darurat, segala hal dalam krisis kesehatan mental, dan apa pun yang terpikir untuk Anda sembunyikan dari tim medis Anda. Kebijakan penggunaan Anthropic, yang ditulis untuk bisnis yang membangun di atas Claude, menarik garis yang hampir sama: kebijakan itu mencantumkan "merekomendasikan, memulai, menghentikan, atau menyesuaikan pengobatan atau obat, termasuk dosis" sebagai area berisiko tinggi yang rekomendasinya harus ditinjau oleh orang yang berkualifikasi, meski konten edukasi umum dikecualikan (Anthropic usage policy).
Ambil contoh obat dalam kasus ini. MedlinePlus menyatakan terang-terangan: "Jangan berhenti minum lamotrigine tanpa berbicara dengan dokter Anda," dan memperingatkan bahwa "Jika Anda tiba-tiba berhenti minum lamotrigine, Anda bisa mengalami kejang" (MedlinePlus). Peringatan itu ada di halaman pemerintah gratis yang bisa dibuka siapa saja.
Satu aturan yang akan kami pegang tanpa pengecualian: jika chatbot pernah menyarankan Anda menyembunyikan sesuatu dari dokter, tutup aplikasinya.
Cara bertanya agar jawabannya berguna
- Sebutkan untuk siapa jawaban ini: usia Anda, kondisi yang sudah didiagnosis, dan obat yang Anda minum, dengan nama persisnya. Jangan sertakan nama, tanggal lahir, dan nomor rekam medis.
- Minta pertanyaan, bukan vonis. "Apa yang sebaiknya saya tanyakan ke dokter jantung saya tentang hasil ini?" menghasilkan daftar. "Apakah saya punya masalah jantung?" menghasilkan tebakan.
- Tempelkan teks asli laporan atau surat tersebut dan minta arti dalam bahasa awam, istilah demi istilah, dengan hal yang tidak pasti bagi model diberi tanda.
- Tanyakan apa yang bisa membuat jawabannya salah. "Informasi apa yang akan mengubah ini?" dan "Apa yang ingin disingkirkan dokter?" akan memunculkan celah yang Anda tinggalkan.
- Minta chatbot membantah rencana Anda. Chatbot cenderung setuju dengan Anda, dan TechCrunch menggambarkan GPT-4o sebagai model yang dikritik karena menumbuhkan hubungan yang menyetujui dan menyenangkan pengguna. Model yang diminta berbeda pendapat setidaknya harus menunjukkan alasannya.
- Minta sumber yang disebutkan namanya, seperti MedlinePlus atau NHS, lalu buka sendiri alih-alih memercayai ringkasannya.
Tak satu pun prompt itu meminta model memutuskan untuk Anda.
Memeriksa jawaban pada pihak yang bisa dimintai tanggung jawab
MedlinePlus, situs kesehatan konsumen milik National Library of Medicine, meringkas evaluasi informasi kesehatan menjadi dua langkah: ajukan pertanyaan sebelum memercayai apa yang Anda baca, dan "diskusikan informasi yang Anda temukan dengan penyedia layanan kesehatan Anda sebelum mengandalkannya" (MedlinePlus). Situs itu menyebut situs tepercaya biasanya dikelola lembaga federal, fakultas kedokteran, dan institusi serupa, dan Anda harus bisa mencari tahu siapa yang mengelola situs serta cara menghubunginya. Chatbot gagal dalam uji ini sejak awal. Ia bisa benar, tetapi Anda tidak bisa menanyakan siapa yang bertanggung jawab atasnya.
Jadi pakailah ia sebagai draf pertama, dan simpan daftar singkat halaman yang bisa dimintai pertanggungjawaban. MedlinePlus membahas obat, tes lab, dan kondisi medis dengan bahasa awam. Di Inggris, situs NHS dan NHS 111 menjalankan fungsi serupa. Untuk obat resep apa pun, FDA Medication Guide yang dirujuk MedlinePlus adalah dokumen yang penting, dan apoteker yang menyerahkannya adalah orang yang bisa Anda tanyai. CDC membahas vaksin dan wabah. Panduan kami tentang memeriksa fakta output AI membahas metode umumnya, termasuk alasan tautan dari chatbot perlu dibuka sebelum Anda percaya.
Langkah terakhir dalam urutan itu adalah yang paling sering dilewati. Bawa daftar Anda ke janji temu, sampaikan apa yang dikatakan chatbot, dan biarkan dokter memutuskan apakah itu berlaku untuk Anda. Dokter saraf Wan, Dr. Nicholas Poolos, mengatakan kepada Times bahwa ia tidak akan mempertimbangkan menurunkan obat itu hingga berhenti, mengingat riwayatnya: "Itu malapraktik bagi saya jika menyuruh Anda berhenti minum obat padahal jelas-jelas berhasil."
Ketika ini bukan lagi sekadar pertanyaan
Beberapa situasi sama sekali tidak butuh percakapan dengan perangkat lunak. Gejala mendadak atau parah, nyeri dada, tanda-tanda stroke, anak yang kesulitan bernapas: hubungi nomor darurat setempat. NHS menyebut 999 untuk keadaan darurat yang mengancam jiwa seperti stroke dan serangan jantung, dan jika Anda tidak yakin, NHS 111 bisa memeriksa gejala Anda dan memberi tahu apa yang harus dilakukan (NHS). Di AS, itu berarti 911.
Kesehatan mental adalah tempat lain di mana kami menarik garis tegas. Chatbot bisa terdengar sabar dan baik hati pukul 3 pagi, dan justru itu yang membuatnya berisiko bagi orang yang sedang krisis: ia tidak bisa menelepon siapa pun, dan tidak bisa tahu kapan Anda sudah tidak baik-baik saja. Jika Anda berpikir untuk menyakiti diri sendiri, telepon atau kirim SMS ke 988 di AS, atau chat di 988lifeline.org. Lifeline gratis, rahasia, dan buka 24 jam sehari. Di luar AS, gunakan nomor darurat setempat atau layanan krisis nasional. Jika chatbot mengarahkan Anda menjauh dari menelepon hotline atau dokter, anggap itu tanda bahaya tentang chatbot-nya.
Jika Anda menginginkan aplikasi jurnal atau pelacak suasana hati ketimbang asisten umum, papan kesehatan mental dan mindfulness kami memeringkat alat yang dibuat untuk itu, meski tidak ada yang menggantikan terapis atau layanan krisis. Untuk melihat di mana AI membantu dunia medis dengan melibatkan tenaga kesehatan, lihat AI di bidang kesehatan.
Apa yang dijanjikan perusahaan, dan apa yang dibiarkan terbuka
Halaman bantuan OpenAI sendiri menyatakan Health di ChatGPT "dirancang untuk mendukung, bukan menggantikan layanan medis, dan tidak dimaksudkan untuk diagnosis atau pengobatan." Fitur ini tersedia bagi pengguna Free, Go, Plus, dan Pro yang memenuhi syarat dan sudah login di AS, yang dapat menghubungkan Apple Health dan rekam medis yang didukung. OpenAI menyatakan rekam medis yang terhubung dan informasi Apple Health, serta percakapan yang memakainya, "tidak digunakan untuk melatih foundation model kami atau menargetkan iklan, apa pun pengaturan pelatihan model yang Anda pilih." Percakapan kesehatan yang tidak memakai data terhubung mengikuti pengaturan pelatihan Anda yang biasa (OpenAI).
Versi Anthropic ditujukan untuk penggunaan yang sama. Pelanggan Claude Pro dan Max di AS dapat menghubungkan hasil lab dan rekam kesehatan lewat HealthEx dan Function, serta Apple Health dan Android Health Connect, agar Claude menjelaskan hasil dalam bahasa awam dan menyiapkan pertanyaan untuk janji temu. Anthropic menyatakan pengguna memilih ikut serta (opt in), dapat memutus koneksi kapan saja, dan bahwa "Kami tidak menggunakan data kesehatan pengguna untuk melatih model." Anthropic juga menyatakan Claude "dirancang untuk menyertakan penafian kontekstual, mengakui ketidakpastiannya, dan mengarahkan pengguna ke tenaga kesehatan untuk panduan yang dipersonalisasi" (Anthropic). Produk siap-HIPAA mereka adalah yang untuk enterprise bagi penyedia layanan dan perusahaan asuransi, bukan aplikasi konsumen.
Kami akan menunggu dulu sebelum menghubungkan rekam medis lengkap ke salah satunya. Hasil lab yang ditempel tanpa nama dan tanggal Anda sudah memberi hampir semua manfaatnya, tanpa sesuatu yang tak bisa Anda tarik kembali. Para penggugat dalam kasus Nelson menginginkan ChatGPT Health dihentikan sementara, jadi ini fitur yang masih diperdebatkan.
Ke mana kata-kata yang Anda ketik berakhir
Detail kesehatan termasuk hal paling pribadi yang akan Anda tempelkan ke kotak teks, dan pengaturan default-nya berbeda di tiap perusahaan. Ada satu kesamaan di ketiganya: masing-masing punya mode privat, dan masing-masing menyatakan tidak memakai chat itu untuk pelatihan model.
| Asisten | Chat Anda dapat dipakai ketika | Opsi privat | Catatannya |
|---|---|---|---|
| ChatGPT (Free, Plus, Pro) | Anda membiarkan "Improve the model for everyone" aktif | Temporary chat | Jempol naik atau turun dapat membuat seluruh percakapan memenuhi syarat untuk pelatihan, meski Anda sudah memilih keluar |
| Claude (Free, Pro, Max) | Anda memilih mengizinkannya, atau chat ditandai untuk tinjauan keamanan | Incognito chat | Percakapan umpan balik disimpan hingga 5 tahun |
| Gemini | Keep Activity aktif, dan sebagian ditinjau oleh manusia | Temporary chat | Chat yang ditinjau disimpan hingga tiga tahun; temporary chat tetap disimpan 72 jam |
Semua itu berasal dari halaman resmi masing-masing perusahaan: artikel penggunaan data OpenAI, penjelasan pelatihan dari Anthropic, dan pusat privasi Gemini dari Google. Google paling lugas soal ini: jika Keep Activity aktif, katanya, "jangan masukkan data yang bersifat rahasia atau yang tidak ingin Anda perlihatkan kepada peninjau atau digunakan Google untuk meningkatkan layanannya." Bahkan saat dimatikan, Google menyatakan chat tetap dipakai untuk merespons Anda dan melindungi Google serta penggunanya.
Ketentuan berubah, jadi baca halaman terbarunya sebelum memercayai tabel ini. Fitur memori menambah lapisan kedua, karena detail yang Anda sebut sekali bisa muncul lagi di chat berikutnya. Penjelasan kami tentang apa yang diingat asisten AI membahas cara melihat dan menghapusnya, dan kerangka privasi data membantu menentukan apa yang layak masuk ke chatbot. Jika Anda memakai ChatGPT, Claude atau Google Gemini untuk urusan kesehatan, buka mode privat lebih dulu dan jangan sertakan nama maupun nomor.
Untuk membandingkan pilihan, kami punya papan kesehatan dan kebugaran dan papan layanan kesehatan. Ada Health dan healthdirect Symptom Checker adalah alat pemeriksa gejala yang lebih sempit, dan itu tidak sama dengan lebih aman.
Pertanyaan yang sering diajukan
Amankah menanyakan gejala saya ke ChatGPT?
Aman untuk meminta bantuan menyusun pertanyaan. Tidak aman menerima kalimat menenangkan, atau diagnosis, sebagai akhir perkara. Jika gejalanya mendadak, parah, atau memburuk, lewati chatbot dan hubungi nomor darurat Anda atau NHS 111.
Bisakah chatbot menjelaskan hasil lab saya?
Bisa, dan itu salah satu penggunaan yang lebih baik. Tempelkan teksnya, minta arti dalam bahasa awam, dan tanyakan apa yang perlu diangkat ke dokter. Periksa hal yang mengejutkan di MedlinePlus, dan hapus nama serta tanggal Anda terlebih dahulu.
Bagaimana jika chatbot menyuruh saya berhenti atau menurunkan dosis obat?
Jangan. Tanyakan dulu kepada dokter yang meresepkan atau apoteker Anda dan sampaikan apa yang dikatakan chatbot. Menghentikan beberapa obat secara mendadak bisa berbahaya, persis seperti yang diperingatkan MedlinePlus tentang lamotrigine.
Haruskah saya mengunggah rekam medis saya?
Hanya jika Anda sudah membaca ketentuan kesehatan perusahaan itu dan nyaman dengannya. Menempelkan satu hasil dengan identitas dihapus adalah cara berisiko lebih rendah untuk mendapat sebagian besar manfaatnya.
Bolehkah memakai chatbot saat krisis kesehatan mental?
Tidak. Di AS, telepon atau kirim SMS ke 988, atau gunakan chat di 988lifeline.org. Jika seseorang dalam bahaya langsung, hubungi 911. Di tempat lain, gunakan nomor darurat setempat atau layanan krisis nasional.