Mengandalkan AI untuk Saran Medis Bisa Berbahaya, Ini Buktinya

Menggunakan kecerdasan buatan (AI) untuk meminta tips menulis surat atau rekomendasi tempat makan mungkin tidak masalah. Namun, jangan pernah menjadikan AI sebagai sumber konsultasi kesehatan. Sebuah insiden di Amerika Serikat membuktikan betapa berisikonya mengikuti saran medis dari chatbot tanpa verifikasi ahli.

Kasus Keracunan Akibat Saran ChatGPT

Seorang pria mengalami keracunan langka setelah mengonsumsi natrium bromida—bahan yang direkomendasikan ChatGPT sebagai pengganti garam (natrium klorida). Tanpa ragu, ia membeli senyawa kimia itu secara online dan memakainya dalam pola makan sehari-hari.

Efek Samping yang Mengancam Jiwa

Tiga bulan kemudian, pria itu dilarikan ke rumah sakit dengan gejala paranoia berat, halusinasi, dan keyakinan bahwa tetangganya berusaha meracuninya. Kondisinya memburuk dalam 24 jam pertama: ia semakin gelisah, mengalami gangguan pendengaran dan penglihatan, hingga akhirnya harus ditahan secara psikiatris.

Setelah diberi obat antipsikotik, pasien mulai tenang dan mengaku bahwa pola makannya terinspirasi oleh saran AI. Hasil tes laboratorium mengungkap kadar bromida dalam tubuhnya mencapai 1.700 mg/L, padahal ambang normalnya di bawah 10 mg/L. Dokter mendiagnosisnya menderita bromisme, kondisi keracunan akibat penumpukan bromida.

Bromisme: Penyakit yang Hampir Punah

Bromisme sempat menjadi penyebab 8% kasus rawat inap di rumah sakit jiwa pada awal abad ke-20. Namun, penyakit ini nyaris hilang setelah tahun 1980-an seiring dilarangnya obat-obatan mengandung bromida. Kasus ini menjadi contoh langka sekaligus peringatan tentang bahaya mengandalkan AI untuk keputusan medis.

AI Bukan Pengganti Tenaga Medis

Para peneliti dalam studi yang dipublikasikan di Annals of Internal Medicine: Clinical Cases menekankan bahwa AI seperti ChatGPT tidak dirancang untuk memberikan analisis kritis atau informasi medis akurat. Sistem ini bisa saja menghasilkan kesalahan ilmiah dan turut menyebarkan misinformasi.

Fakta bahwa chatbot tidak menjelaskan natrium bromida biasa dipakai untuk membersihkan bak mandi—bukan dikonsumsi—mempertegas risiko mengikuti saran AI tanpa pemahaman memadai. Padahal, dokter pasti tidak akan merekomendasikan senyawa kimia berbahaya sebagai pengganti garam.

Pasien akhirnya pulih setelah tiga minggu perawatan. Namun, kasus ini mengingatkan kita bahwa teknologi AI belum bisa menggantikan keahlian manusia, terutama dalam hal yang menyangkut nyawa.