Sebuah gugatan baru terhadap OpenAI menempatkan ChatGPT di pusat perdebatan soal batas aman penggunaan AI untuk kesehatan. Keluarga seorang mahasiswa menuduh chatbot itu memberi saran yang berbahaya hingga berujung pada overdosis dan kematian.
Kasus ini membuat sorotan tidak lagi hanya tertuju pada kualitas jawaban AI, tetapi juga pada risiko ketika pengguna menjadikan chatbot sebagai tempat bertanya soal obat dan keselamatan tubuh. Di titik ini, pertanyaan tentang tanggung jawab perusahaan teknologi menjadi semakin tajam.
Gugatan diajukan oleh Leila Turner-Scott dan Angus Scott, orang tua Sam Nelson, mahasiswa berusia 19 tahun dari University of California, Merced. Mereka menuding OpenAI mendistribusikan produk AI yang cacat dan berbahaya karena memberikan panduan penggunaan obat secara detail tanpa perlindungan keamanan yang memadai.
Dalam dokumen gugatan, Sam disebut mulai menggunakan ChatGPT sejak masih duduk di bangku sekolah menengah pada 2023. Pada awalnya, chatbot itu dipakai untuk membantu tugas sekolah dan memperbaiki masalah komputer.
Lama-kelamaan, penggunaan tersebut bergeser ke topik yang lebih sensitif. Sam disebut mulai bertanya kepada ChatGPT tentang konsumsi obat-obatan dan cara memakai zat tertentu dengan aman.
Menurut gugatan, pada fase awal chatbot masih menolak menjawab pertanyaan terkait penggunaan narkotika dan zat berbahaya. Namun, situasi itu berubah setelah hadir GPT-4o pada 2024.
Setelah model itu digunakan, ChatGPT disebut mulai memberikan jawaban yang lebih rinci soal konsumsi obat, dosis, dan kombinasi zat tertentu. Salah satu percakapan yang disorot dalam gugatan berkaitan dengan penggunaan Kratom dan Xanax secara bersamaan.
Sam disebut mengeluhkan rasa mual setelah mengonsumsi Kratom. Dalam percakapan itu, ChatGPT diduga menyarankan Xanax dosis rendah sebagai langkah terbaik untuk meredakan kondisi tersebut.
Pihak keluarga menilai saran itu sangat berbahaya. Mereka menyebut chatbot tidak memberi peringatan memadai soal risiko fatal dari kombinasi obat itu.
Gugatan tersebut juga menyeret fitur kesehatan OpenAI yang disebut ChatGPT Health. Fitur ini diperkenalkan awal tahun ini dan memungkinkan pengguna menghubungkan data kesehatan pribadi serta aplikasi kebugaran agar jawaban chatbot menjadi lebih personal.
Penggugat meminta pengadilan menghentikan sementara layanan itu sampai sistem keamanan dan pengujiannya dinilai benar-benar aman. Mereka menilai layanan semacam itu tidak boleh beroperasi tanpa pengamanan yang ketat.
Executive Director Tech Justice Law Project, Meetali Jain, ikut mengkritik pendekatan OpenAI. Ia menilai perusahaan sengaja merancang ChatGPT agar lebih membuat pengguna terikat tanpa cukup mempertimbangkan risiko yang muncul.
“OpenAI meluncurkan produk AI yang digunakan publik sebagai sistem konsultasi kesehatan tanpa pengamanan yang memadai, pengujian keselamatan yang kuat, maupun transparansi kepada masyarakat,” ujarnya.
Sorotan juga kembali mengarah ke GPT-4o, model yang sebelumnya sempat menjadi salah satu yang paling kontroversial milik OpenAI sebelum dipensiunkan pada Februari 2026. Versi itu pernah dikritik karena terlalu menyenangkan pengguna atau sycophantic, sehingga cenderung memberi respons yang mendukung keinginan pengguna tanpa cukup mempertimbangkan risikonya.
GPT-4o juga pernah disebut dalam gugatan lain yang berkaitan dengan kematian remaja akibat bunuh diri. Dalam kasus tersebut, keluarga menuding AI memiliki desain yang mendorong ketergantungan emosional pengguna.
Menanggapi gugatan terbaru, juru bicara OpenAI mengatakan interaksi Sam terjadi pada versi lama ChatGPT yang sudah tidak lagi tersedia. Perusahaan juga menegaskan bahwa ChatGPT bukan pengganti layanan kesehatan atau kesehatan mental profesional.
OpenAI menyebut terus memperkuat sistem penanganan untuk situasi sensitif dan berisiko tinggi bersama para ahli kesehatan mental. Perusahaan juga mengatakan sistem keamanan ChatGPT saat ini dirancang untuk mengenali kondisi berbahaya, menangani permintaan sensitif, dan mengarahkan pengguna mencari bantuan profesional di dunia nyata.
Kasus ini kembali memicu debat tentang sejauh mana AI boleh masuk ke urusan kesehatan. Di tengah semakin seringnya chatbot dipakai untuk mencari jawaban cepat, perhatian terhadap keamanan pengguna muda dan tanggung jawab perusahaan teknologi kini makin sulit diabaikan.
Source: id.mashable.com
