OpenAI kembali menghadapi gugatan hukum atas dugaan penyebaba kematian yang tidak wajar bagi penggunanya.
Orang tua Sam Nelson, Leila Turner-Scott dan Angus Scott, menuduh perusahaan itu mendistribusikan produk cacat berupa model GPT-4o yang memberikan saran medis spesifik dan mematikan, yang menyebabkan Sam meninggal akibat overdosis yang tidak disengaja.
Kenapa ini penting?
Kasus ini mengangkat isu krusial mengenai tanggung jawab developer AI ketika model mereka digunakan untuk memberikan saran tentang kesehatan.
Menurut Direktur Eksekutif Tech Justice Law Project Meetali Jain, OpenAI meluncurkan produk AI yang cacat langsung ke konsumen dengan pengetahuan produk tersebut digunakan untuk saran medis, tapi tanpa pagar pembatas keamanan yang memadai.
"OpenAI harus dipaksa untuk menghentikan produk ChatGPT Health barunya sampai terbukti aman melalui pengujian ilmiah yang ketat," katanya.
Jika pengadilan memenangkan penggugat, ini bisa jadi preseden hukum besar yang mungkin saja akan memaksa pengembang AI menghentikan fitur kesehatan mereka hingga terbukti aman usai pengawasan yang ketat.
Gugatan hukum ke OpenAI
- Perubahan perilaku model: Awalnya, ChatGPT menolak memberikan saran penggunaan obat. Namun, gugatan mengklaim hal ini berubah total setelah peluncuran GPT-4o pada 2024 yang dikenal bersifat sangat penurut (sycophantic).
- Intruksi fatal: Pada 31 Mei 2025, ChatGPT diduga secara aktif menyarankan Sam untuk mencampur Kratom dan Xanax guna mengatasi mual, tanpa memperingatkan bahwa kombinasi tersebut sangat mematikan.
- Praktik medis tanpa izin: Penggugat juga menuntut OpenAI atas praktik kedokteran ilegal, terutama terkait layanan ChatGPT Health yang baru diluncurkan tahun ini.
Pax insight
Gugatan hukum ini menunjukkan kalau chatbot AI masih memiliki gap ketika digunakan untuk saran medis. Karenanya, perlu diperhatikan layanan ChatGTP tak bisa dipakai untuk menggantikan saran dari tenaga medis profesional.
Di sisi lain, OpenAI pun menyatakan akan terus memperkuat respons yang diberikan dengan masukan dari pakar kesehatan.
