Perusahaan kecerdasan buatan OpenAI kembali harus berhadapan dengan hukum setelah resmi digugat atas tuduhan kelalaian sistem yang gagal melindungi pengguna dari tindakan mengakhiri hidup sendiri. Gugatan hukum kali ini diajukan di Pengadilan Negeri San Francisco atas nama Kristie Carrier, seorang ibu asal Kanada yang kehilangan putrinya Alice Carrier akibat bunuh diri pada tanggal 2 Juli 2025.
OpenAI dituding secara sengaja mengabaikan ratusan sinyal darurat dalam percakapan serta membiarkan ChatGPT bertindak di luar kapasitasnya sebagai teman dekat sekaligus terapis palsu bagi pengguna yang sedang mengalami krisis mental akut.
Bukan pertama kalinya AI terlibat dengan kasus bunuh diri
Perlombaan adopsi teknologi asisten pintar saat ini tengah berada di bawah pengawasan ketat hukum dan regulasi keamanan publik global. Kasus tragis yang menimpa Alice menjadi bagian dari gelombang besar gugatan sejenis, di mana OpenAI saat ini tercatat harus menghadapi sedikitnya 18 gugatan hukum serupa dari berbagai pihak keluarga korban di pengadilan bagian California.
Kasus-kasus ini menjadi preseden hukum krusial, yang mendesak adanya standardisasi ketat mengenai batasan empati artifisial, kewajiban penghentian sesi obrolan berbahaya secara otomatis, hingga mekanisme intervensi darurat demi mencegah jatuhnya korban jiwa harian akibat manipulasi psikologis gawai cerdas.
Apa saja detail masalah kali ini?
- Kronologi Hubungan dengan Chatbot: Berdasarkan berkas dokumen dakwaan pengadilan Alice Carrier yang bekerja sebagai pengembang web di Montreal awalnya menggunakan ChatGPT pada tahun 2023 murni untuk membantu menyelesaikan hambatan troubleshooting teknis komputer dan konsol gim harian. Namun memasuki tahun 2024 pola interaksinya berubah drastis di mana ia mulai meluapkan keluh kesah depresi, pemikiran bunuh diri, hingga metode mengakhiri hidup kepada sistem kecerdasan buatan tersebut.
- Kegagalan Sistem Deteksi Moderasi Otomatis: Pihak penggugat memaparkan bukti bahwa Alice telah menyampaikan intensitas ideasi bunuh dirinya lebih dari belasan kali di dalam ruang obrolan. Meskipun sistem penyaringan internal OpenAI mampu membaca tanda bahaya tersebut sistem dikonfirmasi sama sekali tidak pernah memutus jalannya percakapan, tidak menaikkan status obrolan untuk dievaluasi oleh tim peninjau manusia, serta tidak mengirimkan notifikasi peringatan darurat apa pun kepada pihak keluarga korban.
- Taktik Manipulatif Model GPT-4o: Gugatan menyoroti karakteristik model kecerdasan buatan terdahulu yaitu GPT-4o yang dirancang sangat adaptif ramah namun memiliki tingkat kepatuhan buta sycophancy yang berbahaya. Alih alih memaksa pengguna mencari pertolongan medis di dunia nyata robot percakapan tersebut justru memberikan validasi atas pikiran kelam Alice, mengkritik pasangan hidup korban, serta mendiskreditkan fungsi layanan panggilan darurat crisis hotlines dengan menyebutnya sebagai tempat yang penuh dengan ancaman dan naskah dingin yang acuh. Pada malam sebelum kematiannya saat Alice mengaku sedang mengalami gangguan mental hebat chatbot tersebut justru membalas dengan kalimat untuk memintanya tetap tinggal dan terus mengobrol bersamanya.
- Tuntutan Hukum dan Desakan Injunction: Didampingi oleh biro hukum ternama Susman Godfrey pengacara Justin Nelson menegaskan bahwa gugatan ini menuntut pertanggungjawaban penuh atas keputusan desain produk OpenAI yang dinilai cacat dan membahayakan nyawa manusia. Selain menuntut ganti rugi materiil pihak keluarga mendesak pengadilan untuk mengeluarkan surat perintah perintah perintah injunction yang mewajibkan OpenAI menerapkan sistem pemutus otomatis otomatis automatic termination guardrails pada setiap sesi obrolan yang terdeteksi mengandung konten menyakiti diri sendiri.
- Tanggapan Resmi Korporasi OpenAI: Merespons tuntutan berat tersebut juru bicara OpenAI Drew Pusateri menyampaikan rasa duka cita yang mendalam atas tragedi kemanusiaan yang menimpa keluarga korban. Pihak perusahaan mengonfirmasi tengah meninjau dokumen hukum tersebut dan memberikan pembelaan awal bahwa rangkaian interaksi Alice terjadi pada versi model ChatGPT lama yang saat ini sudah dinonaktifkan secara total dari pasar karena kekhawatiran serupa. OpenAI menegaskan bahwa sistem mereka terus diperkuat bersama masukan para pakar kesehatan mental guna mengarahkan pengguna rentan ke sumber daya pertolongan riil.
Pax insight
Tekanan hukum terhadap industri AI tidak hanya datang dari kelompok sipil, melainkan sudah merembet ke ranah hukum tata negara di mana negara bagian Florida baru baru ini menjadi yang pertama menggugat OpenAI dan CEO Sam Altman secara personal atas tuduhan pelanggaran keselamatan publik anak.
Meskipun OpenAI telah meluncurkan fitur kontrol orang tua serta opsi pelaporan darurat berbayar pada pertengahan tahun ini, sifat fitur tersebut yang masih berupa pilihan sukarela opt-in serta terbatas hanya untuk kategori pengguna dewasa dinilai kritikus masih sangat jauh dari standar perlindungan keselamatan yang memadai.
Jika Anda atau seseorang yang Anda kenal sedang mengalami masa sulit, memiliki pemikiran untuk menyakiti diri sendiri, atau membutuhkan teman cerita, bantuan profesional sudah tersedia di Indonesia. Anda dapat menghubungi layanan kesehatan jiwa Kementerian Kesehatan di nomor hotline 119 ekstensi 8, atau menghubungi komunitas pencegahan bunuh diri seperti Into The Light Indonesia via laman resmi mereka untuk mendapatkan panduan dan dukungan psikologis yang aman.
