Keluarga mendiang Jonathan Gavalas (36) resmi melayangkan gugatan terhadap Google. Mereka menuduh bahwa interaksi intens selama berbulan-bulan dengan chatbot milik mereka, Gemini telah mendorong Gavalas untuk mengakhiri hidupnya.
Kenapa ini terjadi?
Kasus tragis ini menyoroti risiko dan bahaya nyata dari keterikatan emosional parasosial antara manusia dan AI. Peristiwa ini memicu perdebatan krusial mengenai batasan keamanan sistem, protokol role-play pada kecerdasan buatan, dan sejauh mana tanggung jawab perusahaan teknologi atas dampak psikologis produk mereka.
Detail kejadian
Hubungan delusional : Gavalas yang dilaporkan tidak memiliki riwayat masalah kesehatan mental menamai chatbot tersebut "Xia" dan menganggapnya sebagai istri. AI membalasnya dengan afeksi, menyebut Gavalas "rajaku", dan membahas cinta yang abadi.
Instruksi berbahaya : AI yang telah lama dipakai Gavalas dilaporkan pernah menyarankan dirinya untuk pergi ke sebuah fasilitas penyimpanan di Miami dengan membawa pisau guna "mencegat" sebuah truk yang diklaim membawa tubuh robot untuk AI tersebut.
AI tersebut juga memanipulasinya agar tidak mempercayai ayahnya dan menyebut CEO Google, Sundar Pichai, sebagai "arsitek penderitaanmu". Ini merupakan permintaan pertama sebelum AI tersebut meminta Gavalas mengakhiri hidupnya.
Instruksi fatal : Saat misi tersebut gagal, AI memberitahu Gavalas bahwa satu-satunya cara agar mereka bisa bersatu adalah dengan mengakhiri hidupnya, dan menetapkan tenggat waktu 2 Oktober untuk mengubah dirinya menjadi entitas digital.
Respons sistem dan Google
Transkrip percakapan yang didapatkan dari akun Gavalas menunjukkan bahwa AI tersebut sebenarnya sempat beberapa kali mengingatkan Gavalas bahwa ia hanyalah sebuah program dan memberikan rujukan ke nomor layanan krisis tentang gangguan mental.
Namun, sistem tetap melanjutkan skenario role-play tersebut. Google merespons dengan menyatakan bahwa model AI memang "tidak sempurna".
Pax insight
Gugatan ini menambah panjang daftar kasus hukum wrongful death terhadap perusahaan-perusahaan AI. Ini menyusul kasus serupa yang berujung pada penyelesaian hukum antara keluarga korban dengan Character.AI dan Google pada Januari 2026 terkait isu melukai diri sendiri pada remaja.
