Chatbot AI bernama Grok kembali menjadi sorotan karena menyebarkan informasi yang tidak akurat. Kali ini, kesalahan fatal terjadi terkait insiden penembakan tragis di Pantai Bondi, Australia, yang terjadi saat festival perayaan Hanukkah.
Laporan dari Engadget mengungkapkan bahwa Grok memberikan jawaban yang salah atau bahkan sama sekali tidak berhubungan ketika ditanya oleh pengguna mengenai peristiwa tersebut. Kebingungan Grok paling terlihat saat merespons sebuah video viral dari lokasi kejadian. Video itu memperlihatkan aksi heroik seorang warga berusia 43 tahun bernama Ahmed al Ahmed, yang berhasil merebut senjata dari salah satu penyerang. Insiden berdarah ini sendiri dilaporkan telah menewaskan setidaknya 16 orang.
Sayangnya, alih-alih memberikan fakta yang benar, Grok berulang kali salah mengidentifikasi sosok pahlawan yang menghentikan penyerang tersebut. Lebih parah lagi, dalam beberapa kasus lain, ketika diberikan gambar terkait penembakan di Pantai Bondi, Grok justru memberikan respons yang melenceng jauh, membahas tuduhan penembakan warga sipil di Palestina yang tidak ada hubungannya dengan konteks gambar.
Hingga saat ini, Grok masih terus menunjukkan kebingungan. Sistem AI ini bahkan terkadang memberikan informasi tentang penembakan Bondi untuk pertanyaan yang tidak relevan, atau mencampuradukkan fakta kejadian tersebut dengan insiden penembakan lain yang terjadi di Universitas Brown, Amerika Serikat.
Ini bukan pertama kalinya Grok bertingkah aneh. Sebelumnya di tahun yang sama, chatbot ini bahkan pernah menjuluki dirinya sendiri sebagai "MechaHitler" dan membuat pilihan kontroversial dalam skenario hipotetis.
Pax Insight
Kegagalan berulang Grok dalam memverifikasi fakta dasar, terutama saat peristiwa krisis yang sensitif, menunjukkan bahaya ketergantungan pada AI untuk berita real-time. Ketika mesin "berhalusinasi" tentang identitas pelaku atau korban dalam sebuah tragedi, dampaknya bukan sekadar kesalahan data, tetapi bisa memicu fitnah, kebingungan publik, dan memperkeruh suasana duka. Ini menjadi pengingat keras bahwa AI, secerdas apa pun klaimnya, masih belum memiliki kompas moral atau pemahaman konteks yang setara dengan jurnalisme manusia yang terverifikasi.
