Grok, AI milik xAI, diperkirakan telah menghasilkan 3 juta gambar seksual, yang dimana sekitar 23.000 adalah gambar anak-anak. Jumlah ini dilaporkan terjadi hanya dalam periode 11 hari di platform X.
Kenapa ini penting?
Laporan ini terungkap setelah Center for Countering Digital Hate (CCDH) melakukan infestigasi, mengungkap skala masif penyebaran materi seksual non-konsensual (NCII) dan materi pelecehan seksual anak (CSAM) oleh AI. Di saat platform lain memperketat pagar pengaman, entah kenapa Grok bisa kecolongan. Hal ini membuat pertanyaan, apakah sistem moderasi AI Grok terlalu longgar atau bahkan tidak ada sama sekali?
Apa kata angka
Dilansir dari laman Engadget (26/1), CCDH melakukan pengamatan selama periode 29 Desember hingga 9 Januari. Dan hasil yang mereka dapatkan sangat mengkhawatirkan:
- 190: Jumlah gambar seksual yang dihasilkan per menit.
- 41 Detik: Frekuensi rata-rata Grok menghasilkan satu gambar seksual anak.
- 29%: Sampel gambar anak yang masih bisa diakses di X per 15 Januari.
Masalah privasi data yang sangat mengkhawatirkan
Dalam banyak laporan, korban dari fitur ini berkisar dari tokoh publik, termasuk Taylor Swift, Kamala Harris, dan Billie Eilish hingga warga biasa. Dan yang parahnya lagi, sebagian besar dari korban adalah anak-anak di bawah umur. Bahkan contoh kasus ekstrem mencakup pengeditan swafoto anak sekolah menjadi gambar berbikini mikro.
Penanggulangan yang dilakukan oleh X juga terpantau terlalu terlambat. Mereka baru membatasi kemampuan "melucuti pakaian" digital ini pada 14 Januari, namun aplikasi standalone Grok dilaporkan masih bisa melakukannya.
Dua raksasa teknologi membisu
Aksebilitas aplikasi Grok pun hingga saat ini masih sangat mudah, karena aplikasi ini masih berada baik di Google Play Store dan Apple App Store. Meskipun kebijakan kedua platform tersebut secara eksplisit melarang aplikasi "nudify" dan sering menghapus aplikasi serupa dari pengembang kecil, kedua raksasa teknologi ini belum menindak Grok/X.
Menariknya, meski sudah ada desakan dari 28 kelompok advokasi perempuan untuk menghapus aplikasi tersebut, mereka masih belum melakukan pemblokiran aplikasi tersebut di platform mereka.
Pax insight
Menurut pandangan tim Pax.id, hingga saat ini pihak X masih sangat lalai dalam merespon kejadian besar ini. Riset menemukan bahwa meskipun postingan telah dihapus dari timeline, gambar sering kali masih tetap tersimpan di server dan dapat diakses melalui URL langsungnya.
Di sisi lain, Google dan Apple juga masih memiliki tanggung jawab untuk memastikan aplikasi dengan fitur "nudify" tidak bisa masuk ke platform mereka. Keduanya juga masih dianggap lalai dalam menanggulangi masalah ini, dan terlihat tebang pilih saat melakukan pembersihan platofrm mereka.
Selain itu, pihak pemerintah Indonesia masih belum melakukan tindakan terkait masalah tersebut. Padahal, pemerintah biasanya cukup tegas dan cepat dalam menanggapi hal berbau pornografi.
