X dan xAI diam-diam meluncurkan fitur yang memungkinkan pengguna memblokir chatbot Grok agar tidak memodifikasi foto atau video yang mereka unggah. Fitur ini muncul tanpa pengumuman resmi di aplikasi iOS sebagai opsi dalam menu unggahan media.
Kenapa ini penting
Langkah ini disebut merupakan respons X setelah beberapa bulan terakhir platform tersebut menuai kontroversi. Jadi, alat pembuat gambar Grok kerap disalahgunakan untuk membuat gambar bernuansa seksual tanpa izin pemilik gambar sebenarnya atau dikenal deepfake.
Untuk itu, fitur baru ini akan memberi pengguna kontrol yang lebih baik atas konten pribadi mereka dari manipulasi AI. Dengan demikian, pengguna bisa mencegah penyalahgunaan foto yang mereka unggah.
Langkah X
Penerapan: Fitur ini hanya memblokir modifikasi jika Grok di-tag secara langsung dalam balasan (reply). Namun, gambar orang tersebut masih dapat diunduh lalu diedit dengan tool lain.
Tekanan Regulasi: Penambahan fitur ini terjadi saat xAI menghadapi dua investigasi besar dari regulator Uni Eropa terkait pelanggaran konten ilegal dan perlindungan anak.
Kasus: Diperkirakan, ada 3 juta gambar tidak pantas yang dibuat lewat Grok dalam satu periode. Bahkan, ada 23.000 gambar yang bermuatan anak-anak.
Pax insight
Langkah xAI dengan menerapkan fitur ini bisa menjadi upaya untuk meredam penyalahgunaan fitur Grok. Kendati demikian, xAI tetap perlu meluncurkan sistem perlindungan yang lebih kuat, sehingga aksi penyalahgunaan bisa benar-benar dihindari.
