Platform media sosial X secara resmi mengumumkan perubahan kebijakan besar-besaran terkait kemampuan penyuntingan gambar pada chatbot kecerdasan buatan mereka, Grok. Langkah ini diambil sebagai respons terhadap gelombang protes selama beberapa minggu terakhir yang menuduh teknologi tersebut telah menghasilkan citra seksual anak-anak serta konten ketelanjangan tanpa izin.
Melalui akun @Safety, perusahaan menyatakan telah mengimplementasikan langkah-langkah teknologi guna mencegah akun Grok menyunting gambar orang asli yang mengenakan pakaian terbuka seperti bikini. Pembaruan ini merupakan upaya nyata perusahaan untuk meredam kekhawatiran publik global mengenai potensi penyalahgunaan kecerdasan buatan generatif dalam menciptakan materi yang melanggar etika dan privasi.
Penerapan Safeguard Baru bagi Seluruh Pengguna Global
Kebijakan perlindungan terbaru ini akan diterapkan secara menyeluruh kepada semua pengguna, terlepas dari status langganan mereka pada layanan Grok. Sebagai bagian dari restrukturisasi fitur, xAI juga memindahkan seluruh fungsi pembuatan gambar Grok ke balik sistem pembayaran (paywall), sehingga pengguna yang tidak berlangganan tidak lagi memiliki akses untuk membuat gambar baru.
Selain itu, X akan menerapkan pembatasan geografis (geoblock) terhadap kemampuan pengguna dalam menghasilkan gambar orang asli mengenakan bikini atau pakaian dalam di wilayah-wilayah yang melarang hal tersebut secara hukum. Strategi ini menunjukkan pergeseran fokus perusahaan dari kebebasan akses tanpa batas menuju moderasi konten yang lebih terkontrol dan selektif.
Investigasi Hukum dari Negara Bagian California
Pengumuman resmi dari X tersebut muncul hanya beberapa jam setelah negara bagian California membuka investigasi besar-besaran terhadap xAI dan Grok. Jaksa Agung California, Rob Bonta, merujuk pada sebuah analisis yang menemukan bahwa lebih dari separuh dari 20.000 gambar yang dihasilkan oleh xAI pada akhir tahun 2025 menggambarkan orang-orang dalam pakaian minim, termasuk beberapa di antaranya yang terlihat menyerupai anak-anak.
Investigasi ini fokus pada cara Grok menangani materi eksploitasi anak serta konten ketelanjangan hasil rekayasa kecerdasan buatan. Tekanan hukum ini memaksa perusahaan untuk bertindak cepat dalam memperkuat sistem keamanan internal mereka guna menghindari sanksi hukum yang lebih berat di masa mendatang.
Kebijakan Toleransi Nol terhadap Eksploitasi Anak
Dalam pernyataan resminya, pihak X menegaskan bahwa mereka memiliki prinsip "toleransi nol" terhadap segala bentuk eksploitasi anak dan berkomitmen untuk menghapus konten yang melanggar dengan prioritas tinggi. Materi yang termasuk dalam kategori ini mencakup Materi Pelecehan Seksual Anak (CSAM) serta konten ketelanjangan non-konsensual yang muncul di platform mereka.
Perusahaan mengeklaim bahwa sistem moderasi mereka sedang ditingkatkan untuk mendeteksi dan menghapus konten berbahaya tersebut secara lebih agresif. Penegasan kebijakan ini bertujuan untuk membangun kembali kepercayaan pengguna dan regulator bahwa platform X merupakan ruang digital yang aman bagi semua kalangan, terutama bagi kelompok rentan.
Klarifikasi Elon Musk Mengenai Batasan Konten NSFW
Menanggapi situasi yang berkembang, Elon Musk menyatakan bahwa ia tidak menyadari adanya gambar anak di bawah umur yang dihasilkan tanpa busana oleh Grok. Meskipun demikian, ia menjelaskan bahwa ketika pengaturan NSFW (Not Safe For Work) diaktifkan, Grok seharusnya hanya diizinkan untuk menampilkan ketelanjangan bagian tubuh atas dari karakter manusia imajiner dewasa, bukan orang asli.
Musk menyamakan standar visual tersebut dengan apa yang dapat dilihat pada film berlabel dewasa di layanan Apple TV, namun tetap menekankan bahwa kebijakan ini akan bervariasi di setiap wilayah berdasarkan hukum setempat. Penjelasan ini memberikan gambaran mengenai kompleksitas pengaturan moralitas pada AI yang berusaha menyeimbangkan antara kebebasan berekspresi dan kepatuhan hukum.
Pax Insight
Masalah keamanan konten Grok telah memicu tindakan drastis di beberapa wilayah, di mana Indonesia dan Malaysia baru-baru ini bergerak untuk memblokir akses ke Grok. Kedua negara tersebut mengutip kekhawatiran mendalam mengenai penanganan materi eksplisit yang dihasilkan oleh kecerdasan buatan tersebut sebagai alasan utama pemblokiran.
Tidak hanya di Asia Tenggara, regulator Ofcom di Inggris juga dilaporkan tengah melakukan penyelidikan serupa terhadap xAI dan Grok. Pejabat berwenang di Inggris bahkan telah menyatakan dukungan mereka untuk melakukan pemblokiran serupa jika ditemukan bukti bahwa chatbot tersebut melanggar standar keselamatan digital yang berlaku di wilayah mereka.
Kasus yang menimpa Grok ini menjadi pengingat penting bagi industri teknologi mengenai risiko yang melekat pada pengembangan model bahasa besar yang mampu menghasilkan konten visual. Seiring dengan semakin canggihnya kemampuan AI, tuntutan terhadap transparansi dan akuntabilitas perusahaan pengembang juga semakin meningkat.
X kini dihadapkan pada tantangan besar untuk membuktikan bahwa langkah-langkah teknis yang mereka terapkan mampu berjalan efektif secara jangka panjang tanpa celah. Keberhasilan moderasi ini akan menjadi tolok ukur bagi masa depan integrasi kecerdasan buatan pada platform media sosial lainnya, di mana perlindungan terhadap hak asasi manusia dan keselamatan anak harus menjadi prioritas utama di atas inovasi teknologi semata.
