OpenAI resmi meluncurkan Child Safety Blueprint menanggapi meningkatnya ancaman keselamatan anak di era AI. Inisiatif ini dirancang untuk mempercepat deteksi, pelaporan, dan investigasi kasus eksploitasi anak yang difasilitas oleh kecerdasan buatan.
Kenapa ini penting?
Kasus eksploitasi anak berbasis AI terus meningkat tajam. Menurut Internet Watch Foundation, ada lebih dari 8.000 laporan konten pelecehan hasil AI pada pertama 2025, naik 14 persen dari tahun sebelumnya.
Selain itu, penjahat kini juga memanfaatkan AI untuk membuat gambar eksplisit palsu yang digunakan untuk pemerasan (sextortion), serta menyusun pesan untuk aksi grooming.
Blueprint keamanan anak dari OpenAI
- Tekanan hukum: Langkah OpenAI ini muncul setelah perusahaan menghadapi tujuh gugatan di California terkait GPT-4o, yang dituduh berkontribusi pada kematian akibat bunuh diri dan delusi parah pada pengguna muda.
- Kolaborasi: Pengembangan cetak biru ini melibatkan National Center for Missing and Exploited Children (NCMEC) serta para Jaksa Agung dari berbagai negara bagian di Amerika Serikat.
- Fokus utama: Blueprint ini fokus pada upaya memperbarui undang-undang agar mencakup materi pelecehan buatan AI, menajamkan mekanisme pelaporan langsung ke penegak hukum, hingga mengintegrasikan pengaman preventif dalam sistem AI.
- Komitmen global: Inisiatif ini merupakan komitmen global OpenAI setelah sebelumnya perusahaan menghadirkan blueprint serupa khusus remaja di India.
Pax insight
OpenAI akan mendorong integrasi pengamanan sistem yang lebih ketat untuk mencegah pembbuatan konten self harm, termasuk saran yang membantu remaja menyembunyikan perilaku tidak aman dari orang tua.
Dengan cetak biru ini pula, perusahaan ingin membangun pagar keamanan yang lebih tinggi, terutama remaja dan anak-anak yang dianggap generasi paling rentan di dunia digital.
