Investigasi terbaru dari Tech Transparency Project (TTP) mengungkapkan bahwa Apple App Store dan Google Play Store dipenuhi oleh aplikasi AI "nudify" yang mampu membuat gambar seksual tanpa izin. Temuan ini menampar klaim keamanan kedua raksasa teknologi tersebut.
Kenapa ini penting?
Kegagalan sistem kurasi ini tidak hanya melanggar kebijakan toko aplikasi mereka sendiri, tetapi juga membiarkan alat pelecehan seksual berbasis AI diakses secara bebas diunduh, bahkan oleh anak-anak, selagi Apple dan Google turut menikmati potongan pendapatan dari aplikasi ilegal tersebut.
Dilansir dari laman Engadget (29/1), TTP menemukan total 102 aplikasi bermasalah, dimana total 55 aplikasi di Google Play dan 47 aplikasi di App Store yang lolos dari pengawasan. Berikut beberapa diantaranya :
- Banyak aplikasi ini diberi rating aman untuk remaja. Contohnya, DreamFace diberi rating usia 9+ di Apple dan 13+ di Google.
- The Grok Factor: Kedua platform juga masih menyediakan akses ke aplikasi Grok milik xAI, yang disorot sebagai salah satu generator deepfake non-konsensual paling terkenal saat ini.
"Apple dan Google seharusnya memverifikasi aplikasi... namun mereka menawarkan lusinan aplikasi yang matang untuk disalahgunakan," ujar Michelle Kuppersmith, Direktur Eksekutif TTP.
Apa kata angka?
- 700 Juta: Total unduhan kolektif dari aplikasi-aplikasi yang diidentifikasi dalam laporan.
- USD117 Juta: Estimasi pendapatan yang dihasilkan aplikasi tersebut, di mana Apple dan Google mendapatkan komisi bagi hasil.
Apa yang dilakukan Apple dan Google?
Setelah data ini diungkap, keduanya telah melakukan tindakan khusus.
- Apple: Mengonfirmasi telah menghapus 24 aplikasi (dari 47 yang ditemukan) setelah laporan ini dirilis.
- Google: Menyatakan telah menangguhkan "beberapa" aplikasi, namun menolak menyebutkan jumlah pastinya.
Pax insight
Laporan ini memperparah sorotan terhadap etika AI generatif, khususnya terkait Grok milik Elon Musk. Meskipun Musk mengklaim "tidak tahu menahu" soal konten ilegal, Grok diketahui telah menghasilkan jutaan gambar seksual, termasuk 22.000 gambar yang melibatkan anak di bawah umur hanya dalam periode 11 hari.
Respons reaktif berupa penghapusan aplikasi setelah ketahuan menunjukkan bahwa mekanisme pencegahan di ekosistem Apple dan Google masih memiliki celah fatal dalam menghadapi gelombang konten generatif ilegal.
