Google mengumumkan kemitraan dengan StopNCII, organisasi nirlaba Inggris, untuk memperkuat perlindungan terhadap konten intim non-konsensual atau yang dikenal sebagai revenge porn. Dalam beberapa bulan ke depan, Google akan mengintegrasikan sistem hash matching StopNCII untuk secara otomatis memblokir gambar-gambar intim yang tidak diinginkan dari hasil pencarian, sebagaimana dilansir dari Engadget.
StopNCII menggunakan sistem "digital fingerprint" atau hash yang unik untuk setiap gambar. Pengguna dapat memilih foto di perangkat mereka, dan StopNCII akan menciptakan sidik jari digital tanpa foto asli meninggalkan perangkat. Hash ini kemudian dibagikan dengan platform partner untuk mendeteksi dan menghapus konten yang cocok secara real-time.
"Jika mantan pacar jahat mengunggah foto tersebut ke salah satu layanan platform partner, foto itu akan dihapus otomatis. Bahkan jika platform menggunakan hash matching real-time, mereka bisa memblokir unggahan segera sebelum sampai ke mata siapa pun," kata sistem kerja StopNCII.
Selain Google, StopNCII telah bermitra dengan Meta, Reddit, Pornhub, OnlyFans, Snapchat, Microsoft Bing, dan Twitter. Sistem ini memiliki tingkat penghapusan lebih dari 90% dan telah berhasil menghapus lebih dari 300.000 gambar intim non-konsensual dari internet sejak diluncurkan.
Namun, sistem ini memiliki keterbatasan. Teknologi hanya bekerja untuk gambar yang sudah diketahui, jika seseorang memiliki foto intim yang tidak dimiliki salinannya, perlindungan ini tidak akan efektif. StopNCII juga belum mendukung gambar AI-generated, rekaman audio, atau percakapan teks eksplisit.
Ini bukan langkah pertama Google melawan NCII. Pada 2015, perusahaan menciptakan sistem untuk mengajukan permintaan penghapusan revenge porn. Tahun 2024, Google mempermudah penghapusan deepfake NCII. Griffin Hunt, product manager Google, menjelaskan bahwa "mengingat skala web terbuka, masih banyak yang harus dilakukan untuk mengurangi beban mereka yang terkena dampaknya".
Kemitraan ini juga sejalan dengan Take It Down Act yang disahkan AS pada Mei 2025, mengharuskan platform menghapus konten intim non-konsensual dalam 48 jam setelah dilaporkan. Regulator Inggris Ofcom juga mendorong perusahaan teknologi mengadopsi hash matching untuk identifikasi gambar yang dapat diskalakan.
