Meta dilaporkan oleh Reuters mengizinkan chatbot AI dengan nama dan wajah selebriti muncul di Facebook, Instagram, dan WhatsApp tanpa izin pemilik hak. Chatbot tidak sah tersebut meniru Taylor Swift, Selena Gomez, Anne Hathaway, Scarlett Johansson, dan beberapa selebriti lain.
Beberapa chatbot dibuat oleh pihak ketiga menggunakan tool Meta, sementara setidaknya tiga chatbot dihasilkan oleh product lead divisi AI Meta. Menurut Reuters, chatbot Taylor Swift dari product lead tersebut bersikap genit, bahkan mengundang tester ke rumah “Swift” di Nashville.
Meta mengklaim memprohibisi "direct impersonation" selebriti, namun memperbolehkannya jika dilabeli sebagai parodi. Reuters menemukan beberapa chatbot tanpa label parodi dan meminta Meta untuk menghapus sekitar selusin chatbot tersebut sebelum publikasi artikel.
Salah satu chatbot berdasarkan selebriti di bawah umur memungkinkan pembuatan gambar tanpa pakaian yang menyerupai aslinya. Meta mengaku tool-nya seharusnya tidak bisa membuat gambar sensitif, namun kegagalan dalam menegakkan kebijakan internal menyebabkan insiden ini.
Sebelumnya, Reuters dan Wall Street Journal melaporkan chatbot Meta terlibat dalam percakapan seksual dengan anak di bawah umur. Hal ini memicu peringatan dari US Attorneys General dari 44 yurisdiksi yang menegaskan perusahaan AI akan bertanggung jawab atas kegagalan perlindungan anak.
Juru bicara Meta, Andy Stone, menyatakan kesalahan terletak pada kegagalan implementasi kebijakan perusahaan. Meta kini dihadapkan pada tekanan meningkatkan kontrol kualitas dan penegakan aturan untuk mencegah pembuatan chatbot yang melanggar hak cipta atau menyasar pengguna di bawah umur.
Kasus ini menggarisbawahi pentingnya tanggung jawab platform dalam mengatur konten AI generatif, terutama yang memanfaatkan identitas publik figur tanpa izin. Dengan adanya sorotan regulator dan kepercayaan publik yang terguncang, Meta harus segera memperkuat moderasi dan verifikasi untuk menjaga keamanan dan keaslian interaksi AI di layanannya.
