Meta akhirnya menonaktifkan fitur baru yang dianggap kontroversial dari model AI terbarunya, Muse Image. Saat mengumumkan model ini, Meta juga menghadirkan fitur yang memungkinkan pengguna membuat gambar AI dari akun orang lain.
Cukup dengan mention akun Instagram orang yang lain yang berstatus publik, pengguna bisa langsung menghasilkan gambar AI berbasis foto-foto dari akun tersebut.
Hal ini menjadi kontroversi, karena pengguna dan Muse Image tidak perlu meminta izin lebih dulu ke pemilik akun. Karenanya, tak lama usai fitur ini rilis, gelombang kritik pun dilayangkan ke Meta.
Apa yang terjadi?
Saat meluncurkan Muse Image beberapa hari lalu, Meta sempat mempromosikan fitur ini sebagai tool yang menunjang kreativitas pengguna. Jadi, seorang pengguna bisa me-mention akun orang lain untuk membuat konten gambar berbasis AI dari akun tersebut.
Meski terlihat menarik, fitur ini ternyata dianggap melanggar privasi pemilik akun. Sebab, konten atau wajah mereka yang diunggah di akun Instagram dapat diolah dengan mudah menjadi gambar buatan AI.
Fitur ini kian menjadi perhatian, karena tak perlu meminta izin pada pemilik foto untuk membuat gambar AI dari unggahan mereka. Karenanya, sejumlah kritik muncul dari beberapa pihak, mulai dari pengguna agensi Hollywood, hingga serikat pekerja SAG-AFTRA.
Terlebih, Meta menerapkan sistem opt-out pada fitur ini. Jadi, fitur ini aktif secara default, sehingga pengguna harus mengaturnya secara mandiri untuk mematikannya.
Apa yang sebenarnya ditawarkan fitur ini?
Saat peluncurannya beberapa hari lalu, Meta menyebut fitur ini memudahkan pengguna membuat gambar AI cukup dengan me-mention akun orang lain, lalu membuat gambar dari foto mereka untuk beberapa hal di antaranya:
- Membuat undangan acara yang dipersonalisasi
- Membuat konsep kreatif kolaboratif
- Menghasilkan grafis yang lebih personal
Meski terdengar biasa, masalahnya terletak pada proses eksekusinya. Selama akun pengguna Instagram bersifat publik, siapa pun bisa memakai foto mereka untuk menghasilkan gambar AI tanpa izin.
Meta sebenarnya menyediakan opsi bagi pengguna untuk menolak konten mereka dipakai untuk dibuat gambar AI. Namun, pengguna harus menonaktifkannya terlebih dulu, karena fitur ini aktif secara default:
- Masuk ke menu Settings
- Cari opsi 'Allow people to create with and reuse your content'
- Matikan opsi tersebut
Pengaturan ini yang juga lantas jadi sasaran kritik pengguna, karena pengguna harus mengaturnya sendiri.
Jadi, pengguna bukan secara sukarela mengaktifkan fitur ini, tapi secara tidak langsung dipaksa mengaktifkannya, baru jika ingin menolaknya, mereka perlu mematikannya dari pengaturan.
Kritik dari sejumlah pihak
Menurut laporan Variety, kritik tidak hanya datang dari pengguna biasa. CAA (Creative Artists Agency), salah satu agensi paling berpengaruh di Hollywood, menyatakan keprihatinannya langsung ke Meta.
"Nama, gambar, kemiripan, suara, atau karya kreatif siapapun tidak boleh digunakan pihak ketiga manapun, termasuk model AI, tanpa persetujuan yang jelas dan terdokumentasi," kata CAA dalam pernyataannya.
SAG-AFTRA, serikat pekerja hiburan Amerika, juga mendorong anggotanya untuk menonaktifkan fitur ini. Menanggapi kritik ini, Meta pun menyampaikan permintaan maaf.
"Niat kami menyediakan alat kreatif yang berguna dan memberi kendali pada orang untuk menentukan apakah konten publik mereka bisa dijadikan referensi. Kami mendengar feedback kalau fitur ini tidak tepat sasaran, jadi fitur ini tidak lagi tersedia," kata Meta.
Meski fitur mention untuk proses pembuatan gambar telah dicabut, fitur Muse Image lainnya seperti membuat gambar dari prompt teks, mengubah desain ruangan dari foto Marketplace, hingga menggambar langsung di atas foto, masih tersedia.
Pax insight
Kasus Muse Image ini merupakan contoh menarik dari dinamika dalam pengembangan produk AI. Jadi, umpan balik dari publik bisa memaksa perusahaan untuk menyetop fitur AI yang dianggap berbahaya bagi privasi pengguna.
Terlebih, fitur ini diaktifkan secara langsung oleh Meta, sehingga pengguna secara tidak sadar menyerahkan konten mereka untuk berpartisipasi dalam fitur ini. Karenanya, pengguna harus secara aktif memantau pengaturan di akun Instagram mereka.
Meski saat ini fitur tersebut sudah disetop Meta, fitur serupa bukan tidak mungkin akan hadir kembali di masa depan. Untuk itu, pengguna tetap harus kritis terhadap fitur AI baru yang diluncurkan perusahaan teknologi ke depannya.
