Perkembangan pesat kecerdasan buatan (AI) mengubah wajah produksi konten di media sosial, namun bukan tanpa konsekuensi. Dalam Seminar Etika AI di Media Sosial yang digelar oleh Ruang Tengah Digital Network dan Perpustakaan Politeknik Tempo, para pembicara menyoroti fenomena AI slop, konten berkualitas rendah yang diproduksi massal demi mengejar trafik, serta dampaknya terhadap ekosistem informasi dan etika publik.
Dosen Desain Media Perpustakaan Politeknik Tempo, Beny Maulana, menjelaskan bahwa kemajuan AI generatif sejak 2022 membuat keluaran visual semakin realistis dan sulit dibedakan dari foto asli. Kemudahan dan kecepatan produksi mendorong volume konten yang besar, tetapi kualitas seringkali menurun. Fenomena ini berpotensi merusak standar kreatif dan memicu penyebaran konten palsu, terutama ketika interaksi dipacu oleh bot dan komentar otomatis.
Isu lain yang mengemuka adalah istilah brainrot, yaitu konten rendah yang menargetkan anak-anak demi trafik tinggi. Selain merusak kualitas konsumsi media, konten semacam ini meningkatkan risiko paparan materi tidak pantas dan manipulatif pada audiens muda. Beny juga menyoroti masalah pelanggaran hak cipta akibat pengambilan data tanpa izin oleh perusahaan AI, yang pernah memicu gugatan dari studio besar.
Dari perspektif verifikasi fakta, Bayu Galih Wibisono, Editor Cek Fakta Kompas.com, menekankan dua wajah AI: alat yang berguna sekaligus berbahaya. Kasus deepfake tokoh publik dan manipulasi wajah untuk penipuan atau pornografi menjadi contoh nyata ancaman. Bayu mengingatkan bahwa AI boleh dipakai sebagai referensi, tetapi tidak layak menjadi rujukan utama, dan mengangkat 10 Poin Etika AI UNESCO sebagai pedoman penting. Ia juga menyebutkan perlunya alat pengecekan seperti Hive Moderation dan verifikasi sumber asli untuk mengidentifikasi konten buatan AI.
Dari sisi industri, Gamma Aditya (Telkomsel) menegaskan bahwa AI sudah hadir dalam layanan publik, dari peta hingga asisten pelanggan, tetapi membawa risiko seperti penipuan suara dan pelanggaran privasi. Gamma mengajak masyarakat memegang prinsip etika: verifikasi informasi, menjaga data pribadi, dan mengutamakan transparansi serta tanggung jawab. Ia menekankan pentingnya mempertahankan jiwa kritis di tengah kemudahan teknologi.
