Untuk memerangi maraknya konten buatan AI di platformnya, Reddit memutuskan memakai tool berbasis AI untuk mengurangi peredaran konten semacam itu.
Menurut laporan terbaru Reddit, sistem otomatis ini mampu memblokir 23 juta tampilan spam per hari, menemukan sekitar 25.000 unggahan dan komentar per hari, dan mencabut hampir 2 juta vote tidak autentik setiap hari.
Kenapa ini penting?
Reddit merupakan salah satu platform diskusi terbesar di dunia, dan kualitas diskusi di platform ini sangat bergantung pada orisinalitas, vote yang jujur, komentar dari manusia nyata, dan diskusi yang organik.
Oleh sebab itu, banjir konten buatan AI dan manipulasi vote di platform tersebut mengancam interaksi yang ditawarkan Reddit. Karenanya, pemakaian sistem otomatis berbasis AI menjadi masuk akal untuk menanggulangi fenomena tersebut.
Cara kerja
Reddit menggunakan Large Language Models (LLM) untuk mencari aktivitas mencurigakan sejak momen akun dibuat, termasuk mendeteksi:
- Pola perilaku palsu yang sangat halus dan terkoordinasi
- Hype artifisial yang dibuat secara sistematis
Reddit sebelumnya juga menambahkan mekanisme untuk memaksa akun yang dicurigai tidak asli agar melakukan verifikasi untuk memastikan kalau benar mereka manusia. Hal ini dilakukan agar akun tersebut bisa beraktivitas penuh.
Penindakan hate speech
Tidak hanya menyasar konten hasil buatan AI, Reddit juga memperkuat penindakan terhadap konten kebencian dan kekerasan. Terkini, Reddit mampu mendeteksi dan menindak konten kebencian dan kekerasan dalam waktu kurang dari lima detik.
Untuk sekarang, fitur ini memang baru mengenali konten berbahas Inggris, tapi di masa depan, kemampuan ini akan mendukung lebih banyak bahasa. Dengan kemampuan ini, paparan konten berbahaya disebut berhasil turun hingga 40 persen.
Pax insight
Strategi Reddit untuk melawan peredaran konten AI dengan tool berbasis AI merupakan langkah yang masuk akal. Dengan volume konten AI yang sangat besar, moderasi dengan manusia tentu tidak akan cukup.
Hal itu juga terbukti dengan penurunan paparan spam hingga 20 persen. Meski terdengar efektif, konten spam lainnya tentu masih beredar di Reddit.
Untuk itu, langkah ini merupakan upaya berkelanjutan yang perlu dilakukan Reddit. Dengan demikian, konten buatan AI bisa terus dikurangi untuk mempertahankan orisinalitas unggahan pengguna di platform tersebut.
