Roblox kini menghadirkan sistem moderasi berbasis AI real-time yang mampu mendeteksi dan menghentikan konten berbahaya bahkan sebelum terlihat pemain lain. Sistem ini menggunakan teknologi AI multimodal yang dapat memantau berbagai elemen dalam game secara bersamaan, sebagai bagian dari upaya meningkatkan keamanan komunitas di dalam platform.
Kenapa ini penting?
Roblox dikenal sebagai platform dengan jumlah pemain anak-anak yang sangat besar. Dengan konten yang dibuat langsung oleh pengguna, risiko munculnya konten berbahaya juga lebih tinggi, sehingga moderasi real-time bisa membantu menjaga pengalaman bermain tetap aman tanpa harus menunggu laporan manual dari pemain.
Sistem moderasi baru dengan pemantauan real-time
Berbeda dari sistem lama yang hanya memeriksa objek atau teks secara terpisah, sistem baru Roblox mampu menganalisis seluruh scene game dalam satu waktu. Artinya, AI dapat memahami konteks secara utuh, bukan hanya melihat satu elemen saja.
Beberapa hal utama dari sistem ini, antara lain:
- AI memantau avatar, teks, objek 3D, dan gambar bebas dalam satu scene
- Sistem dapat memahami konteks visual secara keseluruhan, bukan hanya bentuk individual
- Jika pelanggaran berulang terjadi, server bisa langsung ditutup tanpa menghentikan seluruh game
- Saat ini, sekitar 5.000 server ditutup setiap hari sejak teknologi diterapkan
Pembaruan untuk kreator & komunitas
Selain fokus pada pemain, Roblox juga menghadirkan fitur tambahan bagi kreator agar dapat mengelola komunitas mereka dengan lebih baik. Berikut pembaruan yang disiapkan, meliputi:
- Creator Dashboard kini menampilkan grafik server yang ditutup setiap hari
- Kreator bisa melihat lonjakan pelanggaran dan area yang perlu diperbaiki
- Roblox bekerja sama dengan Keywords Studios dan Riot Games untuk membuat program pelatihan moderator
- Program ini dipimpin oleh peneliti psikologi Rachel Kowert dari Games for Change
Pax Insight
Implementasi AI multimodal seperti yang dilakukan Roblox memberi gambaran bagaimana moderasi digital di masa depan akan bekerja bukan hanya membaca teks, tetapi memahami konteks visual dan interaksi secara utuh. Pendekatan ini bisa menjadi fondasi penting untuk platform digital lain yang menghadapi tantangan serupa.
