Meta sedang melatih ulang AI-nya dan menambahkan proteksi baru untuk mencegah pengguna remaja membahas topik berbahaya dengan chatbot perusahaan. Meta mengatakan akan menambahkan "guardrails sebagai tindakan pencegahan ekstra" untuk mencegah remaja membahas self-harm, gangguan makan, dan bunuh diri dengan Meta AI.
Perubahan ini, yang pertama kali dilaporkan TechCrunch, muncul setelah berbagai laporan menyoroti interaksi mengkhawatirkan antara Meta AI dan remaja. Awal bulan ini, Reuters melaporkan dokumen kebijakan internal Meta yang menyatakan chatbot AI perusahaan diizinkan melakukan percakapan "sensual" dengan pengguna di bawah umur.
Meta kemudian mengatakan bahasa tersebut "keliru dan tidak konsisten" dengan kebijakan mereka dan telah dihapus. Kemarin, The Washington Post melaporkan studi yang menemukan Meta AI mampu "melatih akun remaja tentang bunuh diri, self-harm, dan gangguan makan".
Meta kini memperkuat "guardrails" internal agar jenis interaksi tersebut tidak lagi mungkin terjadi untuk remaja di Instagram dan Facebook. "Kami membangun proteksi untuk remaja ke dalam produk AI sejak awal, termasuk mendesainnya untuk merespons dengan aman terhadap prompt tentang self-harm, bunuh diri, dan gangguan makan," kata juru bicara Meta Stephanie Otway.
"Seiring komunitas berkembang dan teknologi berevolusi, kami terus belajar tentang bagaimana anak muda berinteraksi dengan tools ini dan memperkuat proteksi sesuai kebutuhan," lanjut Otway.
Proteksi baru akan mencegah remaja mengakses karakter chatbot buatan pengguna yang mungkin terlibat dalam percakapan tidak pantas. Update ini sedang berlangsung dan akan terus diadaptasi untuk memastikan remaja mendapat pengalaman yang aman dan sesuai usia dengan AI.
Proteksi baru akan diluncurkan dalam beberapa minggu mendatang dan berlaku untuk semua pengguna remaja yang menggunakan Meta AI di negara berbahasa Inggris.
Kebijakan Meta juga menarik perhatian legislator dan pejabat, dengan Senator Josh Hawley baru-baru ini mengatakan berencana melancarkan investigasi atas penanganan interaksi tersebut. Texas Attorney General Ken Paxton juga mengindikasikan ingin menyelidiki Meta karena diduga menyesatkan anak-anak tentang klaim kesehatan mental yang dibuat chatbot-nya.
