Meta memperkenalkan pedoman ketat baru untuk AI chatbot guna mencegah percakapan tidak pantas dengan anak-anak. Dokumen internal yang diperoleh Business Insider menunjukkan perubahan radikal dari kebijakan sebelumnya yang memungkinkan chatbot "terlibat percakapan romantis atau sensual" dengan anak, setelah menghadapi investigasi FTC dan tekanan Senator Josh Hawley.
Aturan baru Meta melarang secara eksplisit chatbot menghasilkan konten yang menggambarkan hubungan romantis antara anak dan dewasa, mendorong pelecehan seksual anak, atau melakukan peran sensual dengan pengguna di bawah umur. Chatbot juga dilarang memberikan nasihat tentang kontak fisik romantis kepada anak-anak dan tidak boleh menyeksualkan anak di bawah 13 tahun.
Pedoman mendefinisikan istilah kunci: "menggambarkan" berarti menceritakan insiden secara detail, "mendiskusikan" memberikan informasi tanpa visualisasi, "memungkinkan" memberikan instruksi spesifik, dan "mendorong" menyarankan tindakan tertentu baik langsung maupun tidak langsung.
Chatbot masih dapat membahas topik sensitif seperti grooming atau pelecehan seksual anak dalam konteks edukatif atau pencegahan, menjelaskan perilaku grooming secara umum, atau memberikan nasihat non-seksual untuk situasi sosial. Peran diperbolehkan hanya jika karakter AI berusia 18 tahun ke atas, sementara konten romantis non-sensual dapat dibuat dalam bentuk naratif fiksi seperti "Romeo dan Juliet".
Langkah ini muncul setelah Federal Trade Commission meluncurkan investigasi formal pada September 2025 terhadap Meta, OpenAI, Google, Character.AI, dan perusahaan AI lainnya terkait keamanan chatbot untuk anak-anak. FTC meminta informasi detail tentang cara perusahaan memonetisasi engagement, mengembangkan karakter, dan melindungi pengguna muda.
