OpenAI mengumumkan akan merilis parent control untuk ChatGPT dalam sebulan ke depan. Setelah kontrol tersedia, orang tua bisa menautkan akun ChatGPT pribadi mereka dengan akun anak-anak remaja mereka agar tidak melakukan tindakan yang membahayakan.
Fitur ini memungkinkan orang tua dapat mengatur bagaimana ChatGPT merespons anak-anak mereka dan menonaktifkan fitur tertentu, termasuk memori dan riwayat obrolan. Selain itu, ChatGPT juga akan menghasilkan peringatan otomatis ketika mendeteksi remaja berada dalam "momen kesulitan akut".
Seperti dilansir dari laman Engadget (3/9), menurut OpenAI, "masukan dari para ahli akan memandu fitur ini untuk mendukung kepercayaan antara orang tua dan remaja".
Pengumuman kontrol orang tua ini datang setelah OpenAI digugat dalam kasus gugatan kematian tidak wajar pertama yang diketahui terhadap sebuah perusahaan AI. Dalam gugatan yang diajukan minggu lalu, Matt dan Maria Raine, orang tua dari seorang remaja yang bunuh diri tahun ini, menuduh ChatGPT mengetahui empat percobaan bunuh diri yang gagal oleh putra mereka sebelum membantunya merencanakan kematiannya.
Keluarga Raine mengatakan ChatGPT memberikan putra mereka, Adam, informasi tentang metode bunuh diri yang spesifik, dan bahkan memberinya tips tentang cara menyembunyikan luka leher yang diderita dari percobaan sebelumnya yang gagal.
Pada hari Selasa, OpenAI mengatakan bahwa kontrol orang tua adalah bagian dari upaya yang lebih luas oleh perusahaan untuk meningkatkan keamanan di ChatGPT. Secara terpisah, perusahaan telah berjanji untuk bekerja sama dengan para ahli tambahan, termasuk mereka yang berspesialisasi dalam gangguan makan, penggunaan zat, dan kesehatan remaja, untuk menyempurnakan model-modelnya.
Perusahaan juga telah berjanji untuk menerapkan real-time router baru yang dirancang untuk menyalurkan percakapan sensitif melalui model penalaran mereka. "Dilatih dengan metode yang kami sebut deliberative alignment, pengujian kami menunjukkan bahwa model penalaran lebih konsisten dalam mengikuti dan menerapkan pedoman keselamatan serta lebih tahan terhadap prompts yang adversarial," kata OpenAI.
Ke depannya, dalam situasi di mana ChatGPT mendeteksi seseorang mungkin sedang dalam kesulitan, chatbot akan mengarahkan percakapan tersebut melalui model penalaran, terlepas dari model yang dipilih pengguna sebelum memulai percakapan. Secara lebih luas, OpenAI mengatakan orang-orang dapat mengharapkan lebih banyak fitur keselamatan di masa depan.
"Pekerjaan ini sudah berjalan, tetapi kami ingin secara proaktif mempratinjau rencana kami untuk 120 hari ke depan, sehingga Anda tidak perlu menunggu peluncuran untuk melihat ke mana arah kami," kata OpenAI.
"Pekerjaan ini akan terus berlanjut jauh melampaui periode waktu ini, tetapi kami melakukan upaya terfokus untuk meluncurkan sebanyak mungkin perbaikan ini tahun ini."
