OpenAI resmi meluncurkan fitur Trusted Contact untuk ChatGPT. Fitur ini memungkinkan pengguna merekomendasikan seorang teman atau kerabat untuk dihubungi jika sistem mendeteksi ada risiko menyakiti diri sendiri (self-harm) di pengguna.
Langkah ini diambil setelah semakin banyak pengguna memperlakukan ChatGPT sebagai tempat melakukan terapi untuk kesehatan mental mereka.
Kenapa ini penting?
Langkah ini bukannya tanpa alasan, karena OpenAI menyebut ada lebih dari 1 juta dari 800 juta pengguna mingguan menunjukkan ekspresi pikiran bunuh diri dalam percakapan mereka.
Fitur ini juga disebut jadi respons perusahaan atas tuntutan hukum terkait kematian seorang remaja tahun lalu. Dari hasil investigasi, ada celah di AI yang membuatnya memberikan saran berbahaya bagi pengguna yang sedang depresi.
"Trusted Contact dirancang untuk memberikan lapisan dukungan tambahan bersama layanan bantuan lokal yang sudah tersedia di ChatGPT, dengan membantu pengguna terhubung ke orang yang mereka percaya saat sedang berada dalam kondisi krisis," tulis OpenAI.
Fitur ini akan hadir untuk pengguna dewasa dengan usia di atas 18 tahun. Nantinya, jika OpenAI menemukan ada indikasi nyata, perusahaan akan mengirimkan notifikasi pada kontak yang ditunjuk.
Fitur Trusted Contact di ChatGPT
- Tak otomatis: Untuk menghindari kesalahan sistem, OpenAI menyatakan ada tim kecil yang terlatih khusus untuk meninjau kondisi pengguna. Nantinya, notifikasi akan dikirim jika ada indikasi risiko serius.
- Privasi tetap terjaga: Trusted Contact tidak akan menerima transkrip percakapan pengguna. Pesan yang dikirim hanya peringatan kalau pengguna sedang mengalami masa sulit.
- Intervensi dini: Sistem akan lebih dulu menyarankan pengguna menghubungi teman mereka sendiri dan memberikan saran kalimat pembuka sebelum menghubungi kontak yang dipercaya.
Cara kerja Trusted Contact di ChatGPT
- Daftarkan orang terpercaya: Pengguna memilih satu orang dewasa melalui pengaturan ChatGPT.
- Tanggapan kontak darurat: Orang yang didaftarkan memiliki waktu satu minggu untuk menerima undangan.
- Deteksi: Jika nantinya AI mendeteksi ada risiko serius, tim manusia OpenAI akan melakukan peninjauan darurat.
- Notiikasi: Apabila risiko dikonfirmasi, kontak terpercaya akan menerima email, SMS, atau notifikasi untuk mengecek kondisi pengguna.
Pax insight
Dengan langkah ini, OpenAI menyadari kalau ChatGPT telah menjadi sumber bantuan bagi penggunanya ketika menghadapi masalah. Kehadiran fitur ini pun membantu menjembatani interaksi digital dan dunia nyata untuk mencegah hal berbahaya terjadi.
Selain itu, dengan keputusan tetap memakai tim manusia sebagai penentu akhir, OpenAI bisa memastikan pencegahan pada risiko yang terjadi benar-benar bisa dilakukan dengan optimal.
