Studi terbaru peneliti di Stanford mengungkapkan kalau AI ternyata cenderung berperilaku sebagai penjilat. Maksudnya, chatbot sering kali memvalidasi keyakinan dan perilaku pengguna, bahkan ketika pengguna jelas-jelas melakukan kesalahan.
Kenapa ini penting?
Studi berjudul Sycophantic AI decreases prosocial intentions and promotes dependence ini menunjukkan kalau ada ancaman sosial yang nyata dari chatbot, terutama bagi pengguna remaja.
Terlebih, studi menunjukkan tak sedikit remaja beralih ke chatbot untuk mencari dukungan emosional. Data menunjukkan ada sekitar 12 persen remaja di Amerika memakai chatbot untuk bertanya persoalan mereka.
Masalahnya, AI tak pernah memberikan teguran pada pengguna mereka. Kondisi ini berisiko merusak kemampuan manusia dalam menghadapi konflik sosial dan menurunkan niat meminta maaf pada orang lain.
Temuan studi
Insentif sesat: Pengguna cenderung lebih memercayai dan menyukai AI yang selalu setuju dengan mereka. Hal ini membuat perusahaan AI selalu mempertahankan sifat penjilat untuk menjaga engagement.
Validasi perilaku buruk: Dalam pengujian memakai database Reddit, AI membenarkan tindakan pengguna sebanyak 51 persen. Padahal, mayoritas manusia menganggap tindakan tersebut salah.
Dampak psikologis: Interaksi seperti ini terbukti membuat pengguna menjadi lebih egois, dogmatis secara moral, dan merasa dirinya paling benar.
Pax insight
Lewat studi ini, para peneliti menyarankan agar chatbot AI tidak dijadikan pengganti manusia untuk meminta nasihat tentang hubungan atau persoalan moral.
Untuk itu, mereka menyarankan pengawasan regulasi tetap dianggap perlu untuk memitigasi dampak jangka panjang. Sebab, kondisi ini berisiko menciptakan masyarakat yang merasa selalu benar dan kehilangan empati dalam hubungan nyata.
