OpenAI meluncurkan dua fitur keamanan baru untuk ChatGPT yang mereka beri nama Lockdown Mode dan label Elevated Risk. Dua fitur baru ini diluncurkan untuk menangkal serangan prompt injection dan melindungi data sensitif perusahaan.
Kenapa kedua fitur ini dihadirkan?
Seiring kemampuan AI mengakses web dan aplikasi eksternal, celah keamanan makin lebar. Fitur ini memberikan kendali lebih ketat bagi organisasi untuk mencegah manipulasi AI yang bisa membocorkan rahasia perusahaan.
Apa yang ditawarkan?
1. Lockdown Mode
Lockdown mode adalah mode keamanan opsional untuk pengguna berisiko tinggi (seperti eksekutif atau tim IT). Cara kerjanya adalah dengan membatasi interaksi ChatGPT dengan sistem luar secara deterministik.
Contohnya, ChatGPT akan mengatur fitur web browsing hanya pada konten cache, bukan permintaan internet langsung (live requests), memutus jalur potensial bagi peretas untuk mengekstraksi data.
2. Elevated Risk Labels
Untuk fitur Elevated Risk Labels, cara kerjanya adalah dengan memberikan label peringatan yang jelas pada fitur atau alat yang memiliki risiko eksposur data lebih tinggi. Misalnya saat pengguna memberikan akses jaringan di Codex.
Selain itu, fitur ini juga membantu pengguna membuat keputusan rasional sebelum mengaktifkan fitur yang berpotensi membuka celah keamanan.
Pax insight
Saat ini, fitur-fitur tersebut tersedia untuk pelanggan ChatGPT Enterprise, Edu, dan Healthcare, disertai Compliance API Logs untuk memantau aktivitas aplikasi secara transparan.
