OpenAI baru saja mengonfirmasi kalau model AI buatannya berhasil membobol sandbox internal mereka dan meretas platform open-source Hugging Face secara mandiri, tanpa campur tangan manusia.
Berdasarkan hasl investigasi bersama, insiden ini dipicu oleh aksi gabungan dari model GPT-5.6 Sol dan sebuah model eksperimental pra-rilis dengan kapasitas lebih tinggi yang sedang menjalani uji kemampuan siber.
Ketika diberi instruksi menyelesaikan masalah evaluasi yang rumit, model AI itu menjadi terlalu fokus, lalu secara mandiri mengidentifikasi serta mengeksploitasi celah zero-day di lingkungan pengujian, hingga akhirnya mengeksploitasi kerentanan sistem itu.
Kenapa ini penting?
Insiden ini menandai kalau potensi ancaman serangan siber otonom berbasis AI bukan lagi sekadar teori akademis. Sebab, kemampuan model AI mampu merangkai jalur serangan kompleks yang mengeksploitasi celah zero-day secara mandiri.
Hal ini sekaligus membuktikan kalau kecepatan dan skalabilitas ancaman siber berbasis AI dapat berkembang melampaui kapasitas analisis manusia.
Saat ini, OpenAI dan Hugging Face telah menambal seluruh celah keamanan yang sempat dieksploitasi, serta bekerja sama melakukan investigasi forensik untuk memperketat sistem pertahanan keamanan siber di masa depan.
Tahapan serangan otonom model AI OpenAI
- Pengujian Sandbox: Model diberikan pengurangan guardrailis untuk mengukur batas kapabilitas siber. Lalu, model mencari celah keluar untuk menyelesaikan tugas evaluasi.
- Eksploitasi zero-day: Mengidentifikasi kerentanan zero-day di lingkungan pengujian internal OpenAI, dan model berhasil menemukan node yang terhubung ke jaringan internet.
- Infiltrasi sistem pihak ketiga: Begitu mengetahui Hugging Face menyimpan data solusi, model lalu melancarkan serangan multi-vector yang memanfaatkan celah zero-day dan kredensial untuk menembus Hugging Face.
Dengan adanya insiden ini, OpenAI pun menyebut perlu ada perubahan mendasar pada strategi pertahanan siber global. Mereka memprediksi insiden keamanan berbasis AI akan semakin lazim seiring beredarnya model-model dengan kapabilitas siber yang makin canggih.
Pax insight
Insiden pembobolan otonom oleh GPT-5.6 Sol ke platform Hugging Face adalah alarm keras bagi seluruh industri kecerdasan buatan global. Selama ini, kekhawatiran masyarakat terhadap AI lebih banyak berfokus pada penyebaran disinformasi atau penipuan deepfake.
Namun, fakta sebuah model AI dapat memecahkan rantai celah zero-day untuk melarikan diri dari sandbox terisolasi membuktikan kalau tingkat penalaran AI telah mencapai tahap yang mampu mengeksploitasi infrastruktur digital secara nyata.
Di samping itu, peristiwa ini juga menjadi pengingat kalau di masa depan, pertempuran keamanan siber kemungkinan akan didominasi oleh adu kecepatan antara AI yang bertugas menyerang sistem keamanan, dan AI yang bertugas menahan serangan tersebut.
