Anthropic baru saja menonaktifkan akses seluruh pelanggannya ke model AI Fable 5 dan Mythos 5 untuk memastikan kepatuhan terhadap pemerintah Amerika Serikat. Kendati demikian, model lain dari Anthropic tetap bisa digunakan dan tidak terdampak.
Menurut pengumuman perusahaan, pemerintah AS meminta Anthropic menangguhkan akses seluruh warga negara asing ke model AI yang baru diluncurkan tersebut, baik yang berada di dalam maupun luar AS, bahkan jika mereka adalah karyawan Anthropic sendiri, dengan alasan keamanan nasional.
Apa yang terjadi?
Tindakan ini adalah salah satu contoh paling konkret dari intervensi pemerintah langsung terhadap penyebaran model AI komersial dengan alasan keamanan nasional.
Meski pemerintah AS tidak menyebutkan secara spesifik kekhawatiran mereka, Anthropic meyakini tindakan ini terkait dengan metode jailbreaking Fable 5 yang didengar pemerintah.
Pemerintah dilaporkan memberikan bukti verbal kepada perusahaan tentang satu potensi jailbreak yang bersifat terbatas dan non-universal, yang dibagikan oleh pihak anonim pada pejabat Amerika Serikat.
Kendati mematuhi perintah tersebut, Anthropic menyatakan tidak setuju pada tindakan dari pemerintah Amerika Serikat.
Menurut perusahaan, mereka mendukung kewenangan pemerintah memblokir penyebaran AI yang berbahaya, tapi tindakan yang dilakukan saat ini tidak memenuhi standar transparansi dan proses yang adil.
Dampak pelarangan ini bahkan jauh melampaui Anthropic, karena bukan tidak mungkin ke depannya pemerintah juga bisa campur tangan dalam operasional perusahaan AI.
Langkah Keamanan yang Sudah Diterapkan Anthropic
Dalam unggahannya, Anthropic merinci langkah-langkah yang diambil untuk memastikan keamanan Fable:
- Safeguard yang kuat: Anthropic menyatakan telah menerapkan pengaman kuat agar mengurangi kemungkinan Fable disalahgunakan untuk tugas terkait keamanan siber.
- Pengakuan tentang jailbreak: Anthropic menjelaskan bahwa tidak ada penyedia manapun yang bisa menjamin resistensi sempurna terhadap upaya jailbreak. Setiap model rentan terhadap jailbreak yang dirancang khusus untuknya.
- Strategi pertahanan: Membatasi cakupan jailbreak non-universal, membuat jailbreak universal sangat sulit, hingga mendeteksi dan menghentikan serangan dengan cepat.
Pax insight
Kasus ini memberikan gambaran tentang kepentingan yang sering bertabrakan dalam tata kelola AI, yakni inovasi, keamanan nasional, dan proses hukum yang adil.
Dalam hal ini, Anthropic sendiri terbilang berada di posisi sulit. Di satu sisi, mereka mendukung wewenang pemerintah mencegah AI yang berbahaya, tapi tetap mempermasalahkan tindakan tersebut diambil, tanpa proses yang transparan.
