Anthropic, salah satu perusahaan besar dalam kompetisi AI global, secara resmi menyerukan kemungkinan perlambatan atau jeda sementara pengembangan AI secara global.
Hal itu dinyatakan dalam unggahan terbaru di blog resmi perusahaan. Perusahaan di balik Claude ini menyatakan AI berkembang begitu cepat, sehingga tren saat ini merujuk ke arah sistem yang mampu mengembangkan penggantinya sendiri.
Kenapa ini penting?
Peringatan dari Anthropic bukan datang dari pengamat luar industri, melainkan dari salah satu perusahaan yang paling aktif membangun sistem AI paling canggih di dunia.
Ketika perusahaan yang menciptakan teknologi tersebut sendiri memperingatkan tentang risikonya, itu menjadi hal yang patut jadi perhatian. Namun, posisi ini juga membuat kritik pada Anthropic makin keras.
Apa yang dikhawatirkan Anthropic?
- AI yang Mampu Membangun Penggantinya Sendiri
Anthropic mengidentifikasi satu skenario spesifik sebagai pemicu kekhawatiran terbesar yaitu sistem AI yang mampu merancang dan membangun sistem AI yang lebih canggih dari dirinya sendiri, bahkan tanpa intervensi manusia.
- Dua Sisi dari Satu Koin
Anthropic mengakui AI yang mampu membangun dirinya sendiri bisa menghadirkan manfaat luar biasa, terutama di bidang sains dan kesehatan, tapi secara bersamaan bisa meningkatkan risiko manusia kehilangan kendali atas sistem AI.
- Perkembangan yang Cepat
Yang membuat situasi ini makin penting adalah kecepatan perkembangan yang tidak memberi banyak waktu untuk respons terkoordinasi. Anthropic menyatakan bahwa kondisi kritis tersebut bisa datang lebih cepat dari yang dipersiapkan kebanyakan institusi.
Apa Solusi Anthropic?
Anthropic mengusulkan bahwa jawaban atas risiko ini adalah perlambatan atau jeda sementara pengembangan AI secara global untuk memberi waktu bagi struktur sosial dan penelitian mengejar ketertinggalan dari kemajuan teknologi.
Kritik pada Anthropic
- Tuduhan Safety Washing: Kritikus menyebut peringatan Anthropic tentang teknologinya sendiri sebagai manuver pemasaran. Upaya memposisikan Anthropic sebagai "yang paling bertanggung jawab" di antara semua perusahaan AI, atau menciptakan persepsi bahwa produknya adalah yang terbaik karena paling berbahaya jika salah digunakan.
- Kasus Mythos sebagai Contoh: Kritik paling konkret mengarah pada keputusan Anthropic untuk hanya merilis model AI keamanan siber Mythos kepada sekelompok mitra terpilih. Perusahaan beralasan kemampuan Mythos dalam mengidentifikasi kerentanan secara cepat terlalu berbahaya jika jatuh ke tangan yang salah.
- Konflik Kepentingan: Anthropic menyerukan perlambatan industri AI, sedangkan secara bersamaan sedang bersiap untuk IPO yang nilainya bergantung pada pertumbuhan dan adopsi AI yang terus meningkat.
Pax insight
Seruan Anthropic untuk perlambatan AI perlu dibaca dalam dua tahap sekaligus, yakni sebagai peringatan yang tulus tentang risiko teknologi, dan sebagai manuver strategis dari perusahaan.
Anthropic bisa benar-benar tulus khawatir tentang risiko AI yang membangun penggantinya sendiri. Di sisi lain, hal ini bisa membangun narasi brand yang membedakannya dari OpenAI dan Google DeepMind yang lebih agresif dalam mendorong pengembangan
