Lebih dari 800 tokoh publik dari berbagai sektor dan spektrum politik, termasuk pendiri Apple Steve Wozniak, Pangeran Harry, ilmuwan AI peraih Nobel Geoffrey Hinton, hingga mantan Ketua Joint Chiefs of Staff Mike Mullen dan rapper Will.i.am dilaporkan telah menandatangani sebuah pernyataan yang menuntut larangan terhadap riset AI yang berpotensi melahirkan superintelligence. Penandatanganan ini pun membuat banyak pihak terkejut.
Ternyata, kampanye ini diinisiasi oleh Future of Life Institute. Dan isi dari kampanye ini berbunyi: "Kami menyerukan pelarangan pengembangan superintelligence, yang tidak boleh dicabut sebelum ada konsensus ilmiah yang luas bahwa hal itu dapat dilakukan dengan aman dan terkendali, serta dukungan publik yang kuat." Aliansi tak terduga ini menunjukkan bahwa kekhawatiran tentang AI sudah melampaui batas politik dan profesional.
Anthony Aguirre, Executive Director Future of Life Institute, mengatakan bahwa perkembangan AI terjadi terlalu cepat tanpa melibatkan diskusi publik yang memadai. Menurutnya, arah perkembangan AI saat ini seolah telah dipilihkan oleh perusahaan AI dan sistem ekonomi yang mendorong mereka, tanpa ada yang benar-benar bertanya kepada masyarakat, "Apakah ini yang kita inginkan?". Pernyataan ini bertujuan untuk menstigmatisasi perlombaan AI dan memaksa pemerintah untuk turun tangan meregulasi.
Dilansir dari laman Engadget (23/10), secara definisi, Artificial General Intelligence (AGI) mengacu pada kemampuan mesin untuk bernalar dan melakukan tugas seefisien manusia, sedangkan superintelligence adalah kemampuan AI untuk melampaui keahlian manusia di segala aspek. Potensi superintelligence inilah yang seringkali disebut kritikus sebagai risiko eksistensial yang serius bagi kemanusiaan. Hingga saat ini, AI masih sebatas berguna untuk tugas-tugas sempit (narrow tasks) dan masih sering gagal menangani tugas yang kompleks seperti kendaraan otonom.
Meskipun belum ada terobosan superintelligence yang terwujud baru-baru ini, perusahaan teknologi besar seperti OpenAI, Meta, dan X (sebelumnya Twitter) tetap menggelontorkan miliaran dolar untuk model AI baru dan data center. CEO Meta, Mark Zuckerberg, baru-baru ini menyatakan bahwa superintelligence sudah "di depan mata," sementara CEO X, Elon Musk, yang juga dikenal sering memperingatkan bahaya AI, menyebut superintelligence "terjadi secara real time."
CEO OpenAI, Sam Altman, bahkan memprediksi superintelligence akan terwujud paling lambat tahun 2030. Menariknya, tidak ada satu pun pemimpin dari perusahaan-perusahaan AI yang diisukan berlomba ini yang menandatangani pernyataan tersebut.
Seruan pelarangan ini bukanlah yang pertama. Bulan lalu, lebih dari 200 peneliti dan pejabat publik—termasuk 10 pemenang Nobel—telah mengeluarkan seruan mendesak untuk adanya "garis merah" terhadap risiko AI. Namun, surat sebelumnya lebih fokus pada bahaya yang sudah mulai terwujud, seperti pengangguran massal, dampak pada perubahan iklim, dan pelanggaran hak asasi manusia.
Di sisi lain, beberapa kritikus juga menyuarakan kekhawatiran tentang potensi gelembung AI (AI bubble) yang jika pecah dapat menyeret ekonomi global. Pernyataan terbaru ini menargetkan risiko paling fundamental dan spekulatif: ancaman AI yang melampaui kendali manusia di masa depan.
