Perkembangan kecerdasan buatan (AI) membawa manfaat besar bagi dunia usaha dan layanan publik di Indonesia. Namun, riset terbaru Unit 42 Palo Alto Networks mengingatkan bahwa teknologi ini juga menghadirkan ancaman serius.
Model bahasa besar (LLM) seperti ChatGPT atau Google Gemini kini digunakan secara luas, tetapi versi berbahaya yang dikenal sebagai dark LLM: misalnya WormGPT, FraudGPT, dan KawaiiGPT; telah muncul di forum gelap dan aplikasi pesan. Tanpa pengaman, model ini memungkinkan pelaku kejahatan siber melancarkan serangan dengan cepat dan mudah.
Indonesia menjadi salah satu negara yang paling rentan karena tingginya penggunaan aplikasi pesan instan, e-commerce, dan layanan publik digital. Pemerintah bahkan telah memperingatkan adanya aplikasi ChatGPT palsu yang menyebarkan malware dan phishing. Data dari CSIRT menunjukkan tren baru berupa serangan bergaya agen AI yang semakin canggih, mampu mencuri data pribadi maupun kredensial keuangan.
Unit 42 menyoroti tiga aspek utama perubahan lanskap kejahatan siber akibat LLM berbahaya. Pertama, kemampuan AI menghasilkan bahasa yang presisi membuat pesan phishing tampak meyakinkan, meniru gaya komunikasi pimpinan perusahaan atau lembaga pemerintah. Kedua, teknologi ini mendorong komersialisasi kejahatan siber dengan menyediakan malware, phishing kits, dan skrip pencurian data secara instan. Ketiga, hilangnya hambatan teknis menjadikan kejahatan siber semakin terdemokratisasi.
Bahkan pelaku dengan kemampuan rendah dapat melakukan penipuan digital secara masif. WormGPT, misalnya, mampu menghasilkan konten penipuan dalam Bahasa Indonesia yang fasih, sehingga serangan menjadi lebih sulit dikenali.
Dalam konteks ini, Unit 42 menekankan pentingnya pendekatan prevention-first. Indonesia perlu mengintegrasikan praktik AI yang aman ke dalam tata kelola dan strategi pertahanan siber. Audit keamanan berkala, regulasi yang jelas, serta kolaborasi antara pemerintah, regulator, dan sektor swasta menjadi kunci agar manfaat AI dapat dimaksimalkan tanpa menambah risiko digital.
Pax Insight
Gelombang baru serangan siber berbasis AI menuntut Indonesia untuk memperkuat ketahanan digital. Tantangan utama bukanlah membatasi penggunaan AI, melainkan memastikan keamanan siber yang adaptif terhadap ancaman yang terus berkembang. Dengan tata kelola yang tepat dan kolaborasi lintas sektor, Indonesia dapat memanfaatkan inovasi AI sekaligus melindungi masyarakat dari risiko yang semakin kompleks.
