Rileks: Kecerdasan buatan kian menjadi tulang punggung transformasi digital di Indonesia.
Dari layanan publik hingga operasional bisnis, model bahasa besar (large language models / LLMs) kini digunakan untuk meningkatkan efisiensi dan kualitas layanan.
Namun di balik manfaat tersebut, muncul risiko laten yang semakin sulit diabaikan: serangan siber berbasis AI.
Riset terbaru Palo Alto Networks Unit 42 menunjukkan karakter “dua sisi” AI justru membuka peluang baru bagi kejahatan siber. Teknologi yang sama yang membantu perusahaan mengotomatisasi proses, kini dimanfaatkan pelaku ancaman untuk mempercepat penipuan digital, phishing, hingga pengembangan malware secara masif.
Bagi Indonesia, risiko ini dinilai semakin krusial. Tingginya adopsi aplikasi pesan instan, ekosistem e-commerce yang luas, serta percepatan digitalisasi layanan publik menciptakan permukaan serangan yang besar. Ketergantungan masyarakat pada komunikasi digital membuat serangan berbasis manipulasi bahasa dan kepercayaan menjadi semakin efektif.
Sejumlah temuan di lapangan memperkuat kekhawatiran tersebut. Pemerintah dan media sebelumnya mengungkap peredaran aplikasi ChatGPT palsu yang disusupi malware. Sementara itu, indikator dari Tim Tanggap Insiden Keamanan Siber Nasional (CSIRT) menunjukkan kemunculan pola serangan baru yang menyerupai agen AI, terutama phishing adaptif yang mampu menyesuaikan pesan dengan konteks korban untuk mencuri data pribadi dan kredensial keuangan.
Dalam laporan bertajuk The Dual-Use Dilemma of AI: Malicious LLMs, Unit 42 mengidentifikasi kemunculan LLM berbahaya—kerap disebut dark LLMs—seperti WormGPT, FraudGPT, dan KawaiiGPT. Model-model ini dibangun tanpa pengaman etika dan keamanan, lalu diperdagangkan secara terbuka melalui Telegram maupun forum dark web.
Keberadaan dark LLMs ini dinilai menurunkan hambatan masuk bagi pelaku kejahatan siber. Jika sebelumnya serangan kompleks membutuhkan keahlian teknis tinggi dan waktu panjang, kini pelaku dapat mengotomatisasi berbagai skenario serangan hanya dengan perintah teks.
Menurut Unit 42, serangan siber berbasis AI berpotensi mengubah lanskap ancaman digital di Indonesia setidaknya dalam tiga dimensi utama.
Pertama, AI memungkinkan pembuatan pesan phishing dengan kualitas bahasa yang sangat meyakinkan. Pelaku dapat meniru gaya komunikasi pimpinan perusahaan, bank, atau lembaga pemerintah, sehingga korban kesulitan membedakan pesan asli dan palsu.
Kedua, teknologi ini mendorong komersialisasi kejahatan siber. Malware, phishing kits, hingga skrip pencurian data kini dapat dihasilkan secara instan, mengubah kejahatan digital menjadi layanan siap pakai bagi siapa pun yang bersedia membayar.
Ketiga, hilangnya hambatan teknis membuat kejahatan siber semakin “terdemokratisasi”. Pelaku dengan kemampuan rendah dapat menjalankan penipuan dan pemerasan digital dalam skala besar dan berulang. Unit 42 mencontohkan WormGPT yang mampu menghasilkan konten penipuan dalam Bahasa Indonesia dengan struktur dan konteks lokal yang akurat, sehingga serangan melalui email maupun aplikasi pesan menjadi jauh lebih sulit dikenali.
Perkembangan ini menandai pergeseran penting: AI bukan lagi sekadar alat bantu kejahatan siber, tetapi akselerator utama skala dan kecepatan serangan.
Unit 42 menilai bahwa tantangan utama ke depan bukanlah melarang penggunaan AI, melainkan membangun ketahanan terhadap ancaman yang memanfaatkan AI. Kerangka regulasi, standar keamanan, dan praktik audit berkala menjadi kebutuhan mendesak untuk mengantisipasi proliferasi model AI berbahaya.
Seiring Indonesia menyusun peta jalan AI nasional, pendekatan prevention-first dinilai krusial. Integrasi prinsip keamanan AI ke dalam tata kelola organisasi dan strategi pertahanan siber perlu dilakukan sejak awal, bukan sebagai respons setelah insiden terjadi.
Kolaborasi lintas sektor antara pemerintah, regulator, industri teknologi, dan pelaku usaha—menjadi kunci agar Indonesia dapat memaksimalkan manfaat inovasi AI, sekaligus menekan risiko serangan siber berbasis AI yang semakin cepat, murah, dan masif.
