Selular.ID – Perkembangan kecerdasan buatan (AI) yang semakin cepat membawa manfaat besar bagi produktivitas perusahaan.
Namun, di balik kemampuan AI yang semakin mandiri, muncul risiko baru ketika pengguna terlalu mempercayai sistem tanpa melakukan verifikasi.
Kaspersky menilai “blind trust” atau kepercayaan tanpa verifikasi menjadi salah satu celah yang kini dimanfaatkan penjahat siber.
Dalam APAC Cyber Security Weekend di Guangzhou, China, peneliti keamanan Kaspersky menjelaskan bagaimana AI agent telah berkembang menjadi lapisan baru dalam rantai pasok teknologi dan membuka ruang serangan melalui hubungan kepercayaan antara manusia, AI agent, tools, serta kode eksternal.
Baca juga:
- Kaspersky: Serangan Siber Kini Gunakan AI-Native, Pertahanan Harus AI-Powered
- Kaspersky Gelar Asia Pacific Conference Cyber Security Weekend di Guangzhou, Selular Turut Hadir
Security Researcher Kaspersky GReAT (Global Research and Analysis Team), Sojun Ryu, mengatakan perkembangan AI telah berlangsung sangat cepat.
Pada tahap awal, AI digunakan untuk menghasilkan, merangkum, dan menyusun konten. Setelah itu muncul copilot yang terintegrasi ke dalam alur kerja untuk membantu pengguna.
Kini, perkembangan tersebut memasuki era AI agent, yang mampu merencanakan pekerjaan, menggunakan berbagai tools, memanggil API, hingga menjalankan tindakan secara lebih mandiri.
“Ketika kecepatan melampaui verifikasi, kecepatan tersebut juga dapat memperbesar risiko,” ujar Ryu.
92.000 Serangan Menyamar sebagai Layanan AI
Kaspersky GReAT menemukan 92.000 serangan berbahaya pada 2026 yang menyamar sebagai layanan AI.
Hampir separuh atau sekitar 49% di antaranya menyamar sebagai aplikasi ChatGPT.
Sementara aplikasi yang mengatasnamakan Claude dan Gemini masing-masing mencapai 18%.
Modus tersebut memanfaatkan kepercayaan pengguna terhadap layanan AI populer.
Aplikasi yang terlihat sah dapat menjadi pintu masuk bagi kode berbahaya yang kemudian mengincar perangkat maupun informasi internal organisasi.
Kaspersky juga menemukan lebih dari 15.000 sampel malware yang menyamar sebagai perangkat lunak berbasis AI agent.
Malware tersebut diklasifikasikan sebagai trojan, spyware, exploit, downloader, dropper, hingga backdoor.
Ketika aplikasi palsu tersebut dijalankan, penyerang berpotensi mencuri informasi internal sekaligus membangun akses command-and-control ke sistem korban.
Open Source Jadi Mata Rantai yang Perlu Diawasi
Persoalan tidak berhenti pada aplikasi AI palsu. Kaspersky juga menyoroti open-source software yang menjadi komponen penting dalam pengembangan perangkat lunak dan AI.
Menurut Ryu, pengembang membutuhkan open source dan AI juga bergantung pada ekosistem tersebut.
Kondisi ini dipahami oleh penyerang sebagai peluang untuk menyusup melalui software supply chain.
Kaspersky mencatat sedikitnya 10 kampanye serangan berskala besar terhadap ekosistem open source sejak pertengahan tahun lalu.
Serangan tersebut menyasar berbagai ekosistem, terutama npm dan PyPI.
Salah satu contoh yang disoroti adalah serangan terhadap Axios pada Maret 2026.
Axios merupakan salah satu library JavaScript yang banyak digunakan, dengan lebih dari 100 juta unduhan setiap pekan dan digunakan oleh lebih dari 170.000 paket perangkat lunak.
Dalam kasus tersebut, komputer pengelola utama proyek berhasil dikompromikan.
Penyerang kemudian mendapatkan akses ke akun npm proyek dan menerbitkan versi library yang telah disusupi.
Meski paket yang telah dikompromikan hanya tersedia sekitar tiga jam, paket tersebut telah diunduh oleh ratusan perangkat.
Kasus ini menunjukkan bagaimana satu komponen tepercaya yang berhasil disusupi dapat menyebarkan risiko dengan cepat ke seluruh rantai pasok perangkat lunak.
31% Perusahaan Terdampak Serangan Supply Chain
Besarnya ketergantungan terhadap open source juga tercermin dalam survei Kaspersky tahun lalu.
Sebanyak 31% perusahaan enterprise yang disurvei mengaku pernah terdampak serangan terhadap software supply chain.
Kondisi tersebut menunjukkan betapa dalamnya penggunaan perangkat lunak open source di lingkungan pengembangan perusahaan.
Bagi penyerang, ekosistem tersebut dapat menjadi jalur untuk mendapatkan akses menuju aset dan informasi penting perusahaan.
Perkembangan AI agent berpotensi memperluas tantangan tersebut.
Ketika AI dapat berinteraksi dengan tools, API, framework, dan kode dari pihak ketiga, rantai kepercayaan yang harus diawasi menjadi semakin panjang.
Jangan Tambah Proses, Perkuat Jalur yang Aman
Meski demikian, Kaspersky menilai peningkatan keamanan tidak seharusnya mengorbankan produktivitas perusahaan.
Ryu menyarankan organisasi menetapkan zona pengembangan tepercaya yang jelas antara konten eksternal dan aset pengembangan internal.
Perlindungan juga perlu diterapkan pada Integrated Development Environment (IDE), ekstensi, workspace, hingga hak akses yang diberikan kepada AI agent.
Organisasi juga perlu mengontrol jalur masuk perangkat lunak ke dalam lingkungan kerja serta memiliki visibilitas terhadap setiap aktivitas.
Tujuannya bukan menambah semakin banyak proses persetujuan yang memperlambat pekerjaan.
Sebaliknya, organisasi perlu membuat jalur yang aman menjadi jalur yang paling mudah dan efisien bagi pengembang.
Kaspersky GReAT sendiri memantau berbagai perangkat lunak open source dan menyediakan informasi yang dapat menandai komponen yang rentan maupun berbahaya.
Tim peneliti Kaspersky juga melakukan audit terhadap workflow GitHub Actions menggunakan kemampuan Kaspersky Container Security.
Dari audit tersebut ditemukan lebih dari 250.000 potensi kesalahan konfigurasi pada proses continuous integration/continuous delivery (CI/CD).
Keamanan Harus Mengikuti Perkembangan AI
Menurut Ryu, pendekatan keamanan perlu bergeser dari sekadar melindungi sistem yang sudah digunakan menuju mengamankan lingkungan tempat perangkat lunak dibuat.
Dengan kata lain, keamanan tidak seharusnya menjadi pemeriksaan terakhir setelah aplikasi selesai dikembangkan.
Verifikasi perlu dilakukan sejak tahap awal ketika kode, tools, ekstensi, dan AI agent mulai digunakan.
“Ketika kepercayaan diverifikasi sebelum eksekusi, organisasi justru dapat bergerak lebih cepat, bukan lebih lambat,” kata Ryu.
Perkembangan AI memang menawarkan kemampuan untuk meningkatkan produktivitas. Namun, semakin besar kewenangan yang diberikan kepada AI agent, semakin besar pula kebutuhan untuk memastikan setiap komponen yang digunakan dapat dipercaya.
Bagi perusahaan, tantangannya kini bukan sekadar seberapa cepat AI dapat bekerja, melainkan seberapa cepat organisasi mampu memastikan bahwa apa yang dilakukan AI benar-benar aman.
Ketika kecepatan pengembangan tidak diimbangi verifikasi, celah kepercayaan justru dapat menjadi pintu masuk baru bagi serangan siber.
