Selular.ID – Sumsub, perusahaan penyedia infrastruktur kepercayaan berbasis kecerdasan artifisial (Artificial Intelligence/AI), mengungkapkan adanya kesenjangan akuntabilitas (Accountability Asymmetry) pada pengadopsian teknologi AI di Indonesia. Berdasarkan laporan APAC State of Digital Trust: AI Governance Benchmark.
Sebanyak 96 persen organisasi di Indonesia merasa yakin dapat menjelaskan keputusan AI mereka. Namun, riset tersebut menemukan bahwa hanya 34 percent organisasi yang benar-benar menyimpan rekam jejak audit keputusan AI secara utuh dan antimanipulasi.
Survei independen yang digarap oleh Blackbox Research bersama Singapore FinTech Association terhadap 720 profesional senior di sembilan negara Asia-Pasifik (APAC).
Ini mencatat pergeseran penggunaan AI ke arah agentic AI sistem yang tidak hanya membantu pekerjaan, tetapi juga mampu merencanakan, mengambil keputusan, serta bertindak atas nama organisasi.
Di Indonesia, sebanyak 91 persen responden mengaku nyaman membiarkan AI mengambil keputusan tanpa keterlibatan manusia dalam proses rutin. Kendati demikian, tingkat kenyamanan tersebut merosot hingga 55 persen saat keputusan melibatkan transaksi keuangan.
Ketiadaan jejak audit yang terverifikasi membawa dampak langsung pada operasional perusahaan.
Data Sumsub menunjukkan bahwa 64 persen organisasi di Indonesia pernah mengalami situasi ketika AI bertindak sendiri hingga berujung pada masalah atau hasil yang tidak diinginkan.
Selain itu, 94 persen responden mengaku pernah menggunakan sistem AI di luar tujuan awalnya dalam setahun terakhir, yang menandakan peran AI di lapangan sering kali melenceng dari rencana awal yang telah disetujui manajemen.
Kualitas data juga menjadi tantangan mendasar di Indonesia. Sebanyak 56 persen organisasi menempatkan kualitas data sebagai kekhawatirannya terbesar saat AI bertindak mewakili mereka, yang merupakan angka tertinggi di kawasan APAC.
Menanggapi potensi risiko tersebut, 99 persen organisasi di Indonesia menyatakan kesiapannya untuk mengadopsi solusi teknis yang mampu melacak setiap tindakan AI hingga ke individu yang bertanggung jawab.
Tantangan tata kelola ini bertepatan dengan langkah regulator dalam memperketat pengawasan.
Otoritas Jasa Keuangan (OJK) telah menerbitkan Panduan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia untuk mengatur siklus hidup AI.
Mulai dari manajemen risiko hingga audit. Di tingkat nasional, pemerintah juga sedang menyusun dua Peraturan Presiden yang mengatur Peta Jalan AI Nasional dan Etika AI.
Guna menjembatani kesenjangan antara ekspektasi regulasi dan praktik operasional, Sumsub resmi meluncurkan Sumsub Agentic AI Council di kawasan APAC.
Forum lintas sektor ini menyatukan para pakar dari kalangan pembuat kebijakan, industri teknologi, akademisi, hingga masyarakat sipil untuk menyusun kerangka kerja praktis terkait penggunaan agentic AI.
Penny Chai, Vice President APAC Sumsub, , menegaskan bahwa potensi AI yang besar harus diimbangi dengan kemampuan organisasi dalam melacak keputusan serta menentukan penanggung jawabnya. Melalui kerangka kerja Know Your Agent,
“Sumsub menaruh akuntabilitas manusia sebagai pusat pengawasan, di mana setiap agen AI dikaitkan dengan identitas manusia terverifikasi dan memanfaatkan pemeriksaan liveness pada momen-momen kritis,”ujar Penny.
Sementara itu, Jason Chan, APAC Government Relations Lead Sumsub menyatakan bahwa hadirnya forum ini bertujuan untuk mengumpulkan keahlian lintas negara guna membagikan solusi atas tantangan nyata pengadopsian AI yang bertanggung jawab.
Inisiatif Agentic AI Council ini berfokus pada tiga pilar utama: Adopt (eksplorasi pemanfaatan berdampak), Build (pembangunan fondasi teknis dan identitas agen), serta Govern (penyusunan standar kebijakan dan akuntabilitas).
Sumsub membuka pendaftaran bagi para pakar yang ingin bergabung sebagai founding advisor menjelang pertemuan perdana Council pada kuartal pertama 2027.
Baca Juga:Danantara Siapkan AI hingga E-Commerce Nasional, Bangun Data Center 1 GW
Kelompok kerja awal ini direncanakan akan berfokus pada agentic commerce, yakni saat agen AI mulai melakukan tindakan penawaran dan transaksi atas nama konsumen maupun pelaku bisnis.
