Selular.id – Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Republik Indonesia (RI) Nezar Patria mengatakan terdapat fenomena deepfake yang kian mengkhawatirkan. Berdasarkan data dari salah satu platform deteksi ancaman AI, Sensity AI, mencatat adanya peningkatan 550% konten tersebut dalam lima tahun terakhir.
Pemerintah Indonesia melalui Komdigi mengajak platform digital seperti Meta dan Google untuk memanfaatkan teknologi komputasi dan kecerdasan buatan (AI) dalam memerangi konten hoaks, termasuk konten deepfake.
Nezar Patria, menegaskan bahwa teknologi tersebut dapat menjadi bagian dari layanan standar untuk memverifikasi konten yang diragukan keabsahannya. Dia menjelaskan bahwa pemerintah berupaya menyeimbangkan inovasi dengan regulasi agar pemanfaatan AI tidak disalahgunakan sebagai alat pembuat konten hoaks.
“Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif,” tegasnya.
Regulasi yang menjadi dasar hukum di Indonesia terkait pemanfaatan AI meliputi Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas UU ITE, Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP), Peraturan Pemerintah Nomor 17 Tahun 2025 tentang Tata Kelola Penyelenggaraan Sistem Elektronik dalam Pelindungan Anak (PP TUNAS), serta sejumlah peraturan teknis lainnya.
Kini, pemerintah tengah menyiapkan regulasi khusus pemanfaatan AI yang etis, bermakna, dan bertanggung jawab. Selain regulasi, Kemkominfo juga menggandeng ekosistem luas, termasuk Masyarakat Antifitnah Indonesia (Mafindo) dan media dalam program Cek Fakta.
Kolaborasi ini diharapkan dapat memperkuat perlindungan masyarakat dari konten hoaks dan deepfake yang kian marak.
Ketua Mafindo, Septiaji Eko Nugroho, menambahkan bahwa fenomena deepfake pertama kali muncul di Indonesia pada 2023 dan berkembang pesat saat ini. Konten tersebut kerap disalahgunakan untuk melakukan penipuan digital dan menggiring opini publik, terutama pada isu-isu politik.
“Untuk isu politik juga ada, tapi deepfake paling banyak digunakan untuk penipuan digital. Kalau ada konten hoaks bentuknya video yang muncul di tahun 2025 dengan tema penipuan digital, itu mayoritas adalah deepfake,” terang Septiaji.
Dirinya menegaskan bahwa Mafindo akan terus bekerja sama dengan Kemdigi, media, dan komunitas pegiat literasi lainnya untuk melakukan pengecekan fakta terhadap konten-konten hoaks termasuk deepfake yang beredar di internet.
Langkah ini dianggap penting mengingat deepfake mulai mendominasi maraknya kasus penipuan identitas, dengan Indonesia menjadi salah satu negara yang terdampak paling parah di kawasan Asia Pasifik.
Peran Teknologi dalam Memerangi Deepfake
Teknologi komputasi dan AI yang dimiliki platform digital dinilai memiliki peran strategis dalam mendeteksi dan memerangi konten deepfake. Nezar Patria menyebutkan bahwa fitur verifikasi konten dengan kekuatan komputasi dan AI dapat diintegrasikan sebagai layanan standar, mirip dengan yang telah diterapkan oleh Meta dan Google. Hal ini sejalan dengan upaya global dalam memitigasi risiko penyalahgunaan teknologi AI.
Selain itu, pemerintah juga mendorong pengembangan tools deteksi deepfake, seperti ekstensi peramban yang dapat membantu masyarakat mengidentifikasi konten mencurigakan. Sebagai contoh, Hiya telah meluncurkan ekstensi peramban Chrome untuk deteksi audio AI deepfake, yang dapat menjadi salah satu solusi praktis bagi pengguna internet.
Baca Juga:
Tantangan dan Langkah Ke Depan
Meskipun upaya kolaboratif telah dilakukan, tantangan dalam memerangi deepfake tetap besar. Hoax meningkat saat aksi demo, dan deepfake makin sulit diidentifikasi karena teknologi yang terus berkembang. Oleh karena itu, pemerintah dan para pemangku kepentingan perlu terus berinovasi dalam menyusun strategi pencegahan dan penanganan.
Ke depan, regulasi khusus AI yang tengah disiapkan diharapkan dapat memberikan payung hukum yang lebih komprehensif. Regulasi ini tidak hanya fokus pada aspek penegakan hukum, tetapi juga mendorong pemanfaatan AI yang bertanggung jawab dan bermanfaat bagi masyarakat. Dengan demikian, Indonesia dapat memanfaatkan kemajuan teknologi tanpa mengorbankan keamanan dan ketertiban digital.
Kerja sama antara pemerintah, platform digital, dan organisasi masyarakat seperti Mafindo akan terus diperkuat untuk memastikan ruang digital tetap aman dan nyaman bagi semua pengguna. Literasi digital juga menjadi kunci penting dalam membekali masyarakat dengan kemampuan untuk mengenali dan melaporkan konten deepfake.
