Selular.ID – Otoritas di Indonesia dan Malaysia melarang akses ke alat AI Grok, dengan alasan X belum mengambil langkah-langkah untuk mencegah pengguna aplikasi tersebut membuat deepfake yang berbau seksual.
Kementerian Komunikasi dan Digital Indonesia menyatakan pada Sabtu (10/1), mereka untuk sementara memblokir akses ke Grok “untuk melindungi perempuan, anak-anak, dan masyarakat dari risiko konten pornografi palsu” yang dihasilkan menggunakan teknologi AI.
Dalam sebuah unggahan di X, Grok mengkonfirmasi bahwa kementerian tersebut untuk sementara memblokir akses karena penyalahgunaan konten deepfake dan meminta klarifikasi dari X mengenai langkah-langkah mitigasi.
Sehari kemudian, Komisi Komunikasi dan Multimedia Malaysia (MCMC) memerintahkan pembatasan sementara akses ke AI Grok bagi pengguna di negara tersebut, setelah apa yang mereka sebut sebagai “penyalahgunaan berulang” Grok untuk menghasilkan gambar yang cabul, eksplisit, dan dimanipulasi tanpa persetujuan.
MCMC mengeluarkan pemberitahuan resmi kepada X dan xAI pada awal Januari, menuntut mereka untuk menerapkan “perlindungan teknis dan moderasi yang efektif untuk mencegah konten yang dihasilkan AI yang dapat melanggar hukum Malaysia”.
Namun, lembaga tersebut menyatakan bahwa tanggapan yang diajukan oleh X sebagian besar bergantung pada mekanisme pelaporan yang diinisiasi pengguna dan gagal mengatasi risiko inheren yang ditimbulkan oleh desain dan pengoperasian alat AI tersebut, yang menurutnya “tidak cukup” untuk mencegah kerugian atau memastikan kepatuhan hukum.
Baca Juga:
- Ikuti Jejak Indonesia, Negara Tetangga Juga Blokir Grok AI
- Komdigi Blokir Grok AI Milik Elon Musk, Ini Penyebabnya
Larangan terhadap chatbot di kedua negara tersebut terjadi hanya beberapa hari setelah xAI, pemilik Grok, mengambil langkah untuk membatasi pengeditan gambar hanya untuk pelanggan berbayar setelah mendapat kecaman karena pengguna dapat menghasilkan konten seksual.
Sikap tegas Indonesia dan Malaysia juga memicu negara lain dalam menyikapi layaan AI Grok, seperti yang dilakukan Australia.
Komisioner Keamanan Siber Australia telah meminta informasi kepada X tentang perlindungan yang diterapkan untuk mencegah penyalahgunaan Grok pada layanannya dan menyatakan keprihatinan tentang penggunaan sistem AI generatif untuk menghasilkan konten yang dapat menseksualisasi atau mengeksploitasi orang.
Sebelumnya Australia telah menerapkan larangan penggunaan media sosial bagi anak di bawah 16 tahun mulai 10 Desember 2025.
Kebijakan tegas ini, mewajibkan platform seperti TikTok, Instagram, dan YouTube untuk memblokir akses atau menonaktifkan akun pengguna di bawah usia tersebut.
Beleid itu bertujuan melindungi mereka dari konten berbahaya dan dampak buruk kesehatan mental, meskipun ada perdebatan dan tantangan hukum serta pelaksanaan.
