Selular.ID – Regulator media Inggris, Ofcom, pada Senin, (12/1), meluncurkan investigasi formal terhadap platform sosial media X milik Elon Musk terkait fitur pembuatan gambar chatbot AI-nya, Grok, yang telah digunakan untuk menghasilkan deepfake yang berbau seksual.
Grok menghadapi kecaman internasional yang semakin meningkat karena memungkinkan pengguna untuk membuat dan membagikan gambar-gambar yang berbau seksual dari perempuan dan anak-anak, hanya menggunakan perintah teks sederhana.
Ofcom menggambarkan laporan tersebut sebagai “sangat mengkhawatirkan.”
Dalam sebuah pernyataan, Ofcom mengatakan bahwa gambar-gambar orang tanpa busana dapat dianggap sebagai penyalahgunaan gambar intim atau pornografi dan gambar-gambar anak-anak yang berbau seksual dapat dianggap sebagai materi pelecehan seksual anak.”
Pernyataan tegas Ofcom sejalan dengan pandangan Keir Starmer.
Perdana Menteri Inggris dari Partai Buruh itu memperingatkan bahwa, jika X tidak dapat mengendalikan Grok, pihaknya tak segan-segan untuk segera bertindak.
“Kami akan melakukannya dengan cepat karena jika Anda mengambil keuntungan dari kerugian dan penyalahgunaan, Anda kehilangan hak untuk mengatur diri sendiri.”
Seiring dengan penyelidikan formal, Ofcom mengatakan telah menghubungi X, meminta penjelasan tentang langkah-langkah yang telah diambil untuk melindungi pengguna di Inggris.
Tanpa membagikan detail dari permintaan tersebut, regulator mengatakan bahwa X telah merespons dalam jangka waktu yang diberikan. Investigasi formal akan menentukan apakah X “gagal mematuhi kewajiban hukumnya.”
Baca Juga:
- Konten Deepfake Porno dari Grok AI yang Bikin Indonesia dan Malaysia Meradang
- Grok AI Masih Harus Klarifikasi Usai Kena Blokir di Indonesia
Berdasarkan Undang-Undang Keamanan Online Inggris, yang mulai berlaku pada Juli 2025, negara itu telah mengatur rambu-rambu bagi penyelenggara konten di internet.
Sesuai aturan tersebut, situs web, media sosial, dan platform berbagi video yang menampung konten yang berpotensi berbahaya diharuskan untuk menerapkan verifikasi usia yang ketat melalui alat-alat seperti pencitraan wajah atau pemeriksaan kartu kredit.
Situs media juga dilarang membuat atau membagikan gambar intim tanpa persetujuan atau materi pelecehan seksual anak, termasuk deepfake seksual yang dibuat dengan AI.
Agar memberikan efek jera, Ofcom berwenang untuk mengenakan denda sebesar 10% dari pendapatan global untuk pelanggaran aturan ini.
Di sisi lain, Grok berupaya menangkis derasnya kritik internasional dengan kebijakan monetisasi baru pada akhir pekan lalu.
Dalam sebuah postingan di X, pembuatan deefake yang mengandung konten pornografi tersebut sekarang “dibatasi untuk pelanggan berbayar,” bersama dengan tautan ke langganan premium.
Meski demikian, Starmer mengecam langkah tersebut sebagai penghinaan terhadap korban dan “bukan solusi.”
Berbicara dalam sebuah pertemuan dengan para anggota parlemen Partai Buruh, Starmer menyebut tindakan Grok dan X “benar-benar menjijikkan dan memalukan.”
Meski demikian, Elon Musk yang merupakan pemilik Grok, menepis kritik yang dilayangkan otoritas Inggris. Dalam sebuah cuitan di X pada akhir pekan lalu, Musk dengan enteng menyebutkan “mereka hanya ingin menekan kebebasan berbicara.”
Sejatinya, tak hanya Inggris yang bersuara keras terhadap konten porno deepfake yang bisa dihasilkan oleh AI Grok. Sejumlah negara bahkan telah memutuskan untuk memblokir layanan video dan gambar dari kecerdasan buatan itu. Di antaranya Indonesia dan Malaysia.
Seperti diketahui, otoritas di Indonesia dan Malaysia telah melarang akses ke alat AI Grok, dengan alasan X belum mengambil langkah-langkah untuk mencegah pengguna aplikasi tersebut membuat deepfake yang berbau seksual.
Kementerian Komunikasi dan Digital Indonesia menyatakan pada Sabtu (10/1), mereka untuk sementara memblokir akses ke Grok “untuk melindungi perempuan, anak-anak, dan masyarakat dari risiko konten pornografi palsu” yang dihasilkan menggunakan teknologi AI.
Dalam sebuah unggahan di X, Grok mengkonfirmasi bahwa kementerian tersebut untuk sementara memblokir akses karena penyalahgunaan konten deepfake dan meminta klarifikasi dari X mengenai langkah-langkah mitigasi.
Sehari kemudian, Komisi Komunikasi dan Multimedia Malaysia (MCMC) memerintahkan pembatasan sementara akses ke AI Grok bagi pengguna di negara tersebut, setelah apa yang mereka sebut sebagai “penyalahgunaan berulang” Grok untuk menghasilkan gambar yang cabul, eksplisit, dan dimanipulasi tanpa persetujuan.
Sikap tegas Indonesia dan Malaysia juga memicu negara lain dalam menyikapi layanan AI Grok, seperti yang dilakukan Australia.
Diketahui, Komisioner Keamanan Siber Australia telah meminta informasi kepada X tentang perlindungan yang diterapkan untuk mencegah penyalahgunaan Grok pada layanannya dan menyatakan keprihatinan tentang penggunaan sistem AI generatif untuk menghasilkan konten yang dapat menseksualisasi atau mengeksploitasi orang.
Sebelumnya Australia telah menerapkan larangan penggunaan media sosial bagi anak di bawah 16 tahun mulai 10 Desember 2025.
Kebijakan tegas ini, mewajibkan platform seperti TikTok, Instagram, dan YouTube untuk memblokir akses atau menonaktifkan akun pengguna di bawah usia tersebut.
Beleid itu bertujuan melindungi mereka dari konten berbahaya dan dampak buruk kesehatan mental, meskipun ada perdebatan dan tantangan hukum serta pelaksanaan.
