Selular.id – Platform TikTok kini menjadi sorotan setelah dibanjiri konten video AI yang mengandung stereotip rasis dan ujaran kebencian. Video-video tersebut diduga dibuat menggunakan teknologi Google Veo 3, model AI generatif untuk pembuatan video berbasis teks. Laporan terbaru dari Media Matters for America mengungkap bahwa beberapa video ini telah mencapai puluhan juta penayangan sebelum akhirnya dihapus.
Media Matters menemukan bahwa hampir semua video bermasalah ini berdurasi 8 detik, yang merupakan batas maksimal durasi video yang dapat dibuat dengan Veo 3. Beberapa di antaranya bahkan menampilkan watermark “Veo” atau tagar #Veo3 dalam deskripsi unggahan. “Bukti seperti watermark dan tagar mengindikasikan bahwa teknologi inilah yang digunakan,” tulis laporan tersebut.
Konten yang ditemukan mencakup stereotip rasis terhadap komunitas kulit hitam, antisemit, serta serangan terhadap imigran. Beberapa video bahkan merujuk pada peristiwa traumatis seperti Holocaust dan kekerasan Ku Klux Klan. Banyak dari konten ini dibuat dengan gaya sarkastik untuk memancing reaksi pengguna, dan komentar-komentar di bawahnya turut memperkuat narasi rasis tersebut.
TikTok menyatakan telah mengambil tindakan tegas terhadap akun-akun pelanggar. “Kami menegakkan aturan ketat terhadap ujaran kebencian. Banyak akun telah diblokir sebelum laporan ini terbit,” ujar juru bicara TikTok, Ariane de Selliers. Namun, fenomena ini mempertanyakan efektivitas moderasi konten otomatis, terutama ketika konten dibuat oleh AI dalam skala besar.
Baca Juga:
Google, dalam kebijakan penggunaan Veo 3, melarang pembuatan konten yang mengandung ujaran kebencian. Namun, tampaknya ada celah di mana AI gagal mengenali makna simbolik atau sindiran dalam perintah pengguna. Misalnya, penggunaan hewan atau makanan tertentu sebagai simbol penghinaan terhadap kelompok tertentu.
Hingga saat ini, Google belum memberikan pernyataan resmi terkait dugaan penyalahgunaan Veo 3. Video serupa juga ditemukan di platform lain seperti YouTube dan Instagram, menunjukkan bahwa tantangan ini tidak hanya milik TikTok, tetapi juga industri teknologi secara keseluruhan.
Media Matters telah mengompilasi bukti-bukti video rasis tersebut dalam sebuah video berdurasi 2 menit 22 detik. Namun, konten ini mengandung materi yang sangat sensitif dan tidak disarankan untuk ditonton tanpa persiapan mental yang memadai.
Kasus ini mengingatkan kembali pada pentingnya pengawasan ketat terhadap perkembangan teknologi AI, seperti yang pernah dibahas dalam artikel Selular.id tentang era AI. Sementara itu, TikTok terus berupaya memperbaiki sistem moderasinya, termasuk dengan memanfaatkan fitur-fitur teknologi terbaru untuk mendeteksi konten bermasalah.
