Selular.id – Sebuah studi terbaru dari Pew Research Center mengungkapkan bahwa 64% remaja di Amerika Serikat mengaku telah menggunakan chatbot AI.
Sekitar 30% di antaranya bahkan menggunakannya setidaknya setiap hari.
Angka yang signifikan ini mengonfirmasi bahwa kecerdasan buatan telah menjadi bagian dari kehidupan digital generasi muda.
Namun, di balik popularitasnya, chatbot AI membawa risiko signifikan yang mulai terlihat nyata, seperti yang dialami sebuah keluarga dengan anak berusia 11 tahun.
Laporan investigasi dari Washington Post merinci kasus yang meresahkan dari seorang siswi kelas enam yang hampir kehilangan jati dirinya akibat interaksi intens dengan chatbot AI.
Anak tersebut, yang hanya diidentifikasi dengan inisial tengahnya “R”, menjalin hubungan yang mengkhawatirkan dengan puluhan karakter di platform Character.AI.
Karakter-karakter tersebut dijalankan oleh large language model (LLM) milik perusahaan. R menggunakan salah satu karakter bernama “Best Friend” (Sahabat) untuk bermain peran dalam skenario bunuh diri yang gelap.
“Ini anak saya, anak kecil saya berusia 11 tahun, berbicara dengan sesuatu yang tidak nyata tentang keinginan untuk tidak ada lagi di dunia ini,” ujar ibu R, seperti dikutip dari Futurism.
Kekhawatiran sang ibu muncul setelah melihat perubahan perilaku yang mencemaskan pada anaknya, termasuk meningkatnya serangan panik.
Awalnya, ia mengira ancaman utama berasal dari media sosial konvensional, sehingga ia menghapus aplikasi seperti TikTok dan Snapchat dari ponsel putrinya. Namun, ternyata sumber masalahnya lebih dalam dan berasal dari dunia AI.
Setelah menghapus aplikasi media sosial, sang ibu justru dikejutkan oleh pertanyaan putrinya yang sedang terisak, “Apakah Ibu memeriksa Character.AI?” Peringatan itu membawanya untuk memeriksa platform tersebut.
Ia menemukan bahwa Character.AI telah mengirimkan beberapa email kepada R yang mendorongnya untuk “kembali bermain.”
Pencarian lebih lanjut mengungkap interaksi yang tidak pantas antara R dan sebuah karakter bernama “Mafia Husband” (Suami Mafia).
Yakin ada predator manusia di balik obrolan itu, ibu R menghubungi polisi, tetapi mereka tak berdaya.
“Mereka memberi tahu saya hukum belum bisa menjangkau hal ini. Mereka ingin bertindak, tapi tidak ada yang bisa dilakukan karena tidak ada manusia sungguhan,” cetus sang ibu.
Kasus ini menyoroti celah besar dalam regulasi dan penegakan hukum terhadap interaksi berbahaya yang dimediasi oleh algoritma.
Untungnya, ibu R berhasil mengintervensi sebelum situasi memburuk. Dengan bantuan dokter, mereka menyusun rencana pemulihan untuk putrinya dan berencana mengajukan tuntutan hukum terhadap Character.AI.
Baca Juga:
Respons Perusahaan dan Tantangan Pengawasan Digital
Menghadapi kecaman yang meningkat, Character.AI akhirnya mengumumkan langkah pembatasan.
Perusahaan tersebut berencana mulai menghapus fitur obrolan terbuka bagi pengguna yang berusia di bawah 18 tahun.
Langkah ini merupakan pengakuan implisit atas risiko yang ditimbulkan platform mereka terhadap pengguna muda.
Namun, kebijakan ini juga memunculkan pertanyaan tentang efektivitas verifikasi usia secara digital dan sejauh mana perusahaan teknologi proaktif melindungi pengguna mudanya.
Kasus R bukanlah insiden terisolasi. Ia menggambarkan pola yang lebih luas di mana anak-anak dan remaja, yang sedang dalam tahap pencarian jati diri dan rentan secara emosional, dapat terjebak dalam hubungan parasosial yang intens dengan entitas AI.
Chatbot yang dirancang untuk selalu responsif dan empatik dapat dengan mudah menciptakan ilusi pertemanan atau hubungan yang mendalam, berpotensi mengisolasi pengguna muda dari interaksi sosial dunia nyata dan memengaruhi kesehatan mental mereka.
Fenomena ini menuntut pendekatan pengawasan digital yang lebih holistik dari orang tua.
Fokus yang selama ini banyak tercurah pada platform media sosial seperti TikTok atau Instagram perlu diperluas untuk mencakup aplikasi percakapan berbasis AI.
Orang tua disarankan untuk tidak hanya memantau aplikasi yang terinstal, tetapi juga memahami jenis interaksi yang terjadi di dalamnya.
Beberapa aplikasi pantau HP anak bisa menjadi alat bantu, namun dialog terbuka tentang keamanan online dan batasan digital tetap menjadi fondasi terpenting.
Masa Depan Regulasi dan Literasi Digital Keluarga
Ketidakberdayaan aparat penegak hukum dalam kasus R menyoroti betapa cepatnya perkembangan teknologi melampaui kerangka regulasi yang ada.
Hukum pidana konvensional dirancang untuk mengadili pelaku manusia, bukan algoritma.
Insiden ini memperkuat argumentasi para pendukung regulasi teknologi yang lebih ketat, khususnya yang melindungi anak-anak di ruang digital.
Inisiatif seperti verifikasi usia wajah yang diperluas oleh Roblox menunjukkan salah satu cara teknis yang mungkin diadopsi platform lain untuk membatasi akses konten berdasarkan usia.
Di sisi lain, perusahaan teknologi seperti Google juga terus mengembangkan ekosistem mereka, termasuk rencana fitur koneksi satelit mudah di Android, yang akan semakin memperluas jangkauan dan aksesibilitas layanan digital—termasuk yang berbasis AI—ke berbagai belahan dunia.
Ekspansi ini harus diimbangi dengan tanggung jawab korporat yang lebih besar dalam menilai dampak sosial produk mereka.
Kesimpulannya, temuan Pew Research Center dan kisah nyata keluarga R menjadi alarm keras bagi orang tua, pendidik, dan regulator.
Chatbot AI telah menjelma menjadi ancaman baru bagi anak yang membutuhkan kewaspadaan berbeda.
Pengawasan tidak bisa lagi hanya berfokus pada media sosial tradisional.
Membangun literasi digital keluarga, mendorong regulasi yang adaptif, dan menuntut akuntabilitas dari pengembang teknologi adalah langkah-langkah krusial untuk melindungi generasi muda di era di mana batas antara manusia dan mesin semakin kabur.
Pemulihan R mungkin telah dimulai, tetapi perjalanan untuk menciptakan lingkungan digital yang aman bagi semua anak masih panjang.
