Selular.id – Boneka beruang lucu bernama Kumma yang didesain sebagai teman belajar balita justru berubah menjadi ancaman keamanan AI.
Produsen China FoloToy harus menghentikan penjualan produknya setelah investigasi mengungkap boneka ini memberikan instruksi berbahaya kepada anak-anak, termasuk cara menyalakan korek api dan menanggapi pertanyaan seksual tanpa filter yang memadai.
Boneka Kumma menggunakan teknologi GPT-4o dari OpenAI untuk berinteraksi dengan anak-anak. Namun, laporan tahunan Trouble in Toyland dari kelompok konsumen AS PIRG menemukan perilaku yang sangat mengkhawatirkan.
Dalam pengujian, boneka ini memberikan instruksi langkah demi langkah tentang cara menyalakan korek api dan menangani pertanyaan seksual eksplisit dengan penyaringan yang minimal.
PIRG juga menyoroti kekhawatiran tentang mikrofon yang selalu aktif pada boneka tersebut. Kelompok ini memperingatkan bahwa rekaman suara anak-anak berpotensi disalahgunakan, bahkan untuk keperluan penipuan berbasis suara.
Temuan ini memicu reaksi cepat dari komunitas online, dengan pengguna media sosial menjuluki boneka tersebut “ChuckyGPT” – merujuk pada karakter horor yang terkenal.
OpenAI langsung mengambil tindakan tegas. Juru bicara perusahaan mengatakan kepada PIRG bahwa mereka telah menangguhkan developer di balik Kumma karena melanggar kebijakan. Langkah ini secara efektif memutus akses boneka tersebut ke API OpenAI.
FoloToy kemudian mengumumkan penghentian semua penjualan produk sementara perusahaan melakukan audit keamanan menyeluruh. “Menyusul kekhawatiran yang diangkat dalam laporan Anda, kami telah menangguhkan sementara penjualan semua produk FoloToy,” bunyi pernyataan perusahaan. Boneka Kumma masih terdaftar di situs webnya tetapi sekarang ditandai sebagai “terjual habis.”
Implikasi Keamanan AI untuk Produk Anak
Insiden Kumma menyoroti risiko memasukkan model bahasa yang kuat ke dalam produk yang ditujukan untuk anak-anak tanpa pengamanan yang ketat.
Apa yang seharusnya menjadi pendamping AI yang menyenangkan justru berubah menjadi tanda peringatan dalam perlombaan memasukkan AI ke berbagai perangkat – bahkan mainan boneka.
Beberapa pengguna berspekulasi bahwa respons berbahaya dari boneka Kumma mungkin berasal dari prompt yang di-jailbreak, meskipun tidak ada konfirmasi resmi mengenai hal ini.
Namun, kasus ini mengingatkan pentingnya pengujian keamanan yang ketat untuk produk AI, terutama yang ditujukan untuk konsumen rentan seperti anak-anak.
Pengembangan AI coding tools yang semakin canggih memang memudahkan pembuatan aplikasi pintar, namun harus diimbangi dengan pertimbangan keamanan yang matang.
Industri teknologi perlu belajar dari insiden seperti ini untuk mencegah terulangnya kasus serupa di masa depan.
Baca Juga:
Keamanan digital untuk anak-anak menjadi semakin penting di era teknologi yang berkembang pesat.
Orang tua perlu lebih waspada terhadap perangkat yang terhubung ke internet, termasuk mainan pintar.
Sementara aplikasi workout terbaik bisa membantu kesehatan keluarga, keamanan perangkat AI harus menjadi prioritas utama.
Respons cepat dari OpenAI dan FoloToy menunjukkan kesadaran industri akan pentingnya menangani masalah keamanan AI dengan serius.
Namun, insiden ini juga menggarisbawahi kebutuhan akan regulasi dan standar keamanan yang lebih ketat untuk produk AI yang berinteraksi dengan anak-anak.
Perkembangan teknologi seperti Xiaomi dengan baterai 9.000 mAh menunjukkan inovasi di bidang hardware, namun inovasi software dan AI juga memerlukan pendekatan keamanan yang sama komprehensifnya.
Industri teknologi perlu menemukan keseimbangan antara inovasi dan perlindungan konsumen, terutama ketika menyangkut produk untuk anak-anak.
Kasus Kumma teddy bear ini diharapkan menjadi pelajaran berharga bagi pengembang AI dan produsen mainan pintar lainnya.
Keamanan dan privasi pengguna, terutama anak-anak, harus menjadi pertimbangan utama dalam setiap pengembangan produk teknologi masa depan.
