SELULAR.ID – Seorang ibu asal Florida bernama Megan Garcia melakukan gugatan kepada perusahaan teknologi Characte.ai yang menyebabkan anaknya, Sewell Setzer III mengakhiri hidupnya sendiri. Setzer III mengakhiri hidupnya usai mendiang bergantung pada chatbot tersebut.
Dalam dokumen pengadilan yang diajukan pada 24 Januari 2025, Character.ai melakukan sejumlah pembelaan. Perusahaan berpendapat bahwa platformnya memiliki protokol keamanan dasar yang ada dalam perusahaan AI. Perusahaan juga mengklaim bahwa First Amendment di Amerika Serikat (AS) melindungi kebebasan pengguna untuk mengakses chatbot.
Character.ai juga menegaskan bahwa terdapat pembatasan usia pengguna di platformnya. Perusahaan juga mengingatkan, bahwa dialog yang terjadi bukanlah kenyataan, melainkan sesuai dengan karakter fantasi yang dipilih penggunanya.
Baca juga: Chatbot AI DeepSeek Buatan China Saingi ChatGPT, Tapi Akurasi Rendah
Dalam pembelaannya, Character.ai berpendapat, bahwa membiarkan gugatan ini dilanjutkan akan memberikan efek menakutkan bagi Character.ai dan industri AI secara keseluruhan. Character.ai secara nyata tak menampik adanya peristiwa yang menimpa Setzer III.
Para pakar hukum menilai bahwa kasus ini dapat menetapkan preseden penting terkait tanggung jawab dan hak konstitusional dalam bidang chatbot AI yang terus berkembang.
Keputusan dari Pengadilan Distrik AS untuk Distrik Tengah Florida masih ditunggu. Kasus ini menyoroti perdebatan yang sedang berlangsung tentang keamanan AI, interaksi digital, dan tanggung jawab perusahaan yang mengembangkan teknologi AI percakapan yang semakin canggih.
Selain menggugat Character.ai, Megan Gracia juga menggugat Alphabet Inc. dan Google. Kedua perusahaan itu digugat karena menjadi investor di Character.ai.
Ikuti informasi menarik lainnya dari Selular.id di Google News
