Selular.ID – Kemajuan AI malah membuat banya pihak khawatir. Raja Charles mengambil posisi di depan dalam menyuarakan hal tersebut.
Penguasa monarki Inggris itu, mendesak para pemimpin senior dari Nvidia, OpenAI, dan Anthropic agar memprioritaskan aspek keselamatan AI dalam sebuah pertemuan puncak di Skotlandia.
Menurut Istana Buckingham, acara yang berlangsung pada Kamis (17/9) berfokus pada bagaimana AI dapat dimanfaatkan demi kepentingan masyarakat dan alam, serta mencakup diskusi mengenai prinsip-prinsip bersama dalam pengembangan teknologi tersebut.
“Pengembangan AI—baik dari segi substansi maupun kecepatannya—menimbulkan rasa penasaran sekaligus kekhawatiran yang mendalam dalam kadar yang sama,” demikian kutipan pidato yang akan disampaikan Raja dalam pertemuan tersebut.
“Mereka yang menjunjung tinggi nilai kemanusiaan dan aspek moral yang krusial di dalamnya sangat menantikan jaminan dari Anda bahwa kita tidak akan kehilangan kendali atas nasib kita sendiri.”
Charles juga akan menerima perwakilan senior dari Google DeepMind—laboratorium AI internal milik raksasa teknologi tersebut—serta Menteri AI Inggris, Kanishka Narayan, dan para peserta lain yang dihadirkan oleh King’s Trust, King’s Foundation, dan Sustainable Markets Initiative.
Baca Juga: Sam Altman Tahan IPO OpenAI, Risiko AI “Musnahkan Manusia” Jadi Sorotan
Pihak Istana menyatakan bahwa Raja akan meminta para peserta untuk membahas cara memanfaatkan kekuatan AI dengan menempatkan aspek keselamatan sebagai prioritas utama, serta membangun kerja sama dan konsensus internasional untuk mewujudkan hal tersebut.
“Keputusan yang diambil pada masa krusial ini akan membentuk dunia yang akan diwariskan kepada generasi mendatang,” tambah Charles.
“Oleh karena itu, tugas Anda bukan sekadar memajukan teknologi, melainkan memastikan bahwa teknologi tersebut tetap sepenuhnya mengabdi pada kemanusiaan, masyarakat, dan alam”.
Sebelumnya, Raja pernah menyampaikan sambutan secara virtual dalam KTT Keselamatan AI Inggris tahun 2023, di mana beliau menyatakan bahwa “kita sedang menyaksikan salah satu lompatan teknologi terbesar dalam sejarah peradaban manusia.”
Perdebatan mengenai keselamatan AI semakin memanas dalam dua minggu terakhir, dengan para pemimpin teknologi—termasuk Sam Altman dari OpenAI, Dario Amodei dari Anthropic, pendiri Google DeepMind Demis Hassabis, dan Elon Musk—menunjukkan kesepakatan yang jarang terjadi dalam menyerukan perlambatan pengembangan teknologi serta perlunya pengawasan regulasi.
Di sisi lain, sejumlah pihak—termasuk Presiden AS Donald Trump, Mark Zuckerberg dari Meta, dan Jensen Huang dari Nvidia—menolak seruan untuk pemberlakuan regulasi yang lebih ketat.
Para pelopor AI yang turut mengembangkan kemajuan teknologi ini juga telah memperingatkan adanya risiko yang berpotensi membawa bencana terkait kemampuan sistem-sistem tersebut.
Sementara itu, kekhawatiran tersebut juga telah mempertajam perdebatan di Washington.
Di saat sejumlah anggota Kongres dari Partai Demokrat maupun Republik mendorong rancangan undang-undang untuk mengawasi perkembangan AI, Trump pada Senin (14/9) meluapkan kemarahannya terhadap seruan yang kian menguat mengenai perlunya regulasi AI.
Baca Juga: Server Kewalahan! OpenAI Setop Sementara Pendaftaran Paket ChatGPT ChatG
