Selular.ID – Para bos perusahaan kecerdasan buatan (AI) terbesar dunia mulai mendesak hadirnya standar keselamatan AI lintas negara.
Namun gagasan tersebut menghadapi penolakan dari pemerintahan Presiden Amerika Serikat Donald Trump yang khawatir tata kelola global justru menghambat pengembangan teknologi.
CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, dan CEO Hugging Face Clément Delangue menyuarakan perlunya koordinasi internasional dalam pertemuan Dewan Keamanan Perserikatan Bangsa-Bangsa (PBB) di New York.
Ketiganya menilai kemampuan AI berkembang begitu cepat sehingga risikonya tidak lagi dapat ditangani oleh satu perusahaan maupun satu negara.
Sam Altman Minta Standar AI Internasional
Altman mendorong pembentukan standar nasional dan internasional untuk mengukur kemampuan model AI, menilai risiko, menentukan kecukupan sistem pengamanan hingga memastikan manusia tetap memegang kendali atas sistem yang semakin otonom.
“Jika AI ingin bersifat demokratis, keputusan paling penting tidak dapat dibuat oleh laboratorium di San Francisco saja,” kata Altman, dilansir BBC, Sabtu (26/9/2026).
Bos ChatGPT itu juga mengusulkan mekanisme pelaporan, klasifikasi hingga protokol penanganan insiden secara cepat.
Baca juga:
- Tanpa Mesin Raksasa ASML, Ledakan ChatGPT dan Claude Bisa Tersendat
- Server Kewalahan! OpenAI Setop Sementara Pendaftaran Paket ChatGPT ChatG
Tujuannya agar kegagalan sebuah sistem AI dapat dipelajari sebelum berkembang menjadi persoalan yang jauh lebih besar.
“Kita membutuhkan standar bersama agar negara-negara dapat membandingkan bukti, memverifikasi kepatuhan, serta memiliki bahasa dan pemahaman bersama mengenai apa yang sedang terjadi,” tegas Altman.
Bos Anthropic Siap Perlambat Pengembangan AI
Dario Amodei menyampaikan kekhawatiran lebih keras. CEO Anthropic tersebut memperingatkan AI yang tidak dikelola dengan baik dapat menjadi risiko bagi manusia secara keseluruhan.
Karena itu, menurutnya, pengembangan model AI berikutnya membutuhkan standar keselamatan lebih ketat.
“Kami akan memperlambat sebanyak yang diperlukan untuk memastikan setiap teknologi AI berikutnya yang kami rilis benar-benar aman,” kata Amodei.
Namun ia mengakui kebijakan satu perusahaan tidak akan cukup. Risiko AI memiliki skala industri dan global sehingga membutuhkan keterlibatan lebih luas.
Delangue juga menyerukan standar lebih kuat untuk pemantauan dan pengungkapan insiden AI, terutama ketika sistem semakin mampu mengambil tindakan secara mandiri.
Pemerintahan Trump Justru Menolak
Seruan para petinggi perusahaan AI tersebut berhadapan dengan posisi pemerintahan Donald Trump.
Penasihat teknologi Presiden Trump, Michael Kratsios, mengakui perkembangan AI membawa risiko.
Namun hal itu menurutnya bukan alasan untuk menghentikan pengembangan ataupun membangun struktur tata kelola global baru.
“Dialog internasional di forum ini dan forum lainnya tidak boleh dibiarkan bergeser menuju tata kelola global,” tegas Kratsios.
Sikap tersebut sejalan dengan strategi Trump yang ingin mempertahankan keunggulan Amerika Serikat dalam perlombaan AI, terutama menghadapi China.
“Kita memimpin Tiongkok dalam AI… dan, terus terang, saya ingin mempertahankannya karena siapa pun yang memenangkan AI, akan menang,” kata Trump sebelumnya.
Agen AI Mulai Sulit Dikendalikan?
Perdebatan mengenai keselamatan AI semakin relevan setelah muncul insiden yang menunjukkan agen AI dapat bertindak di luar batas yang ditetapkan pengembang.
Salah satunya terjadi ketika agen AI OpenAI keluar dari lingkungan pengujian dan mengakses infrastruktur Hugging Face.
OpenAI kemudian menyebut insiden pada Juli tersebut sebagai pelanggaran keamanan setelah modelnya menerobos pembatas akses internet.
Kasus tersebut memperkuat kekhawatiran mengenai apa yang terjadi ketika AI agent semakin otonom dan mampu menjalankan serangkaian tindakan tanpa pengawasan manusia secara langsung.
Pertemuan PBB akhirnya memperlihatkan paradoks baru dalam perlombaan AI dunia.
Perusahaan yang berada di garis depan pengembangan AI justru meminta standar keselamatan internasional lebih kuat, sementara pemerintah AS ingin memastikan regulasi global tidak menghambat keunggulan teknologinya.
Perbedaan kepentingan tersebut berpotensi menjadi tantangan besar berikutnya.
Sebab ketika kemampuan AI semakin melampaui batas negara, dunia masih belum sepakat mengenai siapa yang harus membuat aturan, seberapa ketat AI perlu diawasi, dan kapan pengembangan teknologi harus diperlambat demi keselamatan.
