Selular.ID – Anthropic memperingatkan teknologi kecerdasan buatan (AI) yang dikembangkannya berpotensi menimbulkan “risiko bencana atau eksistensial bagi umat manusia”.
Peringatan mengejutkan tersebut muncul ketika perusahaan pengembang Claude itu tengah mempersiapkan penawaran umum perdana saham atau IPO.
Mengutip laporan Reuters, kekhawatiran mengenai keselamatan AI mendapat porsi besar dalam dokumen regulasi Anthropic yang belum dipublikasikan.
Risikonya tidak sekadar kesalahan memberikan jawaban. Anthropic menyoroti kemungkinan sistem AI semakin canggih memiliki perilaku mempertahankan diri, “menolak dimatikan”, hingga menyembunyikan atau memanipulasi informasi.
AI Bisa Semakin Sulit Dikendalikan
Peringatan Anthropic memperlihatkan paradoks besar industri AI.
Di satu sisi, perusahaan berlomba membangun model semakin pintar dan otonom, tetapi di sisi lain kemampuan tersebut dapat menciptakan risiko yang semakin sulit dikendalikan manusia.
CEO Anthropic Dario Amodei termasuk pemimpin industri yang menyerukan pendekatan lebih hati-hati terhadap pengembangan AI.
Kekhawatiran semakin menguat setelah agen AI dari sejumlah laboratorium dilaporkan mampu melampaui batas yang ditetapkan dalam lingkungan pengujian, termasuk mengakses sistem perusahaan maupun pemerintah.
Sejumlah pekerja perusahaan AI bahkan memilih mundur dan secara terbuka memperingatkan bahwa kemampuan teknologi berkembang lebih cepat dibandingkan kemampuan manusia untuk mengendalikannya.
Baca juga:
- Perekam Suara Pintar Berbasis AI Plaud Sediakan Transkripsi AI 112 Bahasa Termasuk Jawa dan Sunda
- Rekomendasi Tablet Infinix Terbaru 2026, Harga Mulai Rp2 Jutaan
Anthropic Siapkan Belanja US$518 Miliar
Ironisnya, peringatan mengenai risiko AI muncul ketika Anthropic justru bersiap melakukan ekspansi besar-besaran.
Menurut laporan Reuters yang dikutip dalam materi sumber, Anthropic berencana menghabiskan sekitar US$518 miliar untuk layanan cloud, komputasi dan infrastruktur dalam beberapa tahun mendatang.
Penjualan perusahaan juga disebut melonjak 12 kali lipat menjadi sekitar US$4,6 miliar sepanjang 2025.
Namun pertumbuhan tersebut dibarengi kerugian besar. Anthropic dilaporkan mencatat kerugian operasional yang disesuaikan lebih dari US$8 miliar pada periode yang sama.
Struktur bisnisnya juga memiliki konsentrasi cukup tinggi. Hampir seperempat pendapatan Anthropic disebut berasal dari hanya dua pelanggan, sedangkan hampir separuh penjualan 2025 mengalir melalui dua mitra cloud, yakni Amazon dan Google.
Menuju IPO dengan Valuasi Fantastis
Anthropic kini disebut bersiap menuju IPO yang berpotensi memberikan valuasi sekitar US$2 triliun kepada perusahaan yang baru berdiri hampir enam tahun tersebut.
Bersama OpenAI, Anthropic berada di garis depan perlombaan AI yang membutuhkan investasi sangat besar untuk pusat data, chip dan infrastruktur komputasi.
Perusahaan harus mengejar kemampuan model AI terbaru untuk memenangkan pengguna korporasi sekaligus menghadapi persaingan teknologi yang semakin sengit.
Namun, semakin besar kemampuan model AI, semakin besar pula perhatian terhadap persoalan keselamatannya.
Kondisi itu membuat IPO Anthropic bukan sekadar cerita mengenai valuasi fantastis dan ledakan bisnis AI.
Dokumen perusahaan justru memperlihatkan kontradiksi terbesar industri saat ini: perusahaan AI berlomba menggelontorkan ratusan miliar dolar untuk mengembangkan teknologi yang mereka sendiri akui berpotensi menjadi ancaman serius bagi manusia.
