Selular.id – Huawei secara resmi meluncurkan kerangka kerja AI terbarunya, Unified Cache Manager (UCM), sebagai solusi untuk mengoptimalkan inferensi model AI besar tanpa ketergantungan tinggi pada memori berbandwidth tinggi (HBM).
Teknologi ini diklaim mampu meningkatkan efisiensi sistem dengan mengelola data KV Cache secara lebih cerdas di berbagai lapisan memori.
UCM dirancang untuk mempercepat inferensi model AI skala besar dengan memanfaatkan hierarki memori yang ada, termasuk HBM, DRAM standar, dan SSD.
Huawei menguji teknologi ini dalam aplikasi bisnis nyata di China UnionPay, seperti analisis suara pelanggan dan perencanaan pemasaran, dengan hasil peningkatan throughput hingga 22 kali dan penurunan latensi hingga 90%.
Zhou Yuefeng, Wakil Presiden Huawei untuk lini produk penyimpanan, menjelaskan bahwa UCM dapat beradaptasi dengan ketersediaan memori tanpa mengorbankan performa.
“Arsitektur ini memungkinkan alokasi data dinamis berdasarkan kebutuhan latensi,” ujarnya.
Latar Belakang: Tantangan Akses ke HBM
HBM merupakan komponen kritis untuk menjalankan model AI besar karena bandwidth tinggi dan latensi rendahnya.
Namun, pasokan global didominasi oleh SK Hynix, Samsung, dan Micron. China menghadapi pembatasan ekspor HBM dari AS dan sekutunya, termasuk versi terbaru seperti HBM3 dan HBM4.
UCM hadir sebagai solusi alternatif untuk mengurangi ketergantungan pada HBM.
Dengan memanfaatkan optimasi perangkat lunak, Huawei berupaya memitigasi keterbatasan akses ke hardware canggih.
Ini sejalan dengan strategi perusahaan dalam mengembangkan infrastruktur AI mandiri, termasuk persaingannya dengan Nvidia di bidang komputasi AI.
Baca Juga:
Rencana Open Source dan Ekosistem
Huawei berencana membuka kode UCM pada September 2025 melalui platform MindSpore.
Perusahaan juga akan berkolaborasi dengan vendor penyimpanan dalam arsitektur “Share Everything”.
Langkah ini mirip dengan upaya sebelumnya dalam membuka sumber CANN, alternatif CUDA untuk chip Ascend.
Inisiatif ini memperkuat posisi Huawei di tengah persaingan teknologi global, termasuk persaingannya dengan Android dan iOS. Dengan solusi berbasis perangkat lunak seperti UCM, Huawei berpotensi mengurangi ketergantungan pada hardware impor.
Perkembangan ini terjadi di tengah ketegangan AS-China terkait akses semikonduktor.
China berinvestasi besar-besaran dalam industri chip domestik, meski masih tertinggal dalam produksi HBM.
Huawei sendiri telah meluncurkan seri Ascend dan CloudMatrix 384 sebagai alternatif produk Nvidia.
Ke depan, UCM dapat menjadi fondasi penting bagi penerapan AI skala besar di China, terutama di sektor pemerintahan dan bisnis strategis.
Dengan optimasi memori yang lebih fleksibel, Huawei berpeluang memperluas adopsi solusi AI-nya di tengah pembatasan teknologi global.
