Jakarta, Selular.ID – Perang AI memanas dengan kehadiran DeepSeek, chatbot AI asal Tiongkok yang mengklaim melampaui pesaing AS secara signifikan dalam hal efisiensi biaya.
Chatbot open source-nya mendorong aplikasi tersebut ke posisi teratas di App Store di 51 negara, dan kini terungkap bahwa aplikasi tersebut beroperasi pada chip AI Huawei.
DeepSeek R1 LLM (large language model/model bahasa besar) dilatih pada Nvidia H100 tetapi menggunakan chip Ascend 910C untuk inferensi, yang merupakan tindakan menggunakan model yang dilatih untuk menghasilkan respons.
Informasi tersebut berasal dari @Dorialexander, yang menunjukkan bahwa chip Ascend tidak menangani pelatihan, jadi kebutuhan daya GPU tidak terlalu tinggi.
I feel this should be a much bigger story: DeepSeek has trained on Nvidia H800 but is running inference on the new home Chinese chips made by Huawei, the 910C. pic.twitter.com/6IAgQlQ3ou
— Alexander Doria (@Dorialexander) January 28, 2025
Namun, kinerja Ascend 910C yang relatif lebih rendah membatasi kesesuaiannya untuk pelatihan.
Huawei berencana untuk mengatasi masalah ini dengan chip 920C mendatang yang bertujuan untuk bersaing dengan Blackwell B200, chipset Nvidia terkemuka untuk operasi AI.
Baca Juga: BDx Data Centers Bangun Pusat Data AI Dengan Komputasi Terakselerasi NVIDIA
