Selular.ID – VMware dan NVIDIA mengumumkan kolaborasi dalam menghadirkan solusi kepada ratusan ribu perusahaan yang menggunakan infrastruktur Cloud VMware untuk siap menghadapi era AI Generatif.
Solusi VMware Private AI Foundation with NVIDIA ini memungkinkan perusahaan untuk memanfaatkan potensi AI generatif dengan mengadaptasi model dan menjalankan aplikasi seperti chatbot cerdas, asisten, pencarian, dan peringkasan.
Platform ini akan ditawarkan sebagai sebuah solusi terintegrasi yang menggabungkan perangkat lunak AI generatif dengan accelerated computing dari Nvidia, yang dibangun di atas dasar VMware Cloud Foundation dan dioptimalkan khusus untuk aplikasi AI.
Raghu Raghuram, CEO VMware mengatakan, kombinasi antara AI Generatif dan multi-cloud merupakan langkah yang sempurna. Menurutnya, Data pelanggan tersebar di berbagai tempat di pusat data, edge, hingga cloud.
“Bersama NVIDIA, kami memberdayakan perusahaan untuk dapat menjalankan beban kerja AI generatif mereka tanpa rasa khawatir, sambil tetap memprioritaskan isu privasi, keamanan, dan pengendalian data perusahaan mereka.”terang Raghu Raghuram.
Jensen Huang, pendiri dan CEO NVIDIA menyebutkan, saat ini, perusahaan-perusahaan tengah berlomba untuk mengintegrasikan AI generatif ke dalam bisnis mereka.
Kolaborasi yang lebih luas dengan VMware ini akan menghadirkan solusi perangkat lunak dan komputasi yang diperlukan oleh ratusan ribu pelanggan dari berbagai sektor.
Baca Juga:VMware Perluas SD-WAN untuk Operational Tech
Mulai dari layanan keuangan, perawatan kesehatan, hingga manufaktur – untuk membuka potensi AI generatif menggunakan aplikasi yang dikembangkan dengan data internal perusahaan masing-masing.
Full-Stack Computing untuk Meningkatkan AI Generatif
Untuk mencapai keuntungan bisnis lebih cepat, perusahaan terus berupaya mengefisienkan proses pengembangan, pengujian, dan penerapan aplikasi AI generatif.
Menurut perkiraan McKinsey, penggunaan AI generatif dapat berkontribusi hingga $4,4 triliun setiap tahunnya pada ekonomi global.
Solusi VMware Private AI Foundation with NVIDIA memungkinkan perusahaan untuk memanfaatkan kemampuan tersebut.
Melakukan kustomisasi large language model; memproduksi model yang lebih aman dan pribadi untuk penggunaan internal; dan menawarkan AI generatif sebagai layanan kepada penggunanya; dan, menjalankan beban kerja inferensi dalam skala besar dengan lebih aman.
Salah satu fitur utama platform ini adalah alat AI terintegrasi yang memungkinkan perusahaan menjalankan model yang telah dilatih menggunakan data pribadi mereka dengan biaya yang lebih efisien.
Dibangun di atas perangkat lunak VMware Cloud Foundation dan NVIDIA AI Enterprise, sejumlah manfaat teknologi ini yang ditawarkan termasuk:
● Privasi: Platform ini memungkinkan pelanggan untuk menjalankan layanan AI dengan mudah di mana pun data mereka berada, sambil tetap menjaga privasi data dan memastikan akses yang aman.
● Pilihan: Perusahaan memiliki fleksibilitas dalam membangun dan menjalankan model mereka — dari NVIDIA NeMo hingga Llama 2 dan setelahnya. Termasuk konfigurasi perangkat keras dari peneydia OEM terkemuka dan, di masa mendatang, pada cloud publik dan penawaran penyedia layanan.
● Kinerja: Dengan accelerated infrastructure dari NVIDIA, platform ini menawarkan kinerja yang superior, bahkan melebihi bare metal dalam beberapa kasus.
● Skala Pusat Data: Optimalisasi GPU scaling dalam lingkungan tervirtualisasi memungkinkan peningkatan workload AI hingga 16 vGPU/GPU dalam satu mesin virtual serta beberapa node, untuk mempercepat penyempurnaan dan penerapan model AI generatif.
● Biaya Lebih Rendah: Platform ini memaksimalkan penggunaan semua sumber daya komputasi, termasuk GPU, DPU, dan CPU, sehingga dapat mengurangi biaya operasional secara keseluruhan.
● Accelerated Storage: VMware vSAN Express Storage Architecture menyediakan storage NVMe dengan kinerja yang dioptimalkan dan dukungan penyimpanan GPUDirect® melalui RDMA, sehingga memungkinkan transfer I/O langsung dari storage ke GPU tanpa melibatkan CPU.
● Accelerated Networking: Integrasi antara teknologi vSphere dan NVIDIA NV Switch™ memungkinkan peluncuran model multi-GPU tanpa hambatan antar-GPU.
● Deployment dan Time to Value Cepat: vSphere Deep Learning VM Images dan repositori image memungkinkan prototyping cepat dengan kerangka kerja dan pustaka yang dioptimalkan sesuai dengan performa yang telah diinstal sebelumnya.
Baca Juga:Pembuat Chip Broadcom Akuisisi VMware Seharga Rp888 Triliun
Ketersediaan
VMware berencana untuk merilis VMware Private AI Foundation with NVIDIA pada awal tahun 2024.
