在此次VMware Explore 2023活動上,VMware宣布與NVIDIA 再次攜手合作,將推出全新VMware Private AI Foundation With NVIDIA服務,藉此協助企業更快導入自動生成式人工智慧 技術應用資源,並且確保應用內容資料隱密性、安全性及可控性。
隨著近期自動生成式人工智慧應用趨勢發展,越來越多企業開始觀望此技術應用發展可能性,同時也評估相關應用風險,雖然人工智慧技術應用能帶來諸多便利,但資料隱私安全及應用可控程度也成為企業擔心問題,尤其應用在金融、醫療、零售業、電信、媒體等服務時,客戶資料等數據安全問題必須格外重視。
而VMware此次與NVIDIA合作推出的VMware Private AI Foundation With NVIDIA服務,則是結合NVIDIA AI Enterprise技術資源中的人工智慧模型NeMo,讓企業能在任何端點位置建構自動生成式人工智慧,並且能透過自訂模型框架,以更安全方式快速建構人工智慧應用服務。
同時,此服務同樣建構在VMware Cloud Foundation方案上,讓企業能更容易以雲原生形式佈署自動生成式人工智慧應用服務,並且確保資料隱私與存取安全。而除了NVIDIA NeMo,此服務還能選擇使用Meta的開源人工智慧模型Llama 2,讓企業在建置選擇上有更大彈性。
至於與NVIDIA深入合作,VMware也能在特定服務佈署環境透過虛擬化GPU資源加速自動生成式人工智慧運算效率,同時透過最大化使用虛擬化CPU、GPU及DPU運算資源,更有助於降低服務建構成本,搭配VMware vSAN快速儲存架構也能提高服務資料存取效能,甚至直接透過NVIDIA的GPUDirect RDMA技術,更可直接跳過CPU運算流程,直接將資料傳輸到GPU完成運算。
此次合作更進一步讓VMware的vSphere虛擬化平台與NVIDIA NVSwitch技術整合,藉此提高使用多組GPU加速運算的效能表現,甚至也能藉由NVIDIA AI Workbench存取開源社群建構的人工智慧模型,例如透過Hugging Face託管的Llama 2開源模型,在VMware虛擬化環境建構自動生成式人工智慧應用內容。
另外,為了讓企業能更容易佈署各類人工智慧技術應用,VMware更透過預裝諸多人工智慧框架與效能最佳化資料庫內容的vSphere Deep Learning VM映像資源,藉此簡化企業打造、建構人工智慧應用服務門檻。
VMware預計在2024年初推出VMware Private AI Foundation with NVIDIA服務,並且將由Dell、HPE與聯想率先提供相容此服務,並且搭載NVIDIA L40S GPU、BlueField-3 DPU,以及NVIDIA ConnectX-7智慧網卡的伺服器系統。
《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 嚇慘!LINE相簿驚見「陌生人大眼鬼影照」 官方認了曝3步驟解決
📢 LINE免費貼圖7款來了!可愛動物亂鬥 馬來貘、小薩、狗幾、喔熊慶耶誕
📢 LINE內建表情貼不見了?官方大改版網嚇「變好色又變醜」 1方法恢復舊版本
📢 【開箱】ROG Phone 9 Pro Edition!LED炫砲又低調「I人不害羞」
📢 出門玩不怕迷路!教你用Google Maps看「實景」找路 每次用每次成功
📢 CASETiFY胡子碰碰手機殼2款可愛開箱!台式早餐圖案聞香 磁吸卡套支架極速感應