18+

NVIDIA攜手Hugging Face 推出以NVIDIA NIM微服務為基礎的推論即服務平台

今年在GTC 2024期間宣布推出結合人工智慧 模型與加速運算應用資源的NVIDIA NIM微服務平台,日前更宣布結合Meta近期釋出Llama 3.1開源模型、搭配NVIDIA AI Foundry服務,讓開發者或企業能更快打造各類客製化AI應用功能,在此次於丹佛舉辦的SIGGRAPH 2024期間更宣布攜手Hugging Face,推出以NVIDIA DGX Cloud雲端平台運行NVIDIA NIM微服務為基礎的推論即服務平台 (IaaS,Inference as a Service)。

NVIDIA NIM微服務是以對應CUDA運算架構的GPU進行加速,並且能以預先訓練人工智慧模型運作,藉此打造各類人工智慧應用服務,可在最佳化調整後佈署於雲端、資料中心、工作站及PC使用。

由於本身採用容器化設計,因此結合NVIDIA旗下GPU加速,快速套入人工智慧模型、API等資源,即可在短時間內建構各類人工智慧應用服務,同時能讓開發者、企業能以更簡單方式佈署使用。

而在近期宣布與Meta合作,透過結合Llama 3.1開源模型、搭配NVIDIA AI Foundry服務與NIM微服務,更快打造各類客製化AI應用功能,進而降低各個企業導入人工智慧應用服務門檻。

此次宣布與Hugging Face合作,則將以NVIDIA NIM微服務為基礎,結合以NVIDIA H100 GPU構成的DGX Cloud雲端平台,藉此讓佈署於Hugging Face平台的NVIDIA NIM微服務資料吞吐量可提高達5倍,同時也能透過Llama 3.1等最新模型打造各類微服務,更可確保相關API使用穩定性、安全性,以及企業端應用技術支援。

另外,NVIDIA也宣布升級NIM微服務功能,藉由加入Llama 3.1開源模型等新資源,藉此對應更多應用可能性,目前已經可透過「ai.nvidia.com」網站取得超過100款人工智慧應用微服務應用範本。

在與Getty Images合作部分,則是將先前推出的影像自動生成微服務NVIDIA Edify NIM升級,則是進一步強化輸入描述指令認知與影像生成品質,並且能依照描述生成不同鏡頭拍攝焦段範圍、景深表現,以及提供4K畫質影像的細節表現,讓使用者能透過Getty Images的iStock服務產生更多可實際商用的影像內容。

至於在與Shutterstock合作部分,則是同樣藉由升級版NVIDIA Edify NIM功能,讓Shutterstock旗下Generative 3D工具可生成高品質、可直接編輯使用的3D模組,同時也能產生16K 360 HDRi規格的背景與3D光源,目前將以beta形式提供測試使用。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

本日熱門 本周最熱 本月最熱