NVIDIA攜手Hugging Face 推出以NVIDIA NIM微服務為基礎的推論即服務平台

2024-07-30 08:24

聯合新聞網／ 楊又肇

今年在GTC 2024期間宣布推出結合人工智慧 模型與加速運算應用資源的NVIDIA NIM微服務平台，日前更宣布結合Meta近期釋出Llama 3.1開源模型、搭配NVIDIA AI Foundry服務，讓開發者或企業能更快打造各類客製化AI應用功能，在此次於丹佛舉辦的SIGGRAPH 2024期間更宣布攜手Hugging Face，推出以NVIDIA DGX Cloud雲端平台運行NVIDIA NIM微服務為基礎的推論即服務平台 (IaaS,Inference as a Service)。

NVIDIA NIM微服務是以對應CUDA運算架構的GPU進行加速，並且能以預先訓練人工智慧模型運作，藉此打造各類人工智慧應用服務，可在最佳化調整後佈署於雲端、資料中心、工作站及PC使用。

由於本身採用容器化設計，因此結合NVIDIA旗下GPU加速，快速套入人工智慧模型、API等資源，即可在短時間內建構各類人工智慧應用服務，同時能讓開發者、企業能以更簡單方式佈署使用。

而在近期宣布與Meta合作，透過結合Llama 3.1開源模型、搭配NVIDIA AI Foundry服務與NIM微服務，更快打造各類客製化AI應用功能，進而降低各個企業導入人工智慧應用服務門檻。

此次宣布與Hugging Face合作，則將以NVIDIA NIM微服務為基礎，結合以NVIDIA H100 GPU構成的DGX Cloud雲端平台，藉此讓佈署於Hugging Face平台的NVIDIA NIM微服務資料吞吐量可提高達5倍，同時也能透過Llama 3.1等最新模型打造各類微服務，更可確保相關API使用穩定性、安全性，以及企業端應用技術支援。

另外，NVIDIA也宣布升級NIM微服務功能，藉由加入Llama 3.1開源模型等新資源，藉此對應更多應用可能性，目前已經可透過「ai.nvidia.com」網站取得超過100款人工智慧應用微服務應用範本。

在與Getty Images合作部分，則是將先前推出的影像自動生成微服務NVIDIA Edify NIM升級，則是進一步強化輸入描述指令認知與影像生成品質，並且能依照描述生成不同鏡頭拍攝焦段範圍、景深表現，以及提供4K畫質影像的細節表現，讓使用者能透過Getty Images的iStock服務產生更多可實際商用的影像內容。

至於在與Shutterstock合作部分，則是同樣藉由升級版NVIDIA Edify NIM功能，讓Shutterstock旗下Generative 3D工具可生成高品質、可直接編輯使用的3D模組，同時也能產生16K 360 HDRi規格的背景與3D光源，目前將以beta形式提供測試使用。