今年在GTC 2024期間宣布推出結合人工智慧 模型與加速運算應用資源的NVIDIA NIM微服務平台,日前更宣布結合Meta近期釋出Llama 3.1開源模型、搭配NVIDIA AI Foundry服務,讓開發者或企業能更快打造各類客製化AI應用功能,在此次於丹佛舉辦的SIGGRAPH 2024期間更宣布攜手Hugging Face,推出以NVIDIA DGX Cloud雲端平台運行NVIDIA NIM微服務為基礎的推論即服務平台 (IaaS,Inference as a Service)。
NVIDIA NIM微服務是以對應CUDA運算架構的GPU進行加速,並且能以預先訓練人工智慧模型運作,藉此打造各類人工智慧應用服務,可在最佳化調整後佈署於雲端、資料中心、工作站及PC使用。
由於本身採用容器化設計,因此結合NVIDIA旗下GPU加速,快速套入人工智慧模型、API等資源,即可在短時間內建構各類人工智慧應用服務,同時能讓開發者、企業能以更簡單方式佈署使用。
而在近期宣布與Meta合作,透過結合Llama 3.1開源模型、搭配NVIDIA AI Foundry服務與NIM微服務,更快打造各類客製化AI應用功能,進而降低各個企業導入人工智慧應用服務門檻。
此次宣布與Hugging Face合作,則將以NVIDIA NIM微服務為基礎,結合以NVIDIA H100 GPU構成的DGX Cloud雲端平台,藉此讓佈署於Hugging Face平台的NVIDIA NIM微服務資料吞吐量可提高達5倍,同時也能透過Llama 3.1等最新模型打造各類微服務,更可確保相關API使用穩定性、安全性,以及企業端應用技術支援。
另外,NVIDIA也宣布升級NIM微服務功能,藉由加入Llama 3.1開源模型等新資源,藉此對應更多應用可能性,目前已經可透過「ai.nvidia.com」網站取得超過100款人工智慧應用微服務應用範本。
在與Getty Images合作部分,則是將先前推出的影像自動生成微服務NVIDIA Edify NIM升級,則是進一步強化輸入描述指令認知與影像生成品質,並且能依照描述生成不同鏡頭拍攝焦段範圍、景深表現,以及提供4K畫質影像的細節表現,讓使用者能透過Getty Images的iStock服務產生更多可實際商用的影像內容。
至於在與Shutterstock合作部分,則是同樣藉由升級版NVIDIA Edify NIM功能,讓Shutterstock旗下Generative 3D工具可生成高品質、可直接編輯使用的3D模組,同時也能產生16K 360 HDRi規格的背景與3D光源,目前將以beta形式提供測試使用。
《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 日本環球影城「咚奇剛國度」12月11日開幕!園區設施斷軌雲霄飛車、新品搶先看
📢 老婆傻眼老公去藥局「集點換到PS5 Pro」!男人們的默契齊聲見證:是真的
📢 Netflix雙11送「漲價大禮」!月費最高悄漲18%超驚人 每月比Max貴161元
📢 11月便宜資費懶人包/4G吃到飽488!5G搶市4百有找、再送千元小禮
📢 OTT串流平台優惠整理!MyVideo低於3折、LINE TV免千元
📢 LINE免費貼圖精選12組!「我不雞道」大玩諧音哏 黑貓椒滴滴超Q