NVIDIA 宣布推出以支援CUDA的GPU加速，並且能以預先訓練人工智慧 模型 運作，可在最佳化調整後佈署於雲端 、資料中心、工作站及PC的NVIDIA NIM微服務。

藉由NVIDIA NIM微服務，NVIDIA表示將能透過數十種企業級自動生成式人工智慧，讓企業能以微服務形式在自有服務平台建構、佈署客製化應用程式，並且確保完全持有及控制自有智慧財產權的權利。

除了提供NVIDIA NIM微服務，目前企業也能透過NVIDIA CUDA平台使用NVIDIA及其合作夥伴生態系 統收錄的20多種熱門人工智慧模型，例如A121、Adept、Cohere、Getty Images、Shutterstock 提供模型，以及Google、Hugging Face、Meta、Mistral AI 及Stability AI提供開放模型，而NVIDIA加速軟體開發套件、函式庫及工具也能作為NVIDIA CUDA-X微服務使用，藉此應用在檢索增強生成 (RAG)、可程式化控管、資料處理、高效能運算 (HPC)等作業。

包含Adobe、Cadence、CrowdStrike、Getty Images、SAP、ServiceNow，以及Shutterstock均為首波透過NVIDIA AI Enterprise 5.0使用NVIDIA NIM微服務的業者，分別應用旗下提供的應用程式、資料服務，以及網路安全平台服務。

而NVIDIA NIM微服務以包含Triton Inference Server、TensorRT-LLM在內推論軟體構成的預先建置容器形式運作，並且以API即可完成串接，讓人工智慧應用服務佈署從原本需要花費數周時間，縮減為幾分鐘即可完成，甚至能佈署於自有安全託管環境，藉此提升人工智慧應用彈性。

目前企業將可在AWS 提供的Amazon SageMaker、Google Cloud的Kubernetes Engine，以及微軟 的Azure AI雲端平台使用NVIDIA NIM微服務，並且與Deepset、LangChain與LlamaIndex在內熱門人工智慧框架整合。

此外，NVIDIA也公佈超過20款可用於醫療保健領域的NVIDIA NIM微服務，以及NVIDIA CUDA-X微服務項目，藉此將自動生成式人工智慧帶到更多應用範疇。

包含Parabricks、MONAI、NeMo、Riva與Metropolis在內NVIDIA加速軟體開發套件和工具，目前均可作為NVIDIA CUDA-X微服務存取使用。而研究人員、開發人員及相關從業人員可透過微服務，更容易將人工智慧與全新、既有應用程式進行整合，並且可從雲端或本地位置執行這些應用程式。

全新醫療保健微服務可為醫學成像、醫療技術、藥物探索和數位健康領域持續增加的模型集合提供最佳化的推論結果，並且能用於生成生物學、化學和分子預測。

這些微服務還包含一系列可用於藥物探索的模型，例如用於生成化學的MolMIM、可用於預測蛋白質結構的ESMFold，以及協助研究人員瞭解藥物分子如何與標靶進行相互作用的DiffDock。

而VISTA 3D微服務更加快建立3D分割模型的速度，另外相較在CPU上運行的DeepVariant分析速度，Universal DeepVariant微服務將基因組分析工作流程中的變異調用速度提高50倍以上。

開發者將可透過「ai.nvidia.com」網站免費試用NVIDIA NIM微服務，而企業則可在NVIDIA認證系統及主要公有雲服務平台透過NVIDIA AI Enterprise 5.0佈署NVIDIA NIM微服務。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》