NVIDIA 在今年GTC 2024活動公布的NIM微服務，目前已經在台灣 與日本 地區推出可用於自動生成式人工智慧 的四款全新微服務，藉此加速佈署各類主權人工智慧應用項目。

此次推出的四款全新NVIDIA NIM微服務，將讓開發者能更容易建置、佈署高效能的自動生成式人工智慧應用服務，並且可依照在地需求量身訂做，藉此符合在地語言、文化，同時透過準確理解和改善的回應，藉此強化與使用者的互動。

而全新NVIDIA NIM微服務分別整合使用日文資料訓練出的Llama-3-Swallow-70B，以及使用台灣在地中文資料訓練出的Llama-3-Taiwan-70B，兩者均以Llama 3 70B模型為基礎打造，另外也包含建立在Mistral-7B模型基礎上的RakutenAI 7B系列模型，分別以英文及日文資料集進行訓練，主要應用在日本樂天旗下服務。

與Meta開源提供的Llama 3等大型自然語言模型相比，此類模型在理解日語、台灣在地中文，以及處理當地法律任務、回答問題，並且進行語言翻譯與總結方面的表現更為優異。

藉由導入在地語言模型，開發者將能利用NIM微服務建立更符合在地互動體驗的應用功能，並且透過API形式使用全新的NIM微服務，並且廣泛應用在醫療保健、金融、製造業、教育與法律相關領域。

目前包含東京工業大學全球科學資訊與運算中心 (Global Scientific Information and Computing Center)、台灣長庚紀念醫院、和碩聯合科技、長春集團、欣興電子、科技報橘、律果科技，以及自動生成式人工智慧新創APMIC均以NVIDIA NIM微服務打造各類應用項目。

另一方面，藉由NVIDIA AI Foundry平台，企業亦可針對需求量身打造客製化人工智慧模型，透過各類基礎模型結合NVIDIA NeMo服務進行微調，配合NVIDIA DGX Cloud與各類技術堆疊，即可藉由NVIDIA NIM微服務客製化各類模型。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》