18+

NVIDIA針對台灣、日本推出符合在地語言與文化的NIM微服務 加速佈署各類主權AI應用項目

NVIDIA 在今年GTC 2024活動公布的NIM微服務,目前已經在台灣 日本 地區推出可用於自動生成式人工智慧 的四款全新微服務,藉此加速佈署各類主權人工智慧應用項目。

此次推出的四款全新NVIDIA NIM微服務,將讓開發者能更容易建置、佈署高效能的自動生成式人工智慧應用服務,並且可依照在地需求量身訂做,藉此符合在地語言、文化,同時透過準確理解和改善的回應,藉此強化與使用者的互動。

而全新NVIDIA NIM微服務分別整合使用日文資料訓練出的Llama-3-Swallow-70B,以及使用台灣在地中文資料訓練出的Llama-3-Taiwan-70B,兩者均以Llama 3 70B模型為基礎打造,另外也包含建立在Mistral-7B模型基礎上的RakutenAI 7B系列模型,分別以英文及日文資料集進行訓練,主要應用在日本樂天旗下服務。

與Meta開源提供的Llama 3等大型自然語言模型相比,此類模型在理解日語、台灣在地中文,以及處理當地法律任務、回答問題,並且進行語言翻譯與總結方面的表現更為優異。

藉由導入在地語言模型,開發者將能利用NIM微服務建立更符合在地互動體驗的應用功能,並且透過API形式使用全新的NIM微服務,並且廣泛應用在醫療保健、金融、製造業、教育與法律相關領域。

目前包含東京工業大學全球科學資訊與運算中心 (Global Scientific Information and Computing Center)、台灣長庚紀念醫院、和碩聯合科技、長春集團、欣興電子、科技報橘、律果科技,以及自動生成式人工智慧新創APMIC均以NVIDIA NIM微服務打造各類應用項目。

另一方面,藉由NVIDIA AI Foundry平台,企業亦可針對需求量身打造客製化人工智慧模型,透過各類基礎模型結合NVIDIA NeMo服務進行微調,配合NVIDIA DGX Cloud與各類技術堆疊,即可藉由NVIDIA NIM微服務客製化各類模型。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

本日熱門 本周最熱 本月最熱