微軟近期針對搭載Windows 11作業系統的「AI PC」裝置推出名為「AI Dev Gallery」開源開發應用資源，讓開發者能在應用服務導入裝置端人工智慧 應用功能。

「AI Dev Gallery」開源開發應用資源可讓開發者使用各類人工智慧模型，依照應用程式設計需求導入各類人工智慧應用功能，同時針對裝置端執行運作需求打造，因此能在沒有網路連線情況下使用，執行速度也比需要連網使用的大型人工智慧模型有更快反應表現。

目前包含Windows 10、Windows11，以及包含x64、Arm64架構設計的應用程式都可相容「AI Dev Gallery」開源開發應用資源。而要使用此支援，裝置必須搭載16GB以上記憶體，以及20GB以上的儲存容量，若需要執行更快、運算密度更高的應用服務，則建議可搭配內建8GB顯示記憶體的獨立顯示卡。

雖然越來越多業者推出各類大型自然語言模型 (LLM)，藉此推動互動更貼近自然的人工智慧互動使用體驗，但由於多半仰賴網路連接，因此執行效率往往會受網路環境影響，目前則有更多業者開始發展小型自然語言模型 (SLM)，並且透過微調、蒸餾等方式讓人工智慧模型精進，使其在特定執行表現能接近大型自然語言模型表現，同時也能保留更高效率執行速度。

微軟目前除了與OpenAI 持續合作，本身也提出Phi系列小型自然語言模型，標榜能以更輕快特性執行，並且計畫應用在其服務內，藉此降低人工智慧應用服務執行成本。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》