Qualcomm讓搭載Snapdragon處理器的手機即可對應AI自動生成繪圖所需算力

在MWC 2023正式開展前，Qualcomm公布其在人工智慧領域研究成果，讓原本需要透過雲端協同執行的AI繪圖服務Stable Diffusion運算模型，可以在搭載Snapdragon 8 Gen 2處理器的市售裝置上運作。

此項研究橫跨Qualcomm不同部門完成，透過在搭載Snapdragon 8 Gen 2處理器的市售裝置執行運算，並且透過跨應用程式、類神經網路模型，以及演算法與軟硬體整合之下，實現可在裝置端完成原本必須透過雲端協同執行的Stable Diffusion運算模型。

而此項研究成果更反應在手機等裝置端的人工智慧運算能力，已經可以媲美過往必須配合雲端協作執行的運算成果，進而能夠推動影像處理、語意理解、自然語言翻譯，或是更直覺得人工智慧互動體驗。

依照Qualcomm說明，此項研究採用Qualcomm自行研發的AI Model Efficiency Tool Kit (AIMET)工具將常見的FP32單精度浮點數格式轉換成INT8純量函數，藉此提高人工智慧運算執行效率，並且達成記憶體資源佔用量與節能目標。

在AIMET工具的AdaRound (自適應捨入)功能，將使模型轉換後維持相同精度，讓模型無須重新訓練，另一方面則利用Snapdragon AIE架構提高執行效率，而借助Snapdragon 8 Gen 2處理器的微塊推論 (Micro Tile Inferencing)功能，將使複雜的穩定Stable Diffusion模型可在行動裝置上執行。

目前在搭載Snapdragon 8 Gen 2處理器的市售裝置上，約可在15秒內完成執行20個運算步驟，並且能自動生成512 x 512解析度圖像，而Qualcomm更預期日後推出的Snapdragon處理器能以更高算力推動運算效能，同時未來也能將此研究技術廣泛應用在手機、筆電，甚至像是混合實境頭戴裝置。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》