Meta推出第二款MTIA客製化加速器晶片 由台積電5nm製程生產

去年推出第一款內部開發的客製化加速器晶片系列，專門用於處理推理相關工作的MTIA（Meta Training and Inference Accelerator）加速晶片之後，Meta宣布推出新款客製化加速器晶片，將對應內容排序與廣告推薦的底層運算加速，並且依然由台積電代工，以5nm製程生產。

新一代MTIA加速晶片以8 x 8矩陣運算架構，並且改善稀疏運算管線設計，並且加上更大儲存、記憶體、傳輸頻寬等設計，讓密集運算與稀疏運算能分別提升3.5倍與7倍，同時藉由晶片整合網路功能（network on chip，NoC）設計，讓晶片可在網路延遲情況下調整不同運算方式，藉此對應更複雜工作負載模式。

同時，新一代MTIA加速晶片運作時達1.35GHz、採用128MB記憶體、PCI Gen 5傳輸介面設計，但熱設計功耗則增加為90W，相較前一代晶片採用25W設計，明顯耗電許多。

而軟體方面則對應PyTorch 2.0、圖層捕捉、分析、轉換，以及擷取機制，因此能直接相容第一代MTIA加速晶片平台環境與相關程式編碼。

Meta預計會在近期內將新晶片更換至既有運算環境，目前更已經透過新款晶片在其16個雲端區域資料中心執行人工智慧相關工作負載，同時降低對外如NVIDIA加速晶片的依賴。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》