去年推出第一款內部開發的客製化 加速器晶片 系列,專門用於處理推理相關工作的MTIA(Meta Training and Inference Accelerator)加速晶片之後,Meta宣布推出新款客製化加速器晶片,將對應內容排序與廣告推薦的底層運算加速,並且依然由台積電 代工,以5nm製程生產。
新一代MTIA加速晶片以8 x 8矩陣運算架構,並且改善稀疏運算管線設計,並且加上更大儲存、記憶體 、傳輸頻寬等設計,讓密集運算與稀疏運算能分別提升3.5倍與7倍,同時藉由晶片整合網路 功能(network on chip,NoC)設計,讓晶片可在網路延遲情況下調整不同運算方式,藉此對應更複雜工作負載模式。
同時,新一代MTIA加速晶片運作時達1.35G Hz、採用128MB記憶體、PCI Gen 5傳輸介面設計,但熱設計功耗則增加為90W,相較前一代晶片採用25W設計,明顯耗電許多。
而軟體方面則對應PyTorch 2.0、圖層捕捉、分析、轉換,以及擷取機制,因此能直接相容第一代MTIA加速晶片平台環境與相關程式編碼。
Meta預計會在近期內將新晶片更換至既有運算環境,目前更已經透過新款晶片在其16個雲端 區域資料中心執行人工智慧 相關工作負載,同時降低對外如NVIDIA加速晶片的依賴。
《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 POCO F8 Ultra開箱!驚豔Bose低音砲 實測鏡頭拍峇里島日出、捕捉厭世猴群
📢 LINE吃200GB空間!刪1群組「全當機」靠它救回 他曝安心刪除方法
📢 iPhone用戶小心!他「打FaceTime」慘交5700元電話費 改1設定防中招
📢 iPhone 18系列「史上最難選」!打破賈伯斯策略 選機方式大變動
📢 DJI Neo 2開箱!實測新手操作 空拍日出、環繞、跟拍1秒上手
📢 懶人包/LINE帳號換機方法一文看懂!開始前檢查3件事、1錯誤害資料救不回
