微軟於SEMICON Taiwan 2026揭示AI算力瓶頸 以Maia 200加速基礎設施「轉型」

微軟Azure硬體系統暨基礎設施總裁Rani Borkar在SEMICON Taiwan 2026大師論壇中指出，當前AI基礎設施正面臨如同1960年代農業革命般的「良率」 (Yield)挑戰，產業必須從傳統堆疊硬體的「進化型」擴展，全面轉向「轉型式」的系統級設計。

記憶體與頻寬的雙重瓶頸

隨著AI模型複雜度呈指數級增長，記憶體與網路頻寬已經成為限制AI系統效能的最大瓶頸。Rani Borkar指出，目前許多AI系統的基礎設施由多層架構組成，但受限於資料傳輸的延遲與頻寬限制，系統往往僅能發揮約20%的實際效能，主因在於運算單元耗費大量時間等待資料載入。

而解決此困境的核心，不僅在於提升資料移動的速度，更在於減少資料傳輸的頻率，藉此確保運算單元能持續保持高生產力狀態。

Maia 200帶動的硬體架構改革

為突破記憶體與運算效率的實體限制，微軟透過第二代自研AI加速器Azure Maia 200帶動底層硬體的徹底改革。

Maia 200採用台積電3nm製程，並且搭載高達216GB的HBM3e高頻寬記憶體，透過極大化高頻寬記憶體的容量配置，直接應對大型模型推論階段的記憶體瓶頸。微軟透過將硬體設計與底層軟體、演算法進行深度的協同最佳化，進一步提升整體AI運算的產出良率。

重新定義電力與散熱基礎設施

在算力密度大幅攀升的同時，單一機櫃的功耗，已經從過去的數十千瓦飆升至數百千瓦，資料中心的整體耗電量更邁向吉瓦 (Gigawatt)等級。為解決龐大的能耗問題，微軟導入固態變壓器與800V直流供電架構，藉此有效降低電力在系統傳輸過程中的能量損耗。

同時，微軟在其Arm架構伺服器處理器也導入晶片級的電源管理機制。在Cobalt 200世代處理器中，微軟將極為精細的電壓與時脈控制器直接整合至每一個核心內，並且結合虛擬機的電源上限設定，確保系統在面臨嚴苛的電力限制時，最關鍵的運算工作負載依然能獲得最佳效能與電力配置。

透過這種從晶片封裝、記憶體、網路連接到機櫃供電的全面架構重塑，顯示微軟正在推動AI算力打破傳統的物理與成本界線，確保未來龐大且複雜的AI運算需求能以更具經濟效益的方式實現。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》