AI重點
文章重點整理:
- 重點一:AMD推出Helios開放架構機架系統,正面對決NVIDIA
- 重點二:單機架整合72顆MI400 GPU,峰值算力最高達2.9 Exaflops
- 重點三:第6代EPYC Venice與OTel 2.0強化代理AI與電信應用。
在AI應用從單純的「對話回答」聊天機器人互動,全面邁向具備自主規劃與執行能力的「代理AI」 (Agentic AI)時代之際,AMD 於舊金山舉辦的Advancing AI 2026大會上,正式宣布推出包含硬體、網路、軟體在內的全方位AI基礎設施解決方案,亦即先前已經進行多次說明採開放架構、整合MI400系列GPU及代號「Venice」第6代EPYC伺服器 處理器的Helios機架系統。
本次發表會的核心亮點,包含:專為前沿AI訓練與大規模推論設計的AMD Helios機架級解決方案、採用HBM4記憶體的Instinct MI400系列GPU、專為代理AI運算需求打造的第6代EPYC 9006系列伺服器處理器「Venice」,以及藉由旗下Pensando Vulcano 800 AI網卡,搭配UALink over Ethernet (UALoE)協議建構的高速互連網路進行對外擴展,更宣布與美國電信業者AT&T、雲端業者微軟合作的OTel 2.0電信專用AI模型。
同時,相較競爭對手NVIDIA 提出Vera Rubin NVL72機架系統高度整合自有設計,AMD強調在Helios機架系統設計採用開放架構,並且與龐大市場生態夥伴合作,藉此擴大機架系統運算通用性,進而擴大整體市場效益。
Helios機架級系統:正面槓上NVIDIA Vera Rubin NVL72
為了滿足吉瓦規模 (Gigawatt)的大型AI工廠 (AI Factory)的佈署需求,AMD宣布正式推出其首款整合型機架級架構Helios。
Helios採用開放架構設計,單一機架整合18組Open Rack規格的4-GPU運算托盤 (總計整合72顆Instinct MI400系列GPU)。其單一機架硬體規格包含:
• 運算核心:搭載全新AMD Instinct MI455X GPU與第6代EPYC伺服器處理器「Venice」。
• 極限效能:單機架可提供高達2.9 Exaflops的FP4峰值算力,或是1.4Exaflops的FP8峰值算力。
• 記憶體與頻寬:配備高達31 TB的HBM4記憶體,記憶體傳輸頻寬達1.7 PB/s。
• 高速互連網路:內部採用UALink over Ethernet (UALoE)進行Scale-up對內垂直擴展;外部橫向擴展Scale-out部分,則是採用符合Ultra Ethernet Consortium (UEC)標準的乙太網路與AMD Pensando Vulcano 800 AI網卡。
根據AMD官方數據說明,與市場主要競爭對手 (即NVIDIA Vera Rubin NVL72機架系統)相比,Helios機架系統在FP4峰值算力效能提升達15%、HBM記憶體容量更增加多達50%、HBM傳輸頻寬則提升6%,至於對外橫向擴展Scale-out網路頻寬更是增加50%,並且在建置成本效益上可實現每美元額外輸出多達30%的Tokens數量。
第6代EPYC 9006系列伺服器處理器:重新定義代理AI資料中心
隨著代理AI應用普及,AI資料中心的運算需求不再僅集中於GPU上的模型推論,更高度依賴CPU來執行代理程式沙盒 (Sandbox Execution)、排程管控、連接企業資料庫,以及餵養GPU計算數據。為此,AMD推出代號「Venice」的EPYC 9006系列伺服器處理器:
• EPYC 9006 SP7:專為高密度代理沙盒打造,最高提供256核心 / 512執行緒,高時脈版本更可作為AI主機節點 (Host Node),支援PCIe Gen 6與最高5GHz的運作時脈。
• EPYC 9006 SP8:針對一般企業級工作負載與邊緣節點設計,提供8至128核心的彈性選擇,主打極致功耗比與系統成本效益。
• EPYC 9006X SP7:針對HPC高效能運算與數據密集型分析設計,最高時脈達5.15GHz,每核心擁有3倍的L3快取記憶體。
• EPYC 9006 LP (代號Verano,即位於義大利北部波爾扎諾自治省的寧靜山區市鎮韋拉諾):專為高密度AI機架的主機節點設計,採用LPDDR記憶體與最高5GHz運作時脈,確保GPU加速器能獲得源源不絕的數據供給。
Instinct MI400系列GPU:MI455X結合前沿AI,MI430X聚焦主權AI與科學運算
在加速器部分,AMD正式推出Instinct MI400系列GPU,全系均由開放的AMD ROCm軟體堆疊支援,並且整合硬體級加密與安全啟動技術:
• Instinct MI455X GPU:專為前沿AI (Frontier AI)與超大規模AI工廠設計,主打海量推論與基礎模型訓練。
• Instinct MI430X GPU:鎖定主權AI (Sovereign AI)與科學計算領域,提供高達288 TFLOPS的原生硬體FP64浮點運算效能,強調兼顧精準度與安全性。
電信業AI實踐:與AT&T、微軟推出OTel 2.0電信開源模型
除了硬體架構,AMD也展現其在產業垂直應用領域的落地成果。AMD、AT&T與微軟共同發表專為電信領域訓練的開源模型OTel 2.0。
AT&T表示,透過微軟Azure雲端平台上運行於AMD Instinct GPU的代管運算服務,目前已經累計處理超過1兆個Token運算量 (每日平均處理約450億個Tokens)。透過智慧網關與模型路由技術,不僅提升電信網路的維運與故障排除效率,更為公司節省高達80%的AI營運成本。
AMD的「全棧式機架反攻」與開放生態戰略
AMD在Advancing AI 2026上所展現的戰略意圖非常清晰,強調本身不再只是銷售GPU或CPU,而是正式升級為「機架級AI系統供應商」。
面對NVIDIA透過自身NVLink與Blackwell / Vera Rubin體系所建立的封閉機架系統,AMD選擇以開放架構設計的Helios機架系統正面回擊。Helios的強勢之處不僅在於HBM4記憶體容量與Token成本比的優勢,更在於其擁抱UALink與UEC乙太網路等開放連接標準,對於不想被單一廠商軟硬體規格 (如NVLink、NVIDIA Spectrum乙太網路)綁死的雲端服務商 (CSP)與企業客戶而言,明顯帶來極大的吸引力。
此外,AMD精準抓住「代理AI」應用再次興起對CPU產生的全新需求。當AI系統開始學會自主呼叫工具、寫程式與存取企業資料庫時,CPU扮演的「調度與主控」角色變得前所未有地重要。而第6代EPYC伺服器處理器透過高密度核心 (例如EPYC 9006X SP7設計)與特殊LPDDR設計 (如「Verano」),完美補齊Helios機架系統在數據餵養上的瓶頸。
從稍早與Anthropic簽署的2 GW規模超級合約,到此次正式宣布推出Helios機架系統與Instinct MI400系列GPU,AMD已經完成從晶片、機架、網路到軟體 (ROCm)的全面佈局。
未來兩年,全球AI資料中心的競賽,將正式進入「開放標準機架」 (如AMD Helios)與「專利封閉機架」 (NVIDIA NVL)之間的終極肉搏戰。
《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》
精華 FAQ
-
Helios主打開放架構與機架級整合,將GPU、CPU、網路與軟體納入同一方案,並採用UALink over Ethernet與UEC乙太網路標準,目標是提供雲端與企業更高的通用性與擴充彈性。
-
單一機架可整合72顆Instinct MI400系列GPU,提供最高2.9 Exaflops FP4算力、31 TB HBM4記憶體與1.7 PB/s頻寬,外部擴展則透過Pensando Vulcano 800 AI網卡提升Scale-out效能。
-
Venice處理器用來支援代理AI所需的沙盒執行、排程與資料調度,補強CPU端負載;OTel 2.0則是AMD與AT&T、微軟合作的電信開源模型,已在Azure上累計處理逾1兆個Token。

討論區