分析/以開放架構單挑綠色巨獸:AMD Helios機架系統與第6代EPYC處理器如何在NVIDIA攻勢突圍?

聯合新聞網 楊又肇

隨著AI的發展正式從「Chatbot聊天機器人」邁入「代理AI」 (Agentic AI)時代,資料中心的算力需求與架構正經歷一場顯著技術轉移。在2022年至2025年間,基礎模型訓練與推論的CPU與GPU比例約為1:4,而進入2026年時,代理AI需要持續的推理、工具執行、資料庫檢索與任務編排,使得CPU與GPU的算力比例已經來到1:1,甚至更高。

在這個背景下,AMD在舊金山舉辦的Advancing AI 2026大會上祭出重磅武器:代號「Venice」的第6代EPYC伺服器處理器,以及採用全開放架構的Helios機架系統。這無疑是直接向NVIDIA目前主推、高度整合自身運算技術資源的Vera Rubin NVL72機架系統下達戰書。

筆者將從CPU戰力、機架系統連接技術、軟體生態,以及市場競爭策略四個面向,深入剖析AMD此次的勝算。

CPU戰場:AMD「Venice」在「代理任務」中的壓倒性優勢

代理AI不再只是單純的生成文字,它包含從閘道器 (Gateway)、上下文組裝、規劃與路由 (Plan & Route)、檢索增強 (RAG),到最終的驗證與回應,這是一條複雜的運算流程。

AMD代號「Venice」的第6代EPYC處理器,最高搭載256核心與512執行緒,並且支援AVX-512指令集與PCIe Gen6通道,專為代理式AI工作負載進行深度最佳化。若將其與競爭對手對比:

• 對比Intel Xeon 6980P (128核心):在需要極高並行處理能力的「閘道器與串流回應」任務中,「Venice」的效能是Xeon 6980P的2.83倍。而在企業級工具執行 (如資料庫與ERP查詢)上,也達到2.65倍的領先。

• 對比Arm架構 (如今年3月的AGI CPU / Graviton5):Arm架構雖然在能效上具備優勢,但在代理AI仰賴的高強度相似性搜尋 (Similarity Search) 與上下文檢索中,則面臨嚴重的記憶體頻寬與單指令流多資料流 (SIMD,即Single Instruction, Multiple Data)瓶頸。數據顯示,在檢索上下文中,「Venice」 (192核心版本)效能表現可達Intel的1.49倍,而Graviton5 (192核心)則僅有0.38倍的表現。

• 對比NVIDIA Vera CPU:NVIDIA的Vera CPU同樣是基於Arm架構,其最大優勢在於採用自主設計與Rubin GPU的超高速緊密耦合,專注於「餵養」GPU。但在代理AI應用場景中,CPU需要獨立處理大量複雜的x86架構企業應用程式、龐大的資料庫查詢與沙盒環境內程式碼生成驗證,這部分反而是具備多達256核心、強大單執行緒的每周期指令數 (IPC)表現,以及具備完整x86架構生態相容性的「Venice」能大幅勝出領域。

機架系統的正面對決:Helios開放架構對比Vera Rubin NVL72

NVIDIA的NVL72以單一機架72組GPU、透過專屬NVLink完全打通記憶體與算力著稱,可說是一頭「綠色巨獸」。而AMD此次推出的Helios機架系統,同樣在單一機架內塞入72組採用CDNA 5架構的Instinct MI455X GPU,單一機架可提供2.9 Exaflops AI算力、高達31 TB的HBM4統一記憶體,以及1.7 PB/s的HBM4傳輸頻寬。

兩者的最大分歧點在於「連接技術」與「開放性」:

NVIDIA藉由InfiniBand與NVLink建立起堅不可摧 (但也極其昂貴且封閉)的技術優勢,而AMD則是在Helios機架系統全面擁抱開放標準。

在Scale-Up (向上擴展)方面,AMD採用基於UALink (Ultra Accelerator Link)技術發展而來的UALoE,為每顆GPU提供高達3.6 TB/s的雙向頻寬,全機架聚合頻寬高達260 TB/s。在Scale-Out (向外擴展)方面,則是結合超乙太網路聯盟 (UEC) 標準與自家的第2代Pensando Vulcano 800 AI NIC網路卡,提供高達43 TB/s的擴展頻寬。

這樣的開放架構帶來的直接好處,在於降低成本、增加佈署彈性。根據AMD的數據,透過Pensando Vulcano AI NIC網卡與智慧傳輸技術,不僅能提升50%的橫向擴展傳輸頻寬、縮短13%的AI任務執行完成時間,還能在網路交換成本上大幅節省高達33%。

CUDA軟體生態的挑戰與ROCm的突圍

談到NVIDIA,永遠避不開CUDA這個龐大的軟體生態系。NVIDIA透過CUDA將開發者牢牢綁在自家的硬體上。然而,AMD這些年在ROCm開放軟體堆疊上的投資已經逐漸開花結果。

在Helios機架系統中,AMD不僅提供驅動程式,更端出全套的機架級管理軟體 (AMD Fabric Manager, AFM)與叢集控制器 (Cluster Controller)。

更重要的是,Helios支援「虛擬Pod」 (VPod)技術,允許雲端服務商將單一機架硬體切分為多個獨立、安全的子系統來運行不同工作負載。配合AMD在CPU端的機密運算 (Confidential Computing)技術 (如SEV-SNP),AMD成功將資安隔離層級從單一CPU擴展到整個GPU機架級別。

雖然要讓習慣CUDA的開發者完全轉移仍需一段 (甚至不少)時間,但主流的AI框架 (如 PyTorch) 已經在底層完善對ROCm軟體生態的支援,對於直接呼叫高階框架建立大型語言模型或代理AI服務的企業來說,底層是CUDA或是ROCm,已經越來越「無感」。

市場策略分析:AMD的勝算在哪裡?

總結來看,AMD迎戰NVIDIA Vera Rubin NVL72的策略非常明確:「用極致的開放與高性價比,擊破封閉生態的壟斷」。

目前市場上的大型雲端服務供應商 (CSP)如微軟、Meta等,對於單一供應商 (NVIDIA) 的過度依賴已經感到芒刺在背,甚至開始評估更好替代方案。雖然NVIDIA的全套解決方案雖然有極致效能表現,但其昂貴的溢價,以及「買GPU必須綁定自家網路設備」的做法,讓客戶的議價能力大幅降低。

AMD Helios機架系統結合「Venice」CPU強大的代理AI調度能力、MI455X GPU的龐大記憶體頻寬,以及採用UALink / UEC開放網路標準。這套組合精準打中市場痛點:允許大型雲端服務供應商在伺服器、網路交換器上擁有更多供應商選擇 (例如可選擇博通),不會被單一品牌綁架,整體建置成本預期將能大幅降低。

就目前來看,只要AMD能夠確保UALoE網路在實際大規模佈署中的穩定性,並且持續優化ROCm軟體堆疊針對持續更新的代理AI模型支援,憑藉著開放架構的吸引力與顯著網路成本優勢,AMD絕對有足夠的底氣與實力,在2026年的機架級AI基礎設施大戰中,從NVIDIA手中搶下極具份量的市佔率。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

📌 數位新聞搶鮮看!

 訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 Apple Pay、信用卡搭北捷「只扣1元」是沒刷到嗎?官方曝扣款規則秒懂
📢 iPhone來電畫面有2種!設計巧思超貼心 滑動接聽、拒接方法一次看
📢 DJI Mic Mini 2開箱!實測ASMR、降噪收音驚豔 彩色磁吸前蓋可更換
📢北捷Apple Pay信用卡嗶進站變「深蹲感應區」!官方曝設計原因:會再調整
📢獨/STUDIO A遇蘋果漲價要求「補差價」 4關鍵自保:店家不一定免責
📢 LINE免費貼圖4款!「蛤」字必下載爽用半年、熊大兔兔動態圖超Q

楊又肇

曾任聯合新聞網 (udn.com)數位頻道記者,目前為自由寫手與Mas...

NVIDIA AMD

推薦文章