從單晶片到吉瓦級AI工廠：解密AMD CDNA 5架構與Instinct MI455X GPU的7大核心革新

隨著大型語言模型 (LLM)邁向兆級參數規模，加上混合專家模型 (MoE)與代理AI (Agentic AI)快速崛起，AI算力的競爭維度已經從單純「比拼單顆GPU峰值性能」，全面升級為「機架級系統整合效率」 (Rack-Scale)的對決。

在AMD 最新公佈的CDNA 5架構技術白皮書中，完整揭露專為機架級AI佈署打造的Instinct MI455X GPU，以及搭載72組GPU的全開放式Helios機架系統設計細節。筆者將針對白皮書中的7大核心架構創新、記憶體突破與機架系統設計進行深度拆解。

半導體封裝與運算單元革新：邁入2nm 製程與Wave32指令架構時代

Instinct MI455X GPU是AMD首款專為機架級AI基礎設施打造的加速器。在晶片微架構與封裝技術上，AMD端出了相當硬核的半導體陣容：

• 台積電 2nm/3nm異質整合：MI455X GPU封裝內部包含3200億顆電晶體，其中8個運算核心晶片 (XCD)採用台積電最新的2nm (N2)製程，而2個架構快取晶片 (FCD)與2個I/O晶片 (IOD)則採用3nm (N3P)製程，並且透過CoWoS-L先進封裝與3D堆疊連接。

• Wave32指令微架構取代Wave64：在運算核心部分，MI455X GPU擁有256個活化的工作組處理器 (WGP)。而CDNA 5捨棄前代的Wave64指令微架構，全面轉向Wave32指令集架構，能顯著降低指令延遲、減少分支分歧 (Branch Divergence)與暫存器壓力，極度適合對延遲敏感的推理與矩陣切片運算。

• 算力暴增4倍：支援OCP開放運算計畫策定的微縮點陣格式 (Microscaling)。在MXFP4與MXFP8資料格式下，MI455X GPU的峰值算力，可達到前一代MI335X GPU的4倍 (MXFP4資料格式下可達40.26 PFLOPS算力表現)，並且加入區塊級分數縮放 (Block-level fractional scaling)，大幅降低低精度訓練時的量化誤差。

記憶體子系統大進擊：12層堆疊HBM4與TDM直接傳輸

「記憶體牆」 (Memory Wall)向來是AI運算的最大瓶頸，因此CDNA 5在記憶體層級進行全面改造：

• HBM4介面頻寬翻倍：MI455X GPU整合12層堆疊的HBM4高頻寬記憶體，將介面位元寬度從前代每堆疊1024-bit提升至2048-bit。記憶體容量則提升1.5倍，總計達432 GB，記憶體傳輸頻寬更暴增2.9倍，衝上23.3 TB/s。

• 多播 (Multicast)與暫存器擴充：支援單次記憶體讀取「多播」至多個工作組處理器 (WGP,Workgroup Processor)，大幅減少重複的權重載入流量；向量通用暫存器 (Vector General-Purpose Register)定址能力擴大，使單一同時執行相同指令的執行緒集合可存取多達1024個暫存器 (前代僅256個)。

• Tensor Data Mover (TDM)與192 MB L2快取：每個工作組處理器均配置專屬TDM單元，資料可直接在LDS (Local Data Store)與DRAM之間進行非同步傳輸，無需經過中間暫存器轉置。而全晶片的L2快取容量更擴增6倍，總計達192 MB，並且提供高達54 TB/s的雙向快取頻寬。

垂直擴展與橫向擴展開放雙網：以UALoE標準協議讓72顆GPU共用統一記憶體

為了讓多顆GPU能像「單一巨大GPU」般運作，CDNA 5在網路架構上實現重大突破：

• Scale-Up垂直擴展 (UALoE)：晶片內建36組UALoE (Ultra Accelerator Link over Ethernet)標準連結，採用雙通道200Gbps (每組連結傳輸頻寬可達400Gbps)，讓單顆GPU可對應3.6 TB/s的雙向低延遲Scale-Up垂直擴展傳輸頻寬。使得單一共享記憶體Pod的節點上限從傳統8顆GPU能擴大到72顆GPU。

• Split DMA拆分架構：軟體的直接記憶體存取 (DMA)請求會自動被前端拆分，並且平均分配給UALoE的後端單元，讓開發者無需在通訊函式庫中手動處理複雜的網路拓撲。

• Scale-Out橫向擴展 (Pensando Vulcano)：每顆GPU支援最多3張AMD Pensando Vulcano 800 AI-NIC網路卡 (經由UALink x8或PCIe Gen6 x16通道)，提供600 GB/s的橫向擴展傳輸頻寬 (為前代設計的6倍)，全面擺脫專有網路規格的綁定。

• CPU-GPU快取一致性：透過16通道設計的AMD Infinity Fabric專有高速互連技術，與第六代AMD EPYC 9006 (Zen 6架構)伺服器處理器保持256 GB/s的快取一致性 (Cache-Coherent)連接，方便CPU與GPU以零拷貝形式共享KV Cache資源。

終極型態：Helios 44 OU機架系統與虛擬化切片

白皮書中更詳細展示將CDNA 5算力發揮至極致的載體——AMD Helios機架系統。

Helios採用開放運算計畫 (OCP,Open Compute Project)提出的Open Rack Wide (ORW)標準規格打造，採寬1.2公尺、深1.3公尺，符合ORv3標準的44 OU開放式伺服器機架，具備21英吋 (約53.34公分)內部寬度與48V匯流排電力系統。機架內部包含：

• 18組算力托盤 (Compute Trays)：每組包含4顆Instinct MI455X GPU與1顆高頻版96核心的第六代EPYC 9006伺服器處理器，以及1 TB DDR5記憶體與Pensando網路卡。

• 6組交換器托盤 (Switch Trays)：內建12組UALoE連接交換器，透過背面的整合式無纜線盲插 (Blind-mate)無氧銅套件，實現72顆GPU之間的單跳 (Single-hop)全對全相連 (All-to-All)。

• 機架總規格：單一Helios機架即可提供2.9 Exaflops (MXFP4格式)AI算力、31 TB HBM4記憶體容量、1.7 PB/s 記憶體傳輸頻寬，以及260 TB/s的Scale-Up垂直擴展互連頻寬。

在安全性與管理方面，Instinct MI455X GPU支援SR-IOV與硬體級空間切片 (可切分為1、2、4、8個獨立Partition/VM)，同時UALoE傳輸線路也內建AES-256-GCM硬體加密。搭配vPod (虛擬Pod)技術，即使機架內某個節點發生故障，錯誤也會被隔離在單一vPod內，不會影響其他雲端租戶或訓練任務。

筆者觀點：從「賣晶片」到「開放機架規格標準制定者」

這份CDNA 5架構白皮書，說明AMD在AI市場策略上的關鍵轉變。AMD很清楚，單靠提升GPU晶片的TFLOPS算力數字，已經無法在超大型資料中心市場擊敗NVIDIA。

CDNA 5架構與Helios機架系統的誕生，象徵AMD正式建立起從半導體微架構 (Wave32/HBM4)到晶片間互連 (UALoE/UALink)，再到機架硬體標準 (OCP ORW)，以及軟體堆疊 (ROCm/AFM)的完整生態循環。

最吸引超大規模雲端業者 (Hyperscaler)的亮點，在於其「開放」與「靈活性」。

NVIDIA NVL72雖然強大，但整體價格昂貴且高度封閉；而AMD Helios機架系統從網卡、交換器到機架尺寸全數擁抱OCP規格與超乙太網路 (UEC)開放標準，同時提供高達72顆GPU的共享記憶體池與硬體級資安隔離設計。

隨著Helios機架系統與Instinct MI455X GPU將於2026年下半年正式量產，AMD顯然具備在吉瓦級AI工廠 (Gigawatt AI Factories)建置潮中，與綠色巨獸NVIDIA一較高下的資本。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》