伺服器記憶體容量大突破！美光宣布全球最大256GB SOCAMM2模組 單顆CPU記憶體直上2TB

美光 宣佈，已經領先業界開始出樣目前全球最大容量 的「256GB SOCAMM2」記憶體 模組。這款專為資料中心打造的怪物級新品，首度採用全球首見的單晶片32Gb LPDDR5x DRAM裸晶 (Die)。這不僅大幅推升了單一伺服器 的記憶體上限，更因其兼具大容量與低功耗的特性，直接獲得NVIDIA 高層背書，宣告AI推論硬體架構將迎來全新的升級週期。

突破容量天花板：單顆CPU支援高達2TB記憶體容量

要支撐龐大的AI模型運算，記憶體的「密度」是關鍵。

美光這次發表的256GB SOCAMM2模組，最核心的技術突破在於採用全新製程的單晶片32Gb LPDDR5x DRAM裸晶。透過這種超高密度的封裝設計，在常見的8通道、每通道單條記憶體 (1DPC)伺服器處理器架構下，單一顆CPU如今可將記憶體總容量一舉擴展至驚人的2TB。

相較於業界先前最高192GB模組的系統限制，256GB SOCAMM2帶來的容量躍升，代表現在的伺服器有能力將更龐大AI模型直接載入記憶體中。這讓系統能夠處理遠比過去更龐大的「上下文視窗」資料，並且順暢執行極度複雜的AI推論工作負載，不會因為頻繁讀取儲存硬碟 (SSD)而導致效能大幅卡頓。

兼顧頻寬與低功耗：NVIDIA點名讚賞的次世代標準

值得注意的是，這款模組之所以受到業界高度關注，不僅僅是因為「容量大」，更因為它解決資料中心最頭痛的「功耗」問題。

NVIDIA資料中心CPU產品負責人Ian Finder在針對美光新品的聲明中指出：「先進的AI基礎設施需要在每一個層面上進行驚人的最佳化，才能將效能與效率最大化，以滿足嚴苛的AI推論工作負載需求」。

Ian Finder強調，美光的256GB SOCAMM2模組完美達成這個目標：它在提供海量儲存空間與極高記憶體頻寬的同時，功耗卻低於傳統的伺服器記憶體 (如標準的 RDIMM)。這種在效能與能耗比上的重大成就，正是推動如NVIDIA Grace等新一代AICPU 持續發展的關鍵驅動力。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》