輝達推出全球首個支援 HBM3e 的 GPU 超級晶片

輝達（NVIDIA）執行長黃仁勳於台灣時間8日深夜，在美國洛杉磯舉辦的 SIGGRAPH 2023中發表2023主題演講。輝達在今年的台北國際電腦 展，就已宣布推出搭載256顆 GH200 超級晶片 的 DGX GH200 AI 超級電腦，將從今年底開始供貨，8日又宣布新一代 GH200 超級晶片平台，將從明年第2季開始供貨，並標榜是全球第一個支援 HBM3e 的 GPU 產品。

輝達推出新一代 GH200 Grace Hopper 平台，是專為加速運算與生成式 AI 應用打造，可用於處理複雜的生成式 AI 工作負載，包括大型語言模型、推薦系統和向量資料庫等。

黃仁勳表示，為滿足市場對生成式人工智慧 不斷增長的需求，資料中心需要有能滿足專屬需求的加速運算平台。全新 GH200 Grace Hopper 超級晶片平台以其出色的記憶體 技術和頻寬，加大資料處理能力，能夠連接多個 GPU，將效能聚集不減損，並為可以輕鬆部署到整個資料中心的伺服器設計。

輝達強調，HBM3e 記憶體的存取速度比當前的 HBM3 快上50%，可提供合計每秒 10TB 的頻寬，讓新平台能運行比前一個版本大上3.5倍的模型，同時以快三倍的記憶體頻寬提高整體執行效能。各大系統製造商預計將於2024年第2季，推出基於全新 GH200 Grace Hopper 超級晶片平台的產品。