公布新一代人工智慧 基礎架構打造的Jericho4乙太網路 交換式路由器 平台 之後,博通 資深副總裁暨核心交換器部門總經理Ram Velaga在台北舉辦的2025 OCP APAC Summit (2025開放運算計畫亞太峰會)期間進一步說明採開放架構的網路平台優勢,並且強調能比NVIDIA藉由自身提出的NVLink技術,以及後續收購Mellanox取得InfiniBand及Spectrum技術所建構網路架構更具競爭力。
Ram Velaga表示,過去大型分散運算式架構主要用於複雜運算、能源探勘,或是諸如Google Search等大規模資料搜尋服務,而目前則是廣泛用於大型人工智慧運算,對應超過100萬組加速器規模,並且支撐大型語言模型運作。
在運算架構中,目前主流作法會以GPU作為加速器,並且透過堆疊方式提高單一運算叢集執行效能,同時再以網路連接方式橫向擴展運算規模,藉此形成更龐大的運算資源。不過,除了NVIDIA是以GPU加速為主,市場也有不少加速運算是透過CPU堆疊,甚至透過ASIC形式打造的運算元件 (例如Google的TPU)作為設計,藉此對應不同的運算佈署需求。
因此相較NVIDIA是以其NVLink技術將自身GPU產品與不同CPU連結,藉此達成加速運算效能垂直提升,並且透過InfiniBand、Spectrum技術橫向擴展運算規模,Ram Velaga強調博通看重的是以開放架構的乙太網路 (Ethernet)系統,建構更具彈性且符合低延遲需求的加速運算系統,同時避免相關技術受限於特定廠商的運作方式。
Ram Velaga指出,即使NVIDIA在今年Computex 2025宣布提出進一步開放與更多運算平台合作的NVLink Fusion,標榜能讓合作夥伴以其偏好、設計的運算平台,結合NVIDIA的GPU發揮更高執行運算效能,但整體來看仍會受限於NVIDIA願意開放多少資源,因此強調在全面開放、採業界標準設計的乙太網路系統才能推動更大加速運算生態。
在進一步說明中,Ram Velaga表示即使在NVLink技術下的延遲時間更低,但博通在日前提出的Tomahawk Ultra交換器處理晶片也能對應相當低的資料傳輸延遲表現,同時在可連接加速器數量更多,而對應的傳輸頻寬 表現也更高,加上採用開放架構的乙太網路系統,將能更不受特定廠商技術限制地建構超大規模加速運算系統。
Ram Velaga認為乙太網路的開放架構將是未來加速運算發展基礎,同時也能藉由更容易連結不同加速器,配合不同運算需求進行彈性佈署,而非僅能選擇特定廠商的少數技術資源。
另一方面,Ram Velaga也強調博通提出產品提供更高資料交換時的傳輸頻寬,因此能使網路系統的交換路徑進一步簡化,意味可讓整體傳輸延遲大幅降低、減少資料傳輸壅塞問題,同時也能藉由簡化傳輸路徑減少線路分布、交換器數量等所產生成本,更容易讓用戶能將分散在各地的小型資料中心以網路連結整合成大型運算叢集。
同時,Ram Velaga更表示博通不會與特定業者合作,強調藉由秉持開源精神與各家業者合作,並且對應不同業者自行採用的加速運算元件、模型運算需求。
《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 POCO F8 Ultra開箱!驚豔Bose低音砲 實測鏡頭拍峇里島日出、捕捉厭世猴群
📢 LINE吃200GB空間!刪1群組「全當機」靠它救回 他曝安心刪除方法
📢 iPhone用戶小心!他「打FaceTime」慘交5700元電話費 改1設定防中招
📢 iPhone 18系列「史上最難選」!打破賈伯斯策略 選機方式大變動
📢 DJI Neo 2開箱!實測新手操作 空拍日出、環繞、跟拍1秒上手
📢 懶人包/LINE帳號換機方法一文看懂!開始前檢查3件事、1錯誤害資料救不回
