隨著人工智慧(AI )資料中心愈蓋愈大,雲端服務公司也面臨一個問題:該如何處理那些較舊、規模較小的設施?博通 (Broadcom)提出了一個可能的解決方案,至少對於彼此距離不遠的營運據點而言或許可行。
博通周一(4日)宣布,新版的Jericho網路 晶片 ,能以更高的速度傳輸更大量的資料。核心交換事業群資深副總裁兼總經理維拉嘉(Ram Velaga)說,這表示客戶可以將數個較小的資料中心串聯起來,創造出一個可用來開發AI或執行AI模型的大型系統,用於開發或運行AI模型。
博通表示,新推出的Jericho4晶片能夠跨多個資料中心連接超過100萬顆處理器,資料處理能力約為前一代產品的四倍。
博通的Tomahawk系列晶片可用於連接單一資料中心內的機架,但Tomahawk連線距離通常不超過一公里(約0.6英里)。維拉嘉說,搭載新版Jericho的設備則可處理超過100公里距離的連線。
他表示,Jericho4從周一起將開始出貨給早期客戶,包括雲端服務供應商與網路設備製造商,這些公司會將其整合進他們的產品中。他說,預計需約九個月時間才能全面部署。
博通受惠於AI系統設備建構需求增加,公司生產的網路元件,例如路由器和交換器等,能在繪圖處理器(GPU)之間傳輸資料。訓練AI模型就是使用昂貴的GPU。
雖然部分博通產品被用於在同一機架或同一棟資料中心大樓內傳輸資料,但對於能夠跨建築甚至更遠距離傳輸資料的元件,市場也有很大需求。維拉嘉解釋,因為現在超大型GPU叢集的耗電量已經太高,無法集中在單一地點。
他說:「當他們試圖打造包含20萬甚至10萬顆GPU的叢集時,很快就會達到300MW的耗電量,而今天沒有任何一棟建築能夠提供這麼高的電力。」Jericho系列網路晶片將能協助應對這些挑戰。
企業也在努力將資料中心的量能移得更靠近用戶,從而加快AI模型回應的速度。維拉嘉表示,這意味著雲端與AI業者必須善用那些位於人口密集都會區的小型資料中心,透過串連它們來提升效能,這樣做在現實中也更具可行性。
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 POCO F8 Ultra開箱!驚豔Bose低音砲 實測鏡頭拍峇里島日出、捕捉厭世猴群
📢 LINE吃200GB空間!刪1群組「全當機」靠它救回 他曝安心刪除方法
📢 iPhone用戶小心!他「打FaceTime」慘交5700元電話費 改1設定防中招
📢 iPhone 18系列「史上最難選」!打破賈伯斯策略 選機方式大變動
📢 DJI Neo 2開箱!實測新手操作 空拍日出、環繞、跟拍1秒上手
📢 懶人包/LINE帳號換機方法一文看懂!開始前檢查3件事、1錯誤害資料救不回
