人工智慧革命被Google執行長譽為意義不下於人類知道用火的年代。產業界如今不缺用火的知識,缺的是點火的火種。
華爾街日報報導,新型生成式AI 所需的先進晶片變得奇貨可居,正掀起一場軍備競賽。目前幾乎所有用於AI的圖形處理器(GPU)都由輝達(Nvidia)製造。但由於ChatGPT暴紅,這種晶片供應已遠遠跟不上需求。協助企業建構AI模型的Lamini聯合創辦人暨執行長CEO Sharon Zhou形容,目前供應吃緊的狀況「就像疫情期間的衛生紙一樣」。
這種情況限制了亞馬遜(Amazon)和微軟在內雲端服務供應商運算能力。像OpenAI這些客戶需要伺服器容量來開發並運行越來越複雜的模型,並幫助其他公司建立AI服務。
就連是全球跟供應商關係最好的科技企業家也不容易拿得足夠的容量。OpenAI 執行長Sam Altman 16日在國會聽證會上表示,由於處理器的供應瓶頸問題,他寧可使用ChatGPT的人少一些。馬斯克則在23日的華爾街日報執行長高峰論壇中說:「GPU目前遠比毒品還難買到。」
馬斯克終究還是比較占優勢。華爾街日報報導,許多新創企業爭相取得甲骨文(Oracle)的運算能力,卻突然被告知有一個買家已包下甲骨文大部分閒置的伺服器空間,這位買家正是自創X.AI來和Open AI打對台的馬斯克。
瑞銀分析師估計,ChatGPT較早的版本就需要輝達大約10,000個GPU。馬斯克估計,更新版本需要三到五倍於此數的高階GPU。
輝達最近表示,正在擴大供貨,以滿足不斷增長的需求。執行長黃仁勳表示,輝達已加速生產用於生成式AI的旗艦產品H100。
據AI投資人和新創公司透露,新創企業不得不退而求其次,縮小AI模型以便提高效率,或者自己購買載有相關GPU的實體伺服器,或者轉向像甲骨文這類較不熱門的雲端服務商。也有創業者只能向亞馬遜和微軟的銷售人員求討更多運算能力。
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢甩開悠遊卡?北捷10月開放多元支付閘門 1招真能用iPhone快速模式嗶進站
📢 手機壞掉不能換SIM卡?NCC疑新規定「90天2次」 他傻眼曝倒霉時間軸
📢 Switch 2完整拆解!Joy-Con 2控制器仍會遇上飄移問題
📢 TORRAS COOLiFY Cyber、COOLiFY 2S AI頸掛空調開箱!實測戶外超涼 還能解落枕
📢 他逛光華商場驚覺變無聊又被盤!過來人羞曝「朝聖攻略」:好吃又好玩
📢 iPhone 17改名iPhone 2025?他搖頭揭背後「藏大招」 賺錢金頭腦原理曝