隨著訓練和運作人工智慧 (AI )軟體所需的晶片需求激增,輝達(Nvidia)最先進的繪圖顯卡在eBay上售價超過40,000美元(約新台幣122萬元)。
CNBC報導,臉書母公司Meta前顧問技術長卡麥克(John Carmack)14日發布一則推文表示,輝達的H100處理器在eBay上的標價約40,000至46,000美元不等。有些零售商過去提供這款處理器的價格約36,000美元。
這款去年發表的處理器是輝達最新的旗艦款AI晶片,效能超越號稱在AI應用上「最耐操」的A100處理器,A100的售價則為約10,000美元。
開發商正利用H100建構所謂的大型語言模型(LLM),這種模型也是聊天機器人ChatGPT 等AI應用的核心。運作這些系統的成本相當昂貴,需要功能強大的電腦來一次處理極大量的數據好幾天或好幾周,也仰賴高超的運算能力來生成文字、圖像或預測。
要訓練一套AI模型,尤其是像ChatGPT這樣的龐大模型,一次需要數百個輝達的高階晶片同時運作。
微軟已砸下數億美元購買上萬個輝達A100晶片來建構ChatGPT。輝達掌控了AI晶片絕大多數市場。
輝達也提供名為DGX的超級電腦,這台電腦共有八個繪圖處理器同時運作。輝達今年稍早宣布的新服務,將讓企業能以每月37,000美元的租賃價格連上DGX電腦。在這個價格方案,系統使用的是較舊款的A100處理器。
輝達表示,H100是第一個為特有AI架構Transformer做最優化處理的晶片,這種架構構成了近期許多AI進展。業界專家表示,為了建構比目前可用的還要更大、更需要數據的模型,將需要更效能強大的晶片。
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢甩開悠遊卡?北捷10月開放多元支付閘門 1招真能用iPhone快速模式嗶進站
📢 手機壞掉不能換SIM卡?NCC疑新規定「90天2次」 他傻眼曝倒霉時間軸
📢 Switch 2完整拆解!Joy-Con 2控制器仍會遇上飄移問題
📢 TORRAS COOLiFY Cyber、COOLiFY 2S AI頸掛空調開箱!實測戶外超涼 還能解落枕
📢 他逛光華商場驚覺變無聊又被盤!過來人羞曝「朝聖攻略」:好吃又好玩
📢 iPhone 17改名iPhone 2025?他搖頭揭背後「藏大招」 賺錢金頭腦原理曝