AI重點
文章重點整理:
- 重點一:AMD收購加拿大Taalas,強化AI推論與Helios機櫃方案。
- 重點二:Taalas主打硬編碼推論,將模型權重直接刻進晶片。
- 重點三:此舉劍指NVIDIA優勢,搶攻低延遲專用推論市場。
AMD 在AI硬體戰場再度祭出大動作!美國時間8月6日時,AMD宣布已經達成最終協議,正式收購位於加拿大多倫多的專用AI推論晶片 新創公司Taalas。隨著AI產業的發展重心逐漸從「模型訓練」轉向「模型推論」,這筆收購案展現AMD欲透過顛覆性的底層架構,打破傳統通用GPU 記憶體瓶頸的企圖心。
Taalas的殺手鐧:摒棄通用GPU,把AI模型「刻」進硬體
成立於2023年的Taalas,其創辦團隊來頭不小,由前Tenstorrent創辦人暨執行長Ljubisa Bajic領軍。該公司提出的核心理念相當激進:「模型即電腦」 (The Model is The Computer)。
在當前的AI推論運算中,NVIDIA 所主導的通用型GPU面臨著嚴重的「記憶體牆」 (Memory Wall)問題——資料必須在運算單元與高頻寬記憶體之間不斷來回穿梭,導致極高的功耗與運算延遲。
而Taalas提出的「硬編碼推論」 (Hard Coded Inference)技術,則是捨棄傳統的HBM高頻寬記憶體設計,選擇將特定AI模型的權重 (Weights)以物理方式直接「蝕刻」到矽晶片的電晶體中。
根據Taalas先前展示的測試晶片,運行Meta的Llama 3.1 8B模型時,能達到每秒逼近17000個Token的驚人生成速度,效能遠超現有通用GPU,同時功耗與製造成本卻大幅降低。
補齊AMD全方位AI平台版圖
AMD人工智慧事業群資深副總裁Vamsi Boppana表示,Taalas技術與工程團隊將為AMD帶來差異化的推論效能與效率。未來,這項技術將與AMD的全方位AI平台深度整合,包含AMD Helios機櫃級解決方案、Instinct GPU、EPYC CPU,以及ROCm軟體生態系。
Taalas執行長Ljubisa Bajic也指出,團隊創立的初衷就是要從根本上重新定義AI推論,加入AMD將能取得更龐大的工程資源與全球規模,加速這項硬體創新技術的落地。本收購案目前仍待相關監管機構核准,預計將於2026年第四季完成交易。
筆者觀點:捨棄彈性換取極致效能,AMD劍走偏鋒的一步險棋?
隨著生成式AI應用深入日常,如即時對話機器人、自動駕駛與即時搜尋等對「低延遲」要求極高的推論場景正在爆發。
AMD此次買下Taalas,背後的戰略意義相當明顯:在通用GPU領域,NVIDIA生態高牆依然堅不可摧。與其在通用硬體上死磕,AMD選擇押寶「特定模型專用積體電路」 (Model-specific ICs),藉此在當前越來越多藉由ASIC (特定應用積體電路)設計晶片加速AI運算效率,並且降低能源損耗情況的趨勢增加競爭優勢。
類似情況,NVIDIA其實也在2025年底耗資巨額收購推論晶片新創Groq,並且將其納入成為Vera Rubin機櫃系統一部分,甚至可以針對不同運算需求單獨運作,凸顯NVIDIA也意識到當前的AI運算已經不再僅只是依賴GPU加速,更可能因應不同場景而有更合適的運算架構。
而Taalas的架構雖然犧牲GPU能夠隨時切換運行不同模型的「靈活性」——一旦模型升級,通常就得重新調整金屬層製造晶片——但其換來的卻是數量級上的速度提升與成本下降。
對於那些已經將特定模型固化到商業流程中 (如大規模API服務)的雲端巨頭來說,這種具備極致功耗比與超低延遲的專用硬體,絕對具有致命的吸引力。AMD是否能藉此在AI推論的下半場戰局中實現彎道超車?這項技術何時能真正整合進AMD的產品線量產,將是接下來市場關注的焦點。
《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》
精華 FAQ
-
AMD希望藉由Taalas的專用AI推論技術,補強自身在推論運算的效率與差異化優勢,並整合進Helios機櫃、Instinct GPU、EPYC CPU與ROCm軟體生態。
-
Taalas主張把特定AI模型的權重直接刻進晶片,捨棄傳統通用GPU與HBM記憶體架構,以降低資料搬移造成的延遲、功耗與成本,換取更高推論速度。
-
這代表AMD不再只在通用GPU正面硬拚,而是轉向專用推論晶片布局,鎖定低延遲、大規模API等場景;同時也反映NVIDIA同樣在尋求更適合推論需求的新架構。
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 Galaxy Z Fold8 Ultra開箱!摺痕退散、多工效能 同時爽玩Pokemon GO、Pikmin Bloom
📢Sony 1000X THE COLLEXION耳機開箱!工地實測降噪效果 空間音訊秒置身電影院
📢電商平台買「全新庫存機」踩雷!電池循環44次還帶維修紀錄 網揭無良賣家手法
📢 Apple Pay、信用卡搭北捷「只扣1元」是沒刷到嗎?官方曝扣款規則秒懂
📢國家級「行動斷網」演習完整指引!NCC揭3重點:勿用手機處理重要工作
📢 LINE免費貼圖4款!「蛤」字必下載爽用半年、熊大兔兔動態圖超Q

討論區