18+

Qualcomm攜手Liquid AI推動終端運算革命:讓邊緣AI從靜態模型走向「主動式代理」

AI重點

文章重點整理:

  • 重點一:Qualcomm與Liquid AI合作,把邊緣AI推向主動式代理。
  • 重點二:Liquid AI以硬體迴路設計終端原生模型,強調生產級AI
  • 重點三:Liquid Context on Snapdragon可在裝置端讀寫記憶並保護隱私。

Qualcomm 執行長Cristiano Amon在Snapdragon Summit技術大會第二天,邀請Liquid AI共同創辦人暨執行長Ramin Hasani進行對談,深刻探討AI在智慧型手機與終端運算設備的下一步發展路徑。這場對談不僅揭示邊緣AI (Edge AI)的未來樣貌,更具體展示雙方如何透過軟硬體深度整合,將當前的靜態AI模型 推向具備自我學習能力的「主動式代理」 (Agentic AI)。

從實驗室走向終端:Liquid AI的硬體原生思維

自麻省理工學院電腦科學與人工智慧實驗室 (MIT CSAIL)獨立運作約3年半的Liquid AI,其核心願景是將最大化的AI智慧,精巧地放入最小的運算單元中。有別於傳統先在雲端訓練龐大模型再進行後端優化的作法,Liquid AI在技術架構上採取「硬體迴路」 (Hardware-in-the-loop)的設計策略,從零開始專為終端裝置打造基礎模型。

Liquid AI推出的Liquid Foundation Models (LFMs)採用開放權重模式,模型參數規模涵蓋2億至240億,而目前LFMs每週在Hugging Face平台上的下載量高達140萬次。

針對OEM合作夥伴,Liquid AI提供隨插即用的「Model + Harness」 (模型+安全防護)產品,以及允許OEM進一步客製化模型開發堆疊 (Model development stack)。該公司的長遠目標,是讓這些模型能在每年全球生產40億台裝置中取得50%以上的佈署應用比重。

跨越AI落差:定義「生產級AI」的必要條件

Ramin Hasani在對談中點出當前AI產業面臨的關鍵落差:雖然AI模型能力呈現指數型成長,並且帶動基礎的數學與邏輯推理技術創新,但個人的生產力提升速度,已經遠遠超越企業整體的商業轉型步伐,而當前的市場挑戰在於如何將這些運算「能力」確實轉換為實際「價值」。

為了跨越這道鴻溝,業界必須打造生產級AI (Production Grade AI)。這種AI必須滿足三個條件,包含必須能夠執行高度可靠的動作、系統輸出結果必須具備完全的可驗證性,同時必須能滿足實際佈署環境的種種限制,包含隱私保護、連線需求,以及安全性考量。

推動終端AI平台革命的五大關鍵

為了讓每年高達20億顆新出廠的處理器真正成為下一個AI運算平台,Ramin Hasani認為產業界必須在五個面向上做出改變:

• 裝置智能品質 (Quality):必須大幅縮小邊緣運算與雲端運算在AI性能上的差距。

• 上下文連結 (Context):必須建立能跨越多台設備、將使用者體驗串聯起來的智慧記憶層。

• 工具鏈整合 (Harness):開發工具與AI模型必須同步適應與演進,而非單向配合。

• 硬體限制感知 (Limitations of the physical world):必須理解物理處理器的運算極限,並且將這些限制直接回饋到模型的協同設計過程中。

• 開發者賦權 (Developers):必須擁抱開源生態,並且將模型建構的核心能力交還給企業與開發者。

雙方合作亮點:Liquid Context on Snapdragon

建立在上述理念之上,Liquid AI在此次技術大會上正式發表與Qualcomm深度合作的全新產品:Liquid Context on Snapdragon。

這是一層運行於終端裝置上的智慧記憶架構,能夠讀取、壓縮,並且寫入使用者在各種主動互動中的體驗資訊。該技術直接運行於Snapdragon的NPU (神經處理單元)上,確保所有資料處理都是在裝置端完成,完美解決隱私與連線限制的問題。

在實機展示中,該系統能直接授權存取使用者的各類應用 (如訊息、筆記、照片與行事曆),並且在理解使用者行程後,主動草擬社群貼文或訊息,展現從被動指令到主動服務的重大技術跳躍。

未來的AI系統將不再是固定權重的靜態模型,而是能夠在裝置端持續學習、自我迭代的動態系統。Ramin Hasani強調,這將引領整個AI產業從單純追求「規模最大化」,轉向追求「自適應與高度個人化」。

而Snapdragon平台所具備的異質運算架構,包含CPU、NPU與感測中樞 (Sensing Hub),正是實現這種高度複雜、貼近使用者情境的邊緣AI革命不可或缺的硬體基石。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

精華 FAQ

  • Liquid AI認為AI不應先在雲端訓練再縮減,而是要從終端裝置需求出發,直接以硬體迴路設計模型,讓模型更符合運算限制、隱私要求與實際部署情境。

  • 生產級AI必須能穩定執行高可靠動作,輸出結果可被完全驗證,並且適應真實部署限制,例如隱私保護、連線需求與安全性,才能從能力真正轉化為價值。

  • 它是運行於終端裝置的智慧記憶層,可讀取、壓縮並寫入使用者互動資訊,直接在Snapdragon NPU上處理資料,讓AI能主動理解情境並協助生成內容。

延伸閱讀

Qualcomm定調手機依然會是使用者最不可或缺、最核心的個人AI代理載體

為裝置端AI代理應用鋪路 Qualcomm預告新一代Snapdragon運算平台Hexagon NPU架構大升級

從邊緣AI邁向實體AI!Intel推Core Ultra Series 3處理器與專屬開發工具

全面轉向AI原生架構 聯發科天璣9600 Pro藉「智算融合」佈局代理AI生態

本日熱門 本周最熱 本月最熱