AWS 針對其開源、模型 驅動的AI 代理 (AI Agent ) 框架「Strands Agents」釋出兩項重要更新,其中包含迎合廣大的網頁 開發社群,推出TypeScript版本的SDK預覽版,其次則是正式開放支援邊緣裝置 (Edge Device) 佈署應用,讓AI代理不再侷限只能佈署於雲端,而是能在小型終端設備上運作。
擁抱最熱門語言,Strands Agents框架TypeScript版本預覽版登場
Strands Agents原先僅提供Python版本,目前已經累積超過529萬9000次下載量。為了進一步擴大開發者生態,AWS將此框架帶入全球最受歡迎的程式語言 之一,亦即由微軟開發、維護,並且以開源形式提供使用的TypeScript,意味透過Strands Agents框架建構AI代理服務能透過網頁形式提供使用。
AWS指出,開發者喜愛TypeScript的原因,在於其能提早捕捉錯誤並提供強大的工具支援,同時保留JavaScript的應用彈性。新版Strands Agents SDK將全面支援TypeScript的關鍵特性,包含型別安全 (type safety)、async/await處理非同步操作方式,以及現代化的JavaScript/TypeScript設計模式。
這代表開發者可以透過AWS CDK工具組,以TypeScript構建完整的AI代理技術堆疊。
支援邊緣運算,整合Ollama與Llama.cpp
另一項重大更新,則是Strands Agents框架正式支援邊緣裝置。此功能讓客戶能利用Strands Agents框架SDK創建可運行於小型設備上的自主AI代理 (autonomous AI agents),進而解鎖諸如車載系統 (automotive)、遊戲助理,以及機器人 (robotics) 等領域的新應用場景。
而開發者還能實作雙向串流功能,並且支援使用如Ollama與Llama.cpp等工具,藉此運行裝置端模型,使得AI代理服務能大幅降低對雲端連線的依賴,也強化在網路連接受限環境下的AI代理服務執行效率與數據隱私性。
AWS目前已將相關資源更新至Strands Agents GitHub頁面,並且開放全球開發者加入構建行列。
《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 Galaxy Z Fold8 Ultra開箱!摺痕退散、多工效能 同時爽玩Pokemon GO、Pikmin Bloom
📢Sony 1000X THE COLLEXION耳機開箱!工地實測降噪效果 空間音訊秒置身電影院
📢電商平台買「全新庫存機」踩雷!電池循環44次還帶維修紀錄 網揭無良賣家手法
📢 Apple Pay、信用卡搭北捷「只扣1元」是沒刷到嗎?官方曝扣款規則秒懂
📢國家級「行動斷網」演習完整指引!NCC揭3重點:勿用手機處理重要工作
📢 LINE免費貼圖4款!「蛤」字必下載爽用半年、熊大兔兔動態圖超Q

討論區