18+

Nexa.ai本地AI代理工具「Hyperlink」支援NVIDIA RTX AI PC RAG索引速度提升3倍、推論快2倍

AI 新創Nexa.ai宣布,旗下開發的本地端AI代理 (AI Agent) 工具「Hyperlink」,正式針對NVIDIA RTX AI PC進行最佳化。透過運用GeForce RTX GPU的強大算力,新版應用程式 在檢索增強生成 (RAG) 的索引速度上提升了3倍,LLM推論速度也提升了2倍,可解決傳統大型語言模型缺乏使用者 在地端資料上下文的難題。

解決「AI 不懂你的電腦 」痛點,採語意理解而非關鍵字

雖然目前的AI聊天機器人功能強大,但往往因為無法存取使用者電腦中深藏於PDF、PPT、筆記或圖片內的資訊,導致回答缺乏針對性。而Hyperlink的設計初衷則是透過建立本地文件索引,讓AI能理解使用者查詢的意圖與上下文,而非僅依賴傳統的關鍵字比對。

舉例來說,當使用者請求協助撰寫「一篇比較兩部科幻小說主題的讀書報告」時,Hyperlink便能透過語意分析找到相關資料,即便該內容的檔案名稱是完全不相關的「Lit_Homework_Final.docx」,也能精準定位。

RTX 5090 加持,1GB資料索引僅需5分鐘

在效能提升方面,Nexa.ai表示,在NVIDIA RTX 5090顯示卡 上進行的基準測試顯示,過去處理一個1GB的高密度資料夾索引約需15分鐘,而在經過RTX AI PC最佳化後,Hyperlink僅需4-5分鐘即可完成索引。

意味使用者能更快速地將本地資料轉化為可被AI檢索的即時智慧,而在LLM的推論速度倍增情況下,更可讓問答回應更為即時。

資料全在地端處理,鎖定商務、學術與開發場景

隱私安全是Hyperlink的另一大賣點。官方強調所有使用者資料皆保留於地端設備,無需將個人文件上傳至雲端,確保敏感資訊不外洩。

Hyperlink目前鎖定的應用場景相當廣泛,包含:

會議準備:匯整筆記與逐字稿重點。

報告分析:引用產業報告數據提供有依據的答案。

高效學習:一鍵搜尋講義與教材重點。

加速除錯:跨檔案與程式碼註解搜尋,定位版本衝突。

Hyperlink應用程式即日起已開放下載,持有NVIDIA RTX顯示卡的用戶將能獲得最佳化的AI搜尋體驗。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

本日熱門 本周最熱 本月最熱