針對接下來將越來越多的AI PC應用，NVIDIA 釋出名為「Chat with RTX」的免費示範用聊天機器人，讓此聊天機器人 能依據裝置端存放資料進行彙整、摘要，並且能以自然互動方式進行回答。

NVIDIA說明，「Chat with RTX 」背後能直接連接Mistral、Llama 2等開源大型自然語言模型，並且支援諸如TXT、PDF、DOC、DOCX、XML在內文件格式，同時能在幾秒鐘時間內將文件內容蒐集進資料庫內，甚至也能透過整理YouTube影片與播放清單內容，藉此整體影片陳述內容。

而「Chat with RTX」標榜能在裝置端運作，並且能更安全地處理敏感數據，無須將任何資料上傳至雲端，或是與第三方共享，同時也能處理前後文整理。

不過，如果要使用「Chat with RTX」的話，裝置必須搭載GeForce RTX 30系列顯示卡，同時必須搭配8GB以上顯示記憶體，更僅能在Windows作業系統環境使用。

同時本身僅為示範用途，因此實際執行表現可能還會有錯誤情況，但NVIDIA主要是以此作為技術示範，藉此詮釋如何在裝置端實現更即時的聊天機器人設計互動。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》