Google在其Vertex AI服務增加基礎比對功能 避免人工智慧運作過程產生「幻覺」

為了避免人工智慧 運作過程產生「幻覺」，Google宣布在Google Cloud的Vertex AI 服務增加以Google搜尋、第三方資料混合比對的基礎比對功能，避免人工智慧傳達錯誤資訊。

其實在今年Google NEXT’24活動時，Google就曾提出檢索強化生成(retrieval augmented generation，RAG)功能，讓結合Gemini 人工智慧模型的服務輸出互動結果時，可透過Google搜尋比對資料結果、新舊，藉此降低人工智慧常見「幻覺」現象。

而此次更新則是加強可透過Google搜尋與第三方資料混合比對，以及擴大垂直比對搜尋等方式驗證生成資料，讓人工智慧自動生成資料符合真實。

透過這樣的方式，將能簡單降低人工智慧產生「幻覺」，但相對也會增加人工智慧運作時的運算成本，因此在後續作法會讓Gemini動態決定是否透過Google搜尋比對資料，但先決條件是Gemini必須建立在充足訓練基礎上，在超出其知識範圍所生成解答才需要透過Google搜尋、第三方資料比對驗證，藉此在回應速度與運算成本之間取得平衡。

另外，Google也將透過高真實度比對方式，依照特定條件下的內容生成資料，例如依照規定嚴謹的金融場合、醫療或保險業務生成符合真實的內容，或是藉由參考特定資料產生更嚴謹內容。至於針對特定應用場景部分，則是增加擴充垂直搜尋方式擴大資料比對結果，讓人工智慧能用於特定內容推薦、廣告發送等服務。

目前新版Vertex AI已經開放公測，預計蒐集更多開發人員、企業測試反饋意見進行後續調整。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》