非營利組織民主與科技中心 （Center for Democracy and Technology）人工智慧 （AI）治理高級顧問Kevin Bankston最近的一項發現，引發了人們對Google AI 能力和用戶隱私 的嚴重擔憂。Bankston 發現，Google的Gemini AI 助理，能夠在未經明確授權的情況下，自動匯總儲存在 Google Docs 中的私人資料，引發了人們對 AI 資料使用和隱私協議的質疑。

無法禁止Gemini

據報導，Bankston 在X上分享了他的發現，透露他試圖找到一種隱私設定來禁用這種行為，結果卻發現了有關數據生成AI系統可以訪問的範圍，及它們如何管理使用者資訊，更多令人不安的問題，然而，當他向 AI 詢問禁用該功能的方法時，Gemini 只提供了有關管理聊天歷史記錄的資訊，而不提供有關防止文檔摘要的內容。

Bankston 表示，當他發現 Google Workspace 中禁用摘要的設定，隱藏在與 Gemini 建議的完全不同的選單中時，他感到很挫敗，並推測AI可能在「撒謊」，或Google的伺服器可能出現故障。而使問題更加複雜的是，用戶必須訂閱 每月 20 美元的 AI Premium 服務，才能從增強的資料保護承諾中受益。

問題根本原因

最終Bankston也確定了問題的根本原因，並指出，若使用者啟動某一種文件類型的 Gemini 摘要功能，該功能會對話期間，針對所有該類型文件都保持活動狀態，這種自動摘要引發了嚴重的隱私問題，因為用戶可能會在不知不覺中，授予AI敏感文件的權限。

Bankston 強調了更廣泛的影響，並質疑有多少用戶僅僅因為啟用一次該功能，就在不知不覺中向 Gemini 暴露了私人文件。他強調，雖然讀取更多文件可以提高AI的效能，但必須透明地進行並徵得用戶同意，以維持公眾對AI系統的信任。

Google的回應

作為回應，Google則對Bankston的問題提出了質疑，聲稱資料攝取並不會像Bankston描述的那樣，Google發言人表示，只有在啟用 Gemini 功能的情況下，才會即時使用開放文件中的內容來產生摘要，並且未經用戶許可，摘要和文件都不會被儲存。

參考資料：Digital Trends

《原文刊登於合作媒體科技島，聯合新聞網獲授權轉載。》