非營利組織民主與科技中心 (Center for Democracy and Technology)人工智慧 (AI)治理高級顧問Kevin Bankston最近的一項發現,引發了人們對Google AI 能力和用戶隱私 的嚴重擔憂。Bankston 發現,Google的Gemini AI 助理,能夠在未經明確授權的情況下,自動匯總儲存在 Google Docs 中的私人資料,引發了人們對 AI 資料使用和隱私協議的質疑。
無法禁止Gemini
據報導,Bankston 在X上分享了他的發現,透露他試圖找到一種隱私設定來禁用這種行為,結果卻發現了有關數據生成AI系統可以訪問的範圍,及它們如何管理使用者資訊,更多令人不安的問題,然而,當他向 AI 詢問禁用該功能的方法時,Gemini 只提供了有關管理聊天歷史記錄的資訊,而不提供有關防止文檔摘要的內容。
Bankston 表示,當他發現 Google Workspace 中禁用摘要的設定,隱藏在與 Gemini 建議的完全不同的選單中時,他感到很挫敗,並推測AI可能在「撒謊」,或Google的伺服器可能出現故障。而使問題更加複雜的是,用戶必須訂閱 每月 20 美元的 AI Premium 服務,才能從增強的資料保護承諾中受益。
問題根本原因
最終Bankston也確定了問題的根本原因,並指出,若使用者啟動某一種文件類型的 Gemini 摘要功能,該功能會對話期間,針對所有該類型文件都保持活動狀態,這種自動摘要引發了嚴重的隱私問題,因為用戶可能會在不知不覺中,授予AI敏感文件的權限。
Bankston 強調了更廣泛的影響,並質疑有多少用戶僅僅因為啟用一次該功能,就在不知不覺中向 Gemini 暴露了私人文件。他強調,雖然讀取更多文件可以提高AI的效能,但必須透明地進行並徵得用戶同意,以維持公眾對AI系統的信任。
Google的回應
作為回應,Google則對Bankston的問題提出了質疑,聲稱資料攝取並不會像Bankston描述的那樣,Google發言人表示,只有在啟用 Gemini 功能的情況下,才會即時使用開放文件中的內容來產生摘要,並且未經用戶許可,摘要和文件都不會被儲存。
參考資料:Digital Trends
《原文刊登於合作媒體科技島,聯合新聞網獲授權轉載。》