
非營利組織民主與科技中心 (Center for Democracy and Technology)人工智慧 (AI)治理高級顧問Kevin Bankston最近的一項發現,引發了人們對Google AI 能力和用戶隱私 的嚴重擔憂。Bankston 發現,Google的Gemini AI 助理,能夠在未經明確授權的情況下,自動匯總儲存在 Google Docs 中的私人資料,引發了人們對 AI 資料使用和隱私協議的質疑。

無法禁止Gemini
據報導,Bankston 在X上分享了他的發現,透露他試圖找到一種隱私設定來禁用這種行為,結果卻發現了有關數據生成AI系統可以訪問的範圍,及它們如何管理使用者資訊,更多令人不安的問題,然而,當他向 AI 詢問禁用該功能的方法時,Gemini 只提供了有關管理聊天歷史記錄的資訊,而不提供有關防止文檔摘要的內容。
Bankston 表示,當他發現 Google Workspace 中禁用摘要的設定,隱藏在與 Gemini 建議的完全不同的選單中時,他感到很挫敗,並推測AI可能在「撒謊」,或Google的伺服器可能出現故障。而使問題更加複雜的是,用戶必須訂閱 每月 20 美元的 AI Premium 服務,才能從增強的資料保護承諾中受益。
問題根本原因
最終Bankston也確定了問題的根本原因,並指出,若使用者啟動某一種文件類型的 Gemini 摘要功能,該功能會對話期間,針對所有該類型文件都保持活動狀態,這種自動摘要引發了嚴重的隱私問題,因為用戶可能會在不知不覺中,授予AI敏感文件的權限。
Bankston 強調了更廣泛的影響,並質疑有多少用戶僅僅因為啟用一次該功能,就在不知不覺中向 Gemini 暴露了私人文件。他強調,雖然讀取更多文件可以提高AI的效能,但必須透明地進行並徵得用戶同意,以維持公眾對AI系統的信任。
Google的回應
作為回應,Google則對Bankston的問題提出了質疑,聲稱資料攝取並不會像Bankston描述的那樣,Google發言人表示,只有在啟用 Gemini 功能的情況下,才會即時使用開放文件中的內容來產生摘要,並且未經用戶許可,摘要和文件都不會被儲存。
參考資料:Digital Trends
《原文刊登於合作媒體科技島,聯合新聞網獲授權轉載。》
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 影/iPhone 17 Pro Max實機曝光!機身比16 Pro厚 相機模組神巨大
📢Sony WH-1000XM6藍牙耳機開箱!摺疊回歸、降噪驚豔「讓世界變安靜」
📢 任天堂Switch 2台灣7月10日上市開賣!試玩台北體驗會就能買 價格出爐
📢 注意!華碩路由器全球逾9千台遭入侵「重開機沒用」 用戶快做1事自保
📢 YouTube會員台灣便宜雙人方案來了!價格比印度貴近4倍 規則一次看
📢 你是「居然人」或「竟然人」?LINE都市傳說瘋傳 網搜對話狂讚:真的準