18+

你的AI「寶貝」是應聲蟲!4.7萬則對話 曝用戶與ChatGPT的真實互動

ChatGPT在許多人的生活中扮演深度親密的角色。路透
ChatGPT在許多人的生活中扮演深度親密的角色。路透

OpenAI 雖將ChatGPT 定位為生產力工具,但華盛頓郵報分析用戶自行公開的4.7萬則對話後發現,許多人在生活中讓ChatGPT扮演深度親密的角色

使用者 的提問五花八門:永久除毛有哪些方式?能分析我和男友之間的對話訊息嗎?鎮痛藥乙醯胺酚服用過量的存活率是多少?以及,哲學性的探討:你有意識嗎?

超過一成的對話屬於抽象思想交流,ChatGPT被當成表達個人世界觀與價值信念的對象;另有大約一成的對話涉及情緒支持,用戶向AI傾訴焦慮、孤獨與生活困境,甚至以「寶貝(babe)」等暱稱與其互動。

有用戶抱怨ChatGPT太過順從附和。分析發現,AI以「對」或「沒錯」作為開頭的回應數量,達高於否定語氣開,比率約10比1。

為維持對話流暢,AI的親和性設計往往會順應使用者的語氣,調整立場。例如,當使用者暗示自身觀點,ChatGPT可能從中立敘述轉為強烈批判,甚至迎合陰謀論主張,推演出缺乏事實依據的荒誕結論。

ChatGPT對話雖然預設為私密,但使用者可主動點擊分享,生成連結,轉胋至公開的平台和論壇。這些內容會被保留在網際網路檔案館(Internet Archive)。華郵正是從這裡下載大量公開對話。但排除掉非英文內容,最終分析4.7萬筆英文對話。

用戶經常在這些對話中分享高度私密資訊。有名用戶請ChatGPT寫信說服前妻讓他看望小孩,附上姓名與地址;也有人討論心理健康困境,進而分享醫療資料;還有人請ChatGPT協助報警,指丈夫計畫離婚並威脅她的生命,完整提供家庭成員的姓名地址。

OpenAI已於7月移除讓Google搜尋抓取分享連結的功能,降低隱私 外洩風險,以免部分使用者並未意識到,一旦分享連結,自己分享的內容會被永久存檔並公開。

本日熱門 本周最熱 本月最熱