遭控鼓勵青少年自殺 ChatGPT將推出家長監控功能

美國人工智慧（AI）公司OpenAI 今天指出，將為聊天 機器人ChatGPT 增加家長 監控功能，一週前一對美國夫婦控稱這套系統鼓勵他們的青少年 兒子自殺。

法新社報導，OpenAI在部落格貼文指出，「接下來一個月內，家長將能…將自己的帳號與青少年子女帳號連結，並控制ChatGPT對其子女的回應，讓其符合年齡適宜的模型行為規則。」

OpenAI表示，當系統偵測到青少年處於「劇烈苦惱時刻」，家長也會收到ChatGPT的通知。

芮恩夫婦上週在加州州法院提出訴訟，控稱ChatGPT在2024年到2025年間，與他們的兒子亞當．芮恩（Adam Raine）建立了親密關係，最終導致他結束自己的生命。

訴狀指控，在2025年4月11日的最後一次對話中，ChatGPT協助16歲的亞當偷取父母的伏特加酒，並對他繫上的繩結進行技術分析，確認這個繩結「可能可以吊起一個人」。

幾小時後，亞當使用這種方式自盡。

科技正義法計畫（The Tech Justice Law Project）律師丁契爾（Melodi Dincer）表示：「當人們使用ChatGPT時，真的會覺得自己是與某個存在者對話。」

丁契爾說：「這些功能可能導致像亞當這樣的使用者，隨著時間過去，會愈來愈多地分享個人生活，最終甚至開始向這個看似無所不知的產品尋求建議與指導。」

她強調，產品設計特性讓使用者容易將聊天機器人視為值得信賴的角色，如朋友、治療師或醫師。

丁契爾批評OpenAI公布家長監控與安全措施的部落格貼文過於「空泛」，缺乏細節。

她說：「這真的只是最低限度…至於他們是否會落實所承諾的措施，以及整體成效如何，還有待觀察。」

OpenAI指出，未來三個月將進一步提升聊天機器人的安全性，包括將「某些敏感對話」轉接至推理模型（reasoning model），讓其投入更多運算資源生成回應。

OpenAI還表示，「我們的測試顯示，推理模型能更一致地遵循並應用安全準則。」

★珍惜生命，若您或身邊的人有心理困擾，可撥打
安心專線：1925｜生命線協談專線：1995｜張老師專線：1980