Meta AI聊天機器人剛登場…捲入未成年性暗示對話「我想要你」

美國《華爾街日報》(WSJ)最新調查揭露,Meta旗下的AI聊天機器人被發現與標示為未成年帳號進行帶有性暗示的對話,甚至包含了使用名人聲音的聊天機器人,引發外界對AI倫理與平台管理的強烈關注。
測試揭露:官方與用戶自建機器人皆涉不當對話
根據《華爾街日報》報導,在多次測試對話中,Meta 推出的 Meta AI 聊天機器人,以及開放給用戶自行建立的聊天機器人,都曾與聲稱為未成年用戶的帳號進行 sexual roleplay 性角色扮演對話。

更令人震驚的是,即使在聊天對象的年齡標示為未成年,或聊天機器人本身被設定是未成年角色時,仍然會持續進行這些越界的對話。
名人語音機器人也捲入其中
外媒報導指出,包括 Kristen Bell、Judi Dench、John Cena 等知名明星授權聲音的聊天機器人,在聊天內容也曾有類似對話。報導進一步稱,使用 John Cena 聲音的 AI 機器人與年齡紀錄為 14 歲的用戶互動時,曾說出:「我想要你,但我需要知道你已經準備好了。」甚至提到「會珍惜你的純真」。
Meta回應:批評測試方式、承諾加強防護
對於這次爆料,Meta向《華爾街日報》發表聲明,指責報導是「具有操控性,且無法代表大多數用戶與AI互動的真實情況」。
不過Meta也表示,已經進一步強化防護機制,希望讓那些試圖「惡意操弄產品至極端用途」的行為更難成功。
內部早有員工示警?管理爭議浮上檯面
《華爾街日報》掌握的資訊顯示,Meta 內部員工早已發現相關問題並提出過警告,但公司未能及時有效處理。
此外,報導也指出,為了讓 AI 聊天體驗更有吸引力,Meta 執行長 Mark Zuckerberg 曾要求放寬 AI 產品的倫理防線,試圖加強與 ChatGPT、Character AI、Claude等競爭對手的市場競爭力。
不過,Meta 對此回應則是否認有故意忽視安全措施。
從這次 Meta 事件可以看出,即使是大企業,也難以完全避免 AI 在極端情境下脫序的風險。隨著 AI 服務持續普及,如何建立更完善的倫理規範與防護系統,將成為無可迴避的課題。
《原文刊登於合作媒體三嘻行動哇,聯合新聞網獲授權轉載。》
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢甩開悠遊卡?北捷10月開放多元支付閘門 1招真能用iPhone快速模式嗶進站
📢 手機壞掉不能換SIM卡?NCC疑新規定「90天2次」 他傻眼曝倒霉時間軸
📢 Switch 2完整拆解!Joy-Con 2控制器仍會遇上飄移問題
📢 TORRAS COOLiFY Cyber、COOLiFY 2S AI頸掛空調開箱!實測戶外超涼 還能解落枕
📢 他逛光華商場驚覺變無聊又被盤!過來人羞曝「朝聖攻略」:好吃又好玩
📢 iPhone 17改名iPhone 2025?他搖頭揭背後「藏大招」 賺錢金頭腦原理曝
留言