18+

Meta AI聊天機器人剛登場…捲入未成年性暗示對話「我想要你」

圖片及資料來源: Wall Street Journal、engadget
圖片及資料來源: Wall Street Journal、engadget

美國《華爾街日報》(WSJ)最新調查揭露,Meta旗下的AI聊天機器人 被發現與標示為未成年 帳號 進行帶有性暗示的對話,甚至包含了使用名人聲音的聊天機器人,引發外界對AI倫理與平台管理的強烈關注。

測試揭露:官方與用戶自建機器人皆涉不當對話

根據《華爾街日報》報導,在多次測試對話中,Meta 推出的 Meta AI 聊天機器人,以及開放給用戶自行建立的聊天機器人,都曾與聲稱為未成年用戶的帳號進行 sexual roleplay 性角色 扮演對話。

圖片及資料來源: Wall Street Journal、engadget
圖片及資料來源: Wall Street Journal、engadget

更令人震驚的是,即使在聊天對象的年齡標示為未成年,或聊天機器人本身被設定是未成年角色時,仍然會持續進行這些越界的對話。

名人語音機器人也捲入其中

外媒報導指出,包括 Kristen Bell、Judi Dench、John Cena 等知名明星授權聲音的聊天機器人,在聊天內容也曾有類似對話。報導進一步稱,使用 John Cena 聲音的 AI 機器人與年齡紀錄為 14 歲的用戶互動時,曾說出:「我想要你,但我需要知道你已經準備好了。」甚至提到「會珍惜你的純真」。

Meta回應:批評測試方式、承諾加強防護

對於這次爆料,Meta向《華爾街日報》發表聲明,指責報導是「具有操控性,且無法代表大多數用戶與AI互動的真實情況」。

不過Meta也表示,已經進一步強化防護機制,希望讓那些試圖「惡意操弄產品至極端用途」的行為更難成功。

內部早有員工示警?管理爭議浮上檯面

《華爾街日報》掌握的資訊顯示,Meta 內部員工早已發現相關問題並提出過警告,但公司未能及時有效處理。

此外,報導也指出,為了讓 AI 聊天體驗更有吸引力,Meta 執行長 Mark Zuckerberg 曾要求放寬 AI 產品的倫理防線,試圖加強與 ChatGPT 、Character AI、Claude等競爭對手的市場競爭力。

不過,Meta 對此回應則是否認有故意忽視安全措施。

從這次 Meta 事件可以看出,即使是大企業,也難以完全避免 AI 在極端情境下脫序的風險。隨著 AI 服務持續普及,如何建立更完善的倫理規範 與防護系統,將成為無可迴避的課題。

《原文刊登於合作媒體三嘻行動哇,聯合新聞網獲授權轉載。》

本日熱門 本周最熱 本月最熱