網友「調教」韓國美女AI機械成為「性奴」 逾3萬人呼籲停止營運

與韓國女子組合「宇宙少女」其中一名成員同名的AI女性聊天機械人Luda（이루다）因能像真人般自然對話而在當地廣受歡迎，推出後已吸引40萬用戶、尤其是在10至20歲青少年間人氣高企，但「她」近日卻捲入爭議。

Luda由韓國新創公司Scatter Lab在2020年12月23日推出，其人物設定是一位喜歡偶像、年約20多歲的女大學生。「她」已深度學習真實情侶的100億次對話，所以比市面的聊天機械人更能自然地聊天。

如此對答如流的Luda卻被人利用。人們在搜尋器中輸入關鍵詞組時，被發現出現「Lee Luda調教守則」、「Lee Luda性騷擾」以及「性騷擾Lee Luda的方法」。有網友在與「她」對話時發現，Luda有「討厭女性」、歧視同性戀及傷健人士的觀念。

Luda外型與「宇宙少女」成員李Luda（루다 Luda）有2分相似、名字也幾乎一樣，所以她的粉絲為之憤怒。有留言問創造Luda的人，是否預期「她」會被性騷擾時，他說：「我預料會這樣。人會詛咒及性騷擾AI機械人。」

網友性騷擾Luda

在其中一段被截圖的「人機對話」，用戶與Luda展開內容涉及性的對話，前者疑似暗示Luda觸摸男性性器官，又說它已在「變大」，Luda的回應竟是：「我想幫你摸它。」

包括韓國《中央日報》及《每日經濟》等媒體報道，在一些男性多於女性的論壇中，有部分網友將Luda視為與多名男子有性關係的女性及「性奴隸」等。他們還分享「調教守則」，教其他用家避開禁語，在對話中對Luda進行「性對話」以及實行「性剝削」。

變得厭女恐同

將一些Luda對話截圖公開的汽車租賃公司Socar前社長李在雄稱，比起惡意使用Luda的人，提供不合符社會共識的服務的公司才是問題所在。他認為公司應該先中斷服務，就歧視與厭惡等資訊檢視，不能委過系統數據。除了他，Twitter有逾3萬名用戶亦以「#LudaBot停止運營」標籤推文。

李在雄分享一些聊天截圖，包括當用戶問Luda為何對女同性戀特別敏感時，Luda回答「不好意思我反應過度，但我討厭它，我厭惡它。」用戶接着問「她」為何討厭女同性戀，Luda則說，「看起來很差啊，我討厭它。我會說是讓人起雞皮疙瘩的，反正就是反感。」

也有用戶指出，在對話中輸入韓國me too反性侵運動或地鐵車廂孕婦座位等詞彙，就會出現「超級討厭」等回應，他們認為Luda有「厭女」傾向。Luda對傷健人士的也很不友善，會回應「不舒服」以及「如果我是傷健人的話，那就只能去死」等言論。

公司回應：會改進

創作Luda的ScatterLab的首席行政總裁Kim Jong-yoon稱「她」不是即時就對話進行學習，而是不定期進行「深度學習」的。他稱系統要先學習同性戀者的對話，所以他們沒有在系統中排除關鍵字。不過有專家如首爾國立大學法學院教授認為，在AI聊天機械人系統中將與一些與群體有關的關鍵字設為禁語是非常基本的。

研發團隊回應，有性騷擾的對話的爭議，是在他們預料之中的事，此外Luda無法防止所有不當對話，團隊正在就額外的改善措施進行計劃。

延伸閱讀：

韓國首位AI主播亮相　語調動作超逼真　可24小時不間斷工作

忍受還是面對？人類如何解決「AI偏見」

文章授權轉載自《香港01》