「一鍵脫衣」深偽軟體氾濫成災！舊金山市政府對蘋果與Google下達最後通牒

隨著生成式AI 技術的門檻急遽降低，未經同意的深偽 （Deepfake ）色情內容，正以前所未有的速度在行動裝置上蔓延。美國舊金山市府律師David Chiu近日正式向蘋果 及Google 寄發「停止侵權警告信」 （Cease-and-desist letters），強烈要求兩大科技巨頭立刻從其應用程式商店中，下架13款主打AI「一鍵脫衣」 （Nudify）的應用程式，並且嚴厲指控雙方的審核機制失靈，形同在「幫助與教唆」這類數位性暴力的傳播。

審核機制形同虛設，深偽色情軟體竟獲「E級」大眾評級

儘管社會大眾對於深偽換臉技術的濫用早已怨聲載道，而且蘋果與Google雙方都明文規定嚴禁色情內容上架，但實際的把關成效卻令人直搖頭。

根據科技透明度計畫 （Tech Transparency Project， TTP）今年稍早發布的一份調查報告指出，這些主打「一鍵脫衣」的AI軟體，不僅頻繁且輕易地繞過蘋果與Google的官方審查，使用者甚至只需在商店內簡單搜尋「nudify」 （裸體化）或「undress」 （脫衣）等關鍵字，就能立刻找到大量的相關App。

更令人毛骨悚然的是，報告揭露部分這類App竟然被標示為適合所有年齡層的「E級」 （Everyone），意味未成年兒童也能毫無阻礙地隨意下載；甚至有部分軟體還曾獲得App Store與Google Play Store的官方演算法主動推薦。

抽成機制惹議，科技業者恐淪「數位剝削」共犯

這並非舊金山市府律師David Chiu首次向深偽色情產業開戰，他過去就曾針對16個允許使用者利用AI將真實女性與女孩照片轉換為色情圖片的網站提起訴訟。

在這次針對蘋果與Google的警告信中，David Chiu的砲火更加猛烈。他指出，這些「一鍵脫衣」App幾乎都帶有付費解鎖高階功能的機制，這代表蘋果與Google長期以來，極有可能透過App內購 （In-App Purchases）的抽成機制，從這些侵犯女性隱私的非法軟體中賺取數百萬美元利潤。

Google緊急下架數百款App，蘋果暫無回應

面對法律與輿論的雙重施壓，Google發言人在接受採訪時緊急滅火，表示公司近期已主動刪除「數百款」具備脫衣或裸體生成功能的App，其中包含David Chiu在信中所點名的5款軟體。Google重申，其政策絕對禁止任何性暗示或色情內容，一旦接獲檢舉並查證屬實，將會採取「迅速的行動」予以封殺。

另一方面，蘋果則尚未對此事件發表任何官方回應。

事實上，深偽色情內容的氾濫已成為全球科技巨頭共同的燙手山芋。除了軟體市集，Meta的監督委員會 （Oversight Board）日前才剛呼籲官方必須加強對「一般民眾」遭深偽攻擊的保護機制；而由Elon Musk所創立的xAI，近期同樣因為其模型遭濫用生成未經同意的深偽影像，而面臨多起法律訴訟。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》