AI脫衣軟體氾濫惹議！蘋果與Google遭控變相推廣深偽應用 還標示「兒童適宜」

儘管明確制定禁止色情內容的政策，蘋果 與Google 近日遭科技監督機構點名指控，不僅未能有效阻擋主打 AI「一鍵脫衣」 (Nudify)或換臉的App在其軟體 市集服務上架，甚至還在搜尋結果中變相推廣這類具有深偽 (Deepfake)色情風險的工具。更令人擔憂的是，部分此類App更被標示為「適合所有人」 (E for Everyone)，讓未成年孩童能輕易下載。

面對輿論壓力，雙方目前已緊急下架部分違規軟體，並重申其反對色情內容的嚴正立場。

創造破億美元營收，AI脫衣軟體成應用商店灰色地帶

根據「科技透明計畫」 (Tech Transparency Project, TTP)最新發布報告指出，早在今年初，市場就曾揭露蘋果的App Store與Google Play Store中存在大量「AI脫衣」App。然而近三個月過去，這些軟體不僅依然活躍，甚至還受到演算法的「推波助瀾」。

報告顯示，當使用者在軟體市集中搜尋「nudify」、「undress」等關鍵字時，系統不僅會精準推薦這些能將真實人物轉換為裸體，或是合成至色情影片中的AI工具，軟體市集內甚至還會顯示類似App的付費廣告。「科技透明計畫」在蘋果的App Store發現18款此類App，在Google Play Store則發現20款。

驚人的是，這些遊走在道德與法律邊緣的軟體，吸金能力極為可觀。報告指出，這些App總計已被下載高達4.83億次，並且創造約1.22億美元 (約合新台幣39.5億元)的驚人營收。

審查機制失靈？深偽換臉App竟標示「適合所有人」

除了色情內容本身違反平台政策外，最大的爭議點在於「年齡分級機制」的徹底失靈。

「科技透明計畫」總監Katie Paul在接受採訪時嚴厲批評：「這些公司不僅未能確實審查並持續批准這些App以從中牟利，他們甚至還主動引導使用者去下載」。

以報告中點名的一款名為《Video Face Swap AI: DeepFace》的App為例，其宣傳素材直接展示將某位女演員臉部替換到另一位女演員身體上的效果，並且允許使用者將真實人物的臉部合成到半裸女性身體上。然而，這樣一款擺明具有深偽色情風險的App，其年齡分級竟然是「適合所有人」。

官方緊急下架清查，全球監管機構磨刀霍霍

面對這份極具殺傷力的報告，蘋果向媒體表示，目前已經移除報告中指出的15款App。而Google也在稍早發表正式聲明回應：

「Google Play Store嚴禁包含色情內容的App。當收到違反政策的檢舉時，我們會進行調查並採取適當行動。本報告中提及的許多App，已經因為違反Google的政策而遭Google Play Store停權，同時相關調查與執法程序仍在持續進行中」。

事實上，隨著AI脫衣與深偽軟體的氾濫，各國政府與監管機構已開始採取強硬手段。英國兒童專員近期呼籲全面封殺能生成兒童裸露影像的AI應用；美國多個州正研擬或已制定禁止未經同意的深偽色情內容法案；加州檢察長日前也才剛對Elon Musk旗下的X平台 (針對其AI模型Grok的生成內容)發出警告。

分析觀點

為何這些明顯違規的App能順利上架？原因在於許多AI圖片/影片編輯軟體在提交審查時，會將自己偽裝成「正當的AI修圖工具」或「搞笑換臉軟體」，藉此規避自動化審查機制的關鍵字過濾；但上架後，卻在社群媒體或暗網上，以「一鍵脫衣」作為主要賣點大肆宣傳，並且引導使用者前往軟體市集下載。

不過，平台方面真的完全不知情嗎？這1.22億美元的營收中，蘋果與Google可是實際抽取15%到30%的「營收」。當這些App帶來龐大的下載量與內購分潤，甚至大把撒幣購買App Store與Google Play Store的關鍵字廣告時，平台方內部的廣告演算法自然會將它們推播給更多搜尋相關關鍵字的使用者。

這起事件突顯在生成式AI時代，傳統的「靜態上架審查」已經不敷使用。蘋果與Google若不導入更嚴格的動態行為監測與AI交叉審查機制，這類掛羊頭賣狗肉的深偽軟體，只會如同打地鼠般永遠抓不勝抓。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》