18+

審查機制失靈?報告指蘋果與Google軟體市集仍充斥「AI一鍵脫衣」APP

雖然蘋果與Google強調自家的App StoreGoogle Play Store 審查嚴格,但最新的調查報告卻狠狠打了這兩大巨頭一巴掌。根據非營利倡導組織「科技透明度計畫」 (Tech Transparency Project, TTP) 的最新調查,發現這兩個平台 竟然還有著數十款「Nudify」 (脫衣)APP 維持上架狀態,可透過AI 技術生成未經同意的裸露 圖像。

多款違規APP下載破7億,平台跟著賺

TTP的調查報告指出,儘管兩大平台的政策都明文禁止色情 或未經同意的深偽 (Deepfake) 內容,但研究人員仍在Google Play Store找到55款、在App Store找到47款具備「脫衣」功能的APP。

這些APP的影響力相當驚人,累計下載次數超過7億次,並且產生超過1.17億美元的營收。由於蘋果與Google通常會從APP內購或付費下載中收取15%至30%的佣金,意味這兩家科技巨頭其實間接從這些侵犯隱私與製造數位性暴力的軟體中獲利。

分級寬鬆,兒童恐成目標

報告中最諷刺的一點,則是這些APP的年齡分級。許多具備生成裸露圖像功能的APP實際上被標示為「適合青少年」,甚至兒童也能使用。例如一款名為DreamFace的APP,在Google Play Store被列為適合13歲以上,而在App Store甚至被列為適合9歲以上用戶使用。

Grok 再度被點名

除了這些名不見經傳的APP,報告也特別點名了xAI的Grok。雖然Grok只是xAI的聊天機器人,但先前已被證實能被「越獄」生成名人的深偽色情圖片,甚至涉及兒童色情內容。儘管Elon Musk曾堅決否認Grok會生成未成年裸露影像 (更強調可能性微乎其微),但TTP認為平台對這類高風險工具的管控依然不足。

官方回應:已下架部分APP

面對指控,蘋果與Google均已緊急採取行動。蘋果向CNBC電視台表示已經移除報告中提到的24款APP,而Google發言人則表示已暫停「數款」違規APP,但未透露具體數字,顯示雖然官方開始清理,但與報告指出的近百款數量相比,仍有不小的落差。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

本日熱門 本周最熱 本月最熱