美國舊金山一名男子因幼齡兒子下體處疼痛,緊急之下立刻為兒子預約隔日視訊看診,護理師要求他先提供照片給醫生參考。然而,他拍下兒子下體處的照片竟為他帶來嚴重後果。
根據《紐約時報》報導,2021年某夜,當時在家遠距上班的電腦軟體工程師馬克(Mark),發現幼齡兒子的陰莖出現疼痛、腫脹發炎狀況,便拍下兒子患部情形給醫生參考,事後兒子使用抗生素也康復了。
未料,拍完照片之後的2天,馬克卻收到Google 官方通知,指出他被認定涉嫌對兒童性虐待或性剝削,該張拍給醫生看的照片可能是被Google AI識別為兒童色情圖片,馬克是Google重度使用者,會將影音資訊備份到雲端而被Google審查內容,最終Google決定關閉他的電子郵件(Gmail )、電話服務(Google Fi)等,且申訴無用。
Google於2021年提交超過62份涉嫌虐待兒童的報告,禁用超過27萬名用戶帳號。根據《IT之家》指出,包括Facebook 、Twitter和Reddit在內,會使用2009年由微軟發布的PhotoDNA工具來比對找出傳播虐童的圖像,另一款為2018年由Google發布的Content Safety API,它處理虐童圖像內容的效率高達700%,目前也開源給Facebook使用。
馬克使用的是Android 手機,但其實蘋果去年曾宣布兒童安全(Child Safety)計畫,蘋果曾在iOS / iPad OS 15.2測試版本中加上圖片審查功能,自動檢測iPhone 和iCloud 是否涉及兒童色情影音內容,但消息一出隨即引來反彈聲浪,最終該計畫被無限延期。然而,蘋果用戶也別高興得太早,畢竟只要使用Google就會面臨被審查的可能。
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 影/iPhone 17 Pro Max實機曝光!機身比16 Pro厚 相機模組神巨大
📢Sony WH-1000XM6藍牙耳機開箱!摺疊回歸、降噪驚豔「讓世界變安靜」
📢 任天堂Switch 2台灣7月10日上市開賣!試玩台北體驗會就能買 價格出爐
📢 注意!華碩路由器全球逾9千台遭入侵「重開機沒用」 用戶快做1事自保
📢 YouTube會員台灣便宜雙人方案來了!價格比印度貴近4倍 規則一次看
📢 你是「居然人」或「竟然人」?LINE都市傳說瘋傳 網搜對話狂讚:真的準