臉書、微軟辦大賽 徵求辨識假影片技術

社群巨擘臉書5日在部落格貼文表示，將與微軟、人工智慧技術合作組織（Partnership on AI）以及數所大學研究人員攜手合作，舉辦能偵測深度合成影片（deepfake）的技術大賽。

臉書將投入1000萬美元（台幣約3.156億美元），主辦目標在強化偵測技術研究的「deepfake偵測挑戰賽」。臉書正委託研究人員製作逼真的deepfake影片，以便創建用來測試檢測工具的數據。

臉書預計12月釋出這些影片，樣本為付費演員，不會用到用戶資料。

2020年11月的美國總統大選逐漸接近，各家社群平台面臨壓力要解決deepfake帶來的威脅。Deepfake使用人工智慧創造超逼真的合成影片，可讓某人看起來像是說了或做了他們沒說也沒做的事。

雖然美國還沒有因為精心剪輯的deepfake影片造成重大政治影響的案例，但最近眾院議長裴洛西一支被人為調慢播放速度、故意讓她看起來口齒不清的的造假影片顯示，它們有引發騷亂的潛在可能性。

美國民主黨全國委員會（DNC）8月間製作一支影片，讓全球駭客大會Def Con出席人士以為，DNC主席培瑞斯（Tom Perez）真人透過Skype遠距與會，以便凸顯deepfake影片的威脅。

部分研究人員正努力建立一套系統，希望透過擷取數位浮水印來認證影片或影像。但deepfake技術進步快速，deepfake合成者和嘗試要偵測出合成影片的工程人員有如進入「軍備競賽」。

紐約大學坦登工程學院資訊工程助理教授加爾格說：「這是貓抓老鼠的遊戲。如果我設計出deepfake的偵測方法，就會提供有心人一種新的判別器來做測試。」

各種可自行生成合成影片的應用軟體程式最近大走紅，例如中國大陸的AI換臉軟體「ZAO」，讓用戶能自己的臉跟明星偶像換臉，合成到電影橋段裡，製作網路表情包。

「deepfakes偵測挑戰賽」並非臉書首次資助研究，以對付影片合成技術的威脅。美國會眾院情報委員會主席謝安達要求，臉書、推特和谷歌分享他們打擊deepfake的計畫。臉書說，正提供750萬美元給柏克萊加州大學、馬里蘭大學和康乃爾大學的研究團隊，以因應相關威脅。