臉書計畫透過人工智慧減少Deepfake虛假帳號、社團爭吵行為產生影響

Facebook 在今年F8 Refresh強調將擴大人工智慧技術應用後，在稍早聲明中更表示將與美國密西根州立大學學者合作，針對Deepfake一類技術生成的臉譜、圖像進行逆向解析，藉此判斷Facebook上的虛假帳號。此外，Facebook也表示將運用人工智慧技術判斷社團中爭吵行為，讓社團管理者能更快介入處理，避免產生更大問題。

依照Facebook說明，透過人工智慧分析各類以Deepfake技術偽裝的假帳號，藉此減少虛假消息傳遞、色情內容散播等問題。不過，目前此項技術仍處於研究階段，因此尚未計畫落實應用在Facebook現行服務內。

在相關說明中，將會透過人工智慧分析圖像中可能有被調整過痕跡，並且將其逐一標示，藉此判斷圖像內容生成方式，進而判斷圖像是否為偽造。

而另一項採用人工智慧技術識別的應用模式，則是用於判斷社團討論內容是否有爭論，或是出現攻擊言論等情況，並且讓社團管理者可以更快知曉，並且介入進行調停等處置。而跟判斷Deepfake圖像內容技術一樣，Facebook表示目前判斷社團討論內容是否有爭論的技術同樣處於測試階段，因此尚未成為正式佈署應用功能。

從Facebook解釋運作模式來看，系統會透過機器學習方式分析討論串平均回覆時間、內容產生量等方式判斷內容是否呈現負面互動，但目前仍有可能因為快速回覆互動情況而有誤判情況，同時也可能被諷刺、俚語或雙關字詞內容混淆判斷結果。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》