Google計畫透過「SynthID」機制協助判斷圖像是否以AI自動生成 或是被人為竄改

今年在Google I/O 2023期間就預告將針對自動生成式人工智慧所產生圖像增加識別標示之後，Google在此次Google Cloud Next '23活動中宣布，將由Google Cloud與Google DeepMind合作，透過名為「SynthID」的機制，在自動生成圖像內容加入人眼無法分辨的識別資料。

目前此機制將以beta形式進行測試，Google尚未確認實際推行使用時間，但預期將能作為輔助判斷圖像內容是否為後製產生，或是經過人為數位化處理的工具。

依照說明，「SynthID」會在圖像上加上人眼無法辨識，卻能由系統解析的圖層，而此圖層不會影響圖像畫質、解析度或壓縮比，甚至也能讓圖像被正常開啟使用。此外，增加圖層資訊並不會寫入圖像元數據，同時直接嵌入圖像原始構成畫素，因此系統也能透過畫像元數據是否被竄改，判斷圖像內容是否可能被修改過。

而判斷結果則分成圖像為自動生成、非自動生成，以及可能是自動生成在內三種基本分類，同時判斷依據主要是藉由Google機器學習平台Vertex AI，結合Google旗下文字轉圖像模型Imagen進行分析。

但從Google宣布將在Vertex AI串接更多人工智慧模型框架的作法推測，未來「SynthID」應該可以加入判斷更多以不同人工智慧生成的圖像內容。

在此之前，Adobe也曾提出以人工智慧判斷圖像內容是否造假技術，並且與Twitter、紐約時報合組聯盟，透過名為「內容真實性計畫」 (Content Authenticity Initiative)的作法打擊數位造假新聞內容。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》