18+

Google計畫透過「SynthID」機制協助判斷圖像是否以AI自動生成 或是被人為竄改

今年在Google I/O 2023期間就預告將針對自動生成式人工智慧 所產生圖像增加識別標示之後,Google在此次Google Cloud Next '23活動中宣布,將由Google Cloud與Google DeepMind合作,透過名為「SynthID」的機制,在自動生成圖像內容加入人眼無法分辨的識別資料。

目前此機制將以beta形式進行測試,Google尚未確認實際推行使用時間,但預期將能作為輔助判斷圖像內容是否為後製產生,或是經過人為數位化處理的工具。

依照說明,「SynthID」會在圖像上加上人眼無法辨識,卻能由系統解析的圖層,而此圖層不會影響圖像畫質、解析度或壓縮比,甚至也能讓圖像被正常開啟使用。此外,增加圖層資訊並不會寫入圖像元數據,同時直接嵌入圖像原始構成畫素,因此系統也能透過畫像元數據是否被竄改,判斷圖像內容是否可能被修改過。

而判斷結果則分成圖像為自動生成、非自動生成,以及可能是自動生成在內三種基本分類,同時判斷依據主要是藉由Google機器學習平台Vertex AI,結合Google旗下文字轉圖像模型Imagen進行分析。

但從Google宣布將在Vertex AI串接更多人工智慧模型框架的作法推測,未來「SynthID」應該可以加入判斷更多以不同人工智慧生成的圖像內容。

在此之前,Adobe也曾提出以人工智慧判斷圖像內容是否造假技術,並且與Twitter、紐約時報合組聯盟,透過名為「內容真實性計畫」 (Content Authenticity Initiative)的作法打擊數位造假新聞內容。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

延伸閱讀

本日熱門 本周最熱 本月最熱