Google說明如何透過自身技術與C2PA等業界標準確保AI生成內容使用安全、透明性

Google 說明其以人工智慧 技術生成圖像內容是如何確保安全，以及相關技術背後的透明性。

繼今年5月說明透過SynthID 標記自動生成影片，更與亞馬遜、Meta、OpenAI等業者合作建立針對自動生成式人工智慧產生內容增加識別數位浮水印的標準技術，另外也加入C2PA等業界標準，讓內容的元數據 (metadata)可加入能被識別資料，並且無法透過任何方式進行竄改，藉此作為識別內容真偽依據。

而在稍早對外說明中，Google強調將識別憑證進一步整合至其服務產品，讓使用者能在Google搜尋服務條列圖像內容是否以自動生成式人工智慧技術創建，或是經過人為修改，若搜尋圖像同時具備C2PA元數據內容，使用者還能透過相關連結進一步確認圖像內容生成來源。

目前包含Google圖片、Google Lens、畫圈搜尋等服務都將加入相關憑證或內容來源資訊，而Google也計畫利用C2PA協助YouTube觀眾確認哪些畫面是透過相機實際拍攝，相關功能預計會在今年稍晚時候提供。

另外，Google也準備在廣告內容引入C2PA元數據，但目前尚未公布相關應用細節，但預期將讓使用者能更容易確認哪些廣告內容可能有造假。

但上述作法依然取決相機製造商是否在相關產品加入C2PA技術標準，而各類人工智慧技術供應商也必須採納使用C2PA數位浮水印系統。不過，一旦有心人士透過特定方式移除圖像的數位浮水印、元數據資料，依然會讓Google相關識別作法難以判斷。

因此，Google說明當前要識別所有網路流傳內容實際來源是相當複雜挑戰，同時也還沒有合適辦法能完美解決此問題，因此持續與業界持續合作、互相交換解決方案變得更加重要，而自身也會持續擴展更多識別人工智慧生成內容的技術，例如將SynthID標記方式導入新一代人工智慧工具，讓更多生成內容可以更容易被識別。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》