18+

上線不到24小時就急下架!Google Earth導入AI繪圖引發「造假衛星圖」災難

Google在7月30日才剛高調宣布,將Nano Banana AI影像生成工具整合進Google Earth之中;沒想到,這項新功能僅存活不到一天,就在美國當地時間7月31日遭官方緊急撤回。原因無他:因為這項工具輕而易舉地成為製造「假衛星 空照圖」與散播錯誤資訊的完美溫床。

「捏造」真實世界太容易,媒體實測戳破安全網

這場公關災難的引爆點,來自科技媒體404 Media的一篇實測報導

記者Joseph Cox示範利用Google Earth內建的這套AI工具,輕易地製造出具備高度誤導性的衛星圖像。他在實測中,隨手就生成了一張「洛杉磯市區出現巨大爆炸彈坑」的逼真衛星圖,甚至還在Google位於加州山景城的總部外,憑空「畫」出了一大群抗議民眾。

面對外界對錯假資訊的質疑,Google最初的態度顯得有些輕描淡寫。官方聲明強調,所有由Nano Banana生成的圖像都會嵌入「SynthID 數位浮水印」,並且設有阻擋有害主題的安全機制。如果使用者對圖片真實性存疑,隨時可以「自行使用Gemini應用程式或Google Lens 來查證該圖片是否為AI生成」。

浮水印防線的盲點:完全不懂「假新聞」的傳播邏輯

不過,Google 這種將「查證責任」完全推給使用者的說詞,立刻遭到猛烈抨擊。

Joseph Cox隨後在社群平台Blue Sky上批評:「Google宣稱帶有浮水印就能識別AI圖片的說法,顯示他們對於錯假資訊是如何在網路上運作的,完全毫無概念」。

事實上,當一張駭人聽聞的災難衛星圖在社群媒體上被瘋傳時,極少數的群眾會冷靜地停下來,把圖片存檔並丟進Google Lens去驗證浮水印。這就如同幾年前網路上瘋傳的「AI 生成孔雀寶寶」照片一樣,多數人在未經驗證的情況下,就已經將其視為真實,並且隨手進行轉發。

筆者觀點:信任崩盤的代價,AI莫淪為「為了做而做」

在輿論壓力下,Google最終選擇妥協,宣布全面撤下Google Earth的AI生成功能。官方在X平台聲明中承認:「我們深知人們對Google Earth抱有一份獨特的信任,將其視為觀察世界的『可靠視角』,但我們也看到人們分享看似違反我們政策的生成圖像」。

筆者認為,這起短命的AI產品上線記,凸顯科技巨頭在推動AI普及時的盲目。Google Earth的核心價值,正是建立在對地球地貌的「客觀、真實紀錄」之上。將一個可以隨意憑空捏造建築、地形與事件的「生成式工具」放入一個主打「寫實」的地圖平台中,無疑是在摧毀用戶對該平台最基本的信任。

儘管Google承諾,未來在實施更強大的安全防護措施後會重新開放此功能。但或許Google真正該問自己的是:一般使用者真的需要在Google Earth裡自己畫一個假的隕石坑嗎?有些產品,保留其真實的本質,遠比硬塞入「不需要的AI」,或許會來得更有價值。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

本日熱門 本周最熱 本月最熱