注意!ChatGPT AI 生成圖片可輕鬆產生假發票、假帳單 詐騙風險大增

聯合新聞網 三嘻行動哇 Yipee!
圖片及資料來源:TechCrunch

最近 OpenAI ChatGPT-4o 的影像生成技術變得更強大,許多人利用 AI 生成吉卜力風、LINE 貼圖、公仔小物等各種圖片,還能在圖片裡嵌入文字,讓許多玩家入坑訂閱 ChatGPT Plus。

網友測試:AI 生成的假發票幾可亂真

創投人士 Deedy Das 在社群平台 X 上分享了一張由 AI 生成的舊金山牛排館假發票,結果細節幾乎與真正的發票沒有差別。

圖片及資料來源:TechCrunch

經濟學者 Michael Gofman 更進一步利用 Deedy Das 的 AI 生成假發票,要求 AI 加上污漬或皺摺,讓假發票看起來更加真實。

圖片及資料來源:TechCrunch

在 LinkedIn 上,Raphael Chenol 分享了一張由 AI 生成的法國連鎖餐廳的發票,照片的皺摺、陰影等細節都相當逼真,如果不仔細檢查幾乎難以辨別真假。

圖片及資料來源:TechCrunch

外媒 TechCrunch 網站也親自測試,要求 ChatGPT 生成一張舊金山 Applebee’s 餐廳的假發票。雖然與真正的發票幾乎一樣,但仔細研究仍然可以發現破綻,像是數字格式錯誤、金額計算不正確等,這顯示 AI 在數學運算上仍有弱點。

不過,這些錯誤可以透過簡單的照片後製編輯,只要經過修正就會增加辨識難度。

圖片及資料來源:TechCrunch

AI 假發票恐助長詐欺,專家警告:防範詐騙風險升高

隨著 AI 生成技術越來越先進,假發票、假帳單可能成為詐騙集團的新工具。例如,詐騙者可能利用這些假發票申請報銷、冒充消費記錄,甚至進行財務詐騙。

對此,OpenAI 發言人 Taya Christianson 表示,ChatGPT 生成的所有圖片都 含有 AI 生成的元數據,以協助辨別真偽。此外,OpenAI 也會監測使用者行為,並對違反使用政策的人採取行動。

然而,外媒 TechCrunch 進一步詢問 OpenAI 為何允許 ChatGPT 生成假發票,這是否違反其禁止詐騙的使用政策?

OpenAI 回應稱,AI 生成假發票的技術可用於「教育財務知識」或「創作藝術與廣告」,並非僅限於詐欺用途。

AI 造假爭議不斷,未來該如何管理?

隨著 AI 影像技術的進步,如何防範 AI 生成內容被濫用 成為全球關注的議題。這項技術的應用範圍廣泛,從創意設計、教育應用到詐騙行為,如何監管與防止濫用,將成為科技公司與政府必須面對的挑戰。

未來,各大平台與金融機構可能需要加強 AI 偽造內容的識別技術,以降低 AI 造假帶來的風險。而對一般消費者來說,提高警覺、慎防可疑帳單或收據,將是避免受騙的重要防線。

圖片及資料來源:TechCrunch

《原文刊登於合作媒體三嘻行動哇 https://3c.yipee.cc/289286/ ,聯合新聞網獲授權轉載。》

📌 數位新聞這裡看!

 訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢甩開悠遊卡?北捷10月開放多元支付閘門 1招真能用iPhone快速模式嗶進站
📢 手機壞掉不能換SIM卡?NCC疑新規定「90天2次」 他傻眼曝倒霉時間軸
📢 Switch 2完整拆解!Joy-Con 2控制器仍會遇上飄移問題
📢 TORRAS COOLiFY Cyber、COOLiFY 2S AI頸掛空調開箱!實測戶外超涼 還能解落枕
📢 他逛光華商場驚覺變無聊又被盤!過來人羞曝「朝聖攻略」:好吃又好玩
📢 iPhone 17改名iPhone 2025?他搖頭揭背後「藏大招」 賺錢金頭腦原理曝

推薦文章

留言