18+

揪出AI造假圖片!OpenAI透露正打造偵測工具 精確度99%

OpenAI透露正打造偵測工具,可精確判斷出AI生成圖片。路透
OpenAI透露正打造偵測工具,可精確判斷出AI生成圖片。路透

開發出聊天機器人ChatGPT OpenAI 正在打造一種工具,可偵測由AI生成的影像或照片,而且具有很高的精確度。

OpenAI技術長穆拉蒂(Mira Murati)17日表示,OpenAI的工具在判斷一張照片是否是利用AI生成可達到「99%的可靠」。她說,這項工具在規劃公開發表前正在進行內部測試,沒有具體時間表。

穆拉蒂是與OpenAI執行長奧特曼參加華爾街日報在加州拉古納海灘舉辦的Tech Live研討會時提及上述說法。OpenAI旗下除了有ChatGPT,也擁有影像生成工具DALL-E。

目前已經存在幾種宣稱可偵測由AI生成影像或內容的工具,但結果可能不精確。舉例來說,OpenAI在1月時推出一種類似的工具,號稱可以判斷哪些文字段落是由AI生成,然而在7月就已下架,原因是「不可靠」。

OpenAI表示,正努力改善這款軟體,並致力於開發能判斷由AI生成的音檔或圖檔的方式。

關於這類偵測AI生成內容的工具需求正在增加,因為AI工具可被用來對全球事件進行操作或製造假新聞。Adobe的Firefly影像生成工具則因應了另一方面的挑戰,承諾不創造侵害創作者智慧財產權的內容。

延伸閱讀

OpenAI攜手Spotify ChatGPT成「翻譯蒟蒻」保留原聲風格

製造業無薪假降溫?半導體設備、金屬工具等四業者再通報460人

誰才是愛國之光?中國「辱華奧特曼」舞台劇衝突事件

經濟日報社論/生成式AI對社會的影響與因應

本日熱門 本周最熱 本月最熱