人工智慧又一爭議 英國衛報指控ChatGPT捏造報導

人工智慧（AI ）聊天機器人 ChatGPT 使用者激增，英國「衛報」意外發現ChatGPT會憑空杜撰新聞報導。編輯主管說，近期將公布利用這類AI軟體的準則。

衛報（The Guardian）編輯創新負責人莫蘭（ChrisMoran）今天撰文說，旗下記者上月收到一封電子郵件，一名研究人員在信中提到一篇衛報記者數年前針對一項特定主題撰寫的文章，但在網站上或利用搜尋引擎都找不到這篇文章。

莫蘭好奇：這篇報導會不會在刊出後改過標題？或因為發現某個問題而刻意從網站上撤除？還是因為題材的關係，透過法律途徑被迫撤稿？

記者不記得寫過這篇文章，但標題聽起來確實像是衛報記者會寫的東西。

莫蘭說，由於擔心衛報系統出錯，他們要求同事回頭在內部系統找出這篇報導。然而，儘管他們保留了所有內容的詳細紀錄，尤其是關於刪改或攸關法律問題的內容，仍找不到這篇文章，原因在於「從來就沒人寫過這篇報導」。

致函衛報的研究人員告知，他們使用ChatGPT進行研究。莫蘭認為，ChatGPT被問及特定主題的報導時，編造了一些內容。

ChatGPT的流暢性及其大量訓練數據基礎，意味著連從沒寫過這篇文章的人也可能相信這篇虛構文章確實存在。

莫蘭指出，目前已有大量資料提到，生成式人工智慧（Generative AI）具有捏造事實及事件的傾向，這種「發明消息來源」的特殊問題讓可信的新聞機構和記者特別頭痛，因為這些機構和記者被捲入，會替那些令人信以為真的虛構文字增添正當性與重要性。

他說，對於讀者及更廣泛的資訊生態系統而言，ChatGPT提出了能否無條件信任引述內容的大哉問，而且很可能助長偷偷刪除敏感文章的陰謀論，但其實這些文章原本就不存在。

莫蘭提醒，如果這看起來像是一起罕見個案，那麼大家務必注意，ChatGPT去年11月推出時還乏人問津，到今年1月已有1億名每月活躍用戶，而大受歡迎的中國短影音應用程式TikTok要花9個月才達到同樣水準。

後來，科技公司微軟（Microsoft）也在搜尋引擎Bing當中導入同樣的技術，迫使谷歌（Google）跟進推出聊天機器人Bard。

莫蘭還提到，一名學生2天前聯繫衛報檔案組，詢問另一篇具名記者撰寫的文章，系統再度查無紀錄，一問發現來源也是ChatGPT。

他說，由於生成式AI運作不透明，人們很容易陷入它提供的細節。跨專業學者鑽研的想法和影響相當複雜，隨著技術快速發展，已坐擁龐大市占率的企業正儘快結合這種技術以獲得競爭優勢，同時相互擾亂，最重要的是讓所有股東滿意。

負責任的新聞機構面臨的問題則既簡單又緊迫：這項技術現在能做什麼？當廣大資訊生態系統已因錯誤訊息、極端化及不肖人士而備感壓力時，如何讓ChatGPT有利於負責任的報導？

莫蘭說，這正是衛報目前致力解決的問題，報社已籌組工作小組及小型工程團隊，專注於技術學習、考量公共政策及智慧財產權相關問題、聽取學者和從業人員意見、與同業討論、諮詢並培訓員工，同時安全且負責任地探索這項技術運用在新聞報導上的效果。

莫蘭預告，未來數週將發布清晰簡潔的解釋，說明衛報未來計劃如何使用生成式AI，並持續堅守最高新聞標準，為報社發布的新聞向讀者及世界負起責任。