美國OpenAI公司研發的ChatGPT 聊天機器人近期爆紅，但所衍生出的問題也接踵而來。新聞評等組織NewsGuard 5月1日發布報告指，由AI聊天機器人生成的新聞網站近期激增至少49家，引發外界質疑AI工具是否助長假訊息傳播。
彭博資訊檢視了這49家網站，網站內容包容萬象，有些包裝成提供即時新聞的網站，名稱也聽起來很可信，像是「News Live 79」和「Daily Business Post」，也有的網站是以生活風尚、名流消息的內容為主，甚至有網站是專門發布廣告內容，但都沒有透露他們使用OpenAI公司研發的ChatGPT或谷歌（Google）的「Bard」AI聊天機器人。
NewsGuard指出，有一個名為CelebritiesDeaths.com的網站4月就發表了一篇AI生成的文章，標題為「拜登逝世、賀錦麗出任代理總統，上午9時將發表談話」。另一個網站則假造了一篇訃聞，用AI描寫一名建築師的人生和作品。還有一個名為TNewsNetwork的網站，則根據YouTube影片發布了一則俄烏戰爭中數千名俄軍喪生的故事，但完全未經查證。
報導指出，這些網站絕大多數都是品質低劣的內容農場，只是要藉由發布文章來帶入廣告。這些網站遍布世界各地，並以英語、葡萄牙語、菲律賓塔加祿語、泰語等語言發布。
其中少數網站還會收費刊登文章，協助「客戶」提升搜尋排序。另外一些網站則試圖在社群媒體建立讀者，例如刊登名流生平故事的ScoopEarth.com，其臉書專頁有12.4萬人追蹤。
超過半數網站藉由刊登「程序化廣告」來賺取收入，也就是透過演算化自動買賣廣告欄位。
NewsGuard共同執行長克羅維茲（Gordon Crovitz）說，這份報告顯示，OpenAI與Google等提供生成式AI服務的公司應該小心訓練他們的模型，不要用於捏造新聞。曾任《華爾街日報》發行人的克羅維茲說：「使用已知會虛構事實的AI模型去製作那些看似新聞網站的內容，是偽裝成新聞業的詐欺行為。」
OpenAI未立即回應置評請求，但該公司之前曾表示，會結合人工與自動化系統來識別系統遭濫用的事件，並發出警告或禁止使用。
谷歌發言人艾西曼（Michael Aciman）則表示，該公司重視內容品質，不允許廣告刊登在有害內容、垃圾文章或明顯從其他網站複製的文章旁邊。谷歌表示，在接獲彭博聯繫後，已自其中部分網站頁面移除Google廣告。
谷歌強調，使用AI產生的內容，不一定會違反該公司政策，但若利用AI來操縱搜尋排序，則違反該公司有關垃圾內容的政策，會定期監控其廣告生態系統中的濫用趨勢，並相應調整其政策和法規。
