18+

美中AI競賽升溫!OpenAI點名月之暗面複製模型

月之暗面(Moonshot AI)。 路透
月之暗面(Moonshot AI)。 路透

OpenAI表示,已發現並阻止一場協同發起的行動,操作者企圖從AI模型 中取得受保護的推理過程,OpenAI指出此行動的核心群組 與中國新創公司月之暗面有所關聯。

CNBC報導,OpenAI表示,這起行動始於7月初,隨後在兩天內激增,來自4000多名用戶提出1.6萬次請求。OpenAI最終在1.5萬多名用戶的群組中發現相關活動,並表示已於7月28日完全阻止這場行動。

這項調查結果公布前幾週,OpenAI競爭對手Anthropic才指控包括月之暗面(Moonshot AI)和阿里巴巴在內的多家中國AI開發商,暗中利用Claude模型協助訓練自家AI系統,凸顯美國AI企業日益加劇的擔憂,即競爭對手可能利用其模型,以更快且更便宜的方式開發出具競爭力的技術。

OpenAI將這次最新行動稱為「對抗式蒸餾」(adversarial distillation),也就是利用一個AI模型的輸出或推理結果,協助訓練或改善另一個模型。

OpenAI表示,擷取這類推理過程可能讓其他業者無需投入同等研發與安全維護資源的情況下,複製出先進技術,從而帶來潛在的安全與國家安全風險。

OpenAI表示,這些操作者並未入侵OpenAI的加密系統、資料庫或儲存的用戶對話紀錄。相反地,他們是透過操縱與OpenAI模型的互動,試圖將隱藏的推理歷程轉換為請求者可見的形式並加以複製。

OpenAI表示,目前尚不清楚所有涉入這項行動的操作者是否皆隸屬於單一組織,但OpenAI將這項行動的核心群組歸咎於與月之暗面有關的人員。

根據OpenAI,已透過前沿模型論壇(Frontier ModelForum)及政府資訊共享管道,向其他AI開發商分享相關調查結果。

月之暗面並未立即回應CNBC的置評請求。

延伸閱讀

安全疑慮…OpenAI新模型更可能隱瞞行動 突暫緩推出

OpenAI推全天候幫手dots 尬Meta搶攻AI代理市場

OpenAI突取消GPT-6.1 Astra發布!內測爆「欺騙、擅自行動」安全疑慮 網:天網要來了?

OpenAI代理出擊!預期引爆更多伺服器需求 台鏈補

本日熱門 本周最熱 本月最熱