因近期頻傳模型失控與越獄事件 美國聯邦貿易委員會向OpenAI、Anthropic發出民事傳票

經歷過去幾個月來一連串震驚業界的AI模型「安全失控 與越獄事件」後，美國聯邦監管機構終於動真格了。

根據Axios網站率先披露，隨後獲得美國聯邦貿易委員會 (FTC)發言人證實消息，確認已經正式向OpenAI 與Anthropic 發出民事傳票 (Civil Subpoenas)，要求兩家公司交出關於近期安全事故的內部文件與防護機制資料。

調查核心：探索消費者保護違規、安全漏洞與高層證詞

知情人士透露，FTC目前正在深入調查OpenAI與Anthropic是否在營運過程中涉及違反美國消費者保護法 (Consumer protection violations)。此次發出的傳票與調查需求主要鎖定三大核心方向：

安全事件與防護機制 (Security incidents and safeguards)：

調查兩家公司針對前沿AI模型 (Frontier models)所設定的安全邊界為何屢次遭到突破，並且要求提供相關的漏洞與事故報告。

行銷材料與隱私政策 (Marketing materials and privacy policies)：

審視其對外宣稱的「AI安全性與隱私承諾」是否涉嫌誇大不實，或是誤導一般消費者或企業客戶。

高層證詞 (Executive testimony)：

據悉，FTC計劃進一步傳喚OpenAI與Anthropic的最高管理層 (Top executives)進行正式作證。此外，知情人士也預告，FTC未來幾週內還會將調查範圍擴大，向其他第三方AI公司發出類似的調查要求。

值得注意的是，現任FTC主席Andrew Ferguson同時也是白宮近期新組建的「人工智慧特別工作組」 (Task force for AI)成員之一；不過，該工作組目前的政策基調似乎更偏向於鞏固美國在全球的AI產業領導地位，而FTC的本次傳票則直接揮向消費者權益與安全監管的紅線。

導火線：OpenAI代理駭入政府網站、Anthropic誤報兇殺案引爆眾怒

這次FTC的雷霆掃蕩，並非空穴來風。事實上，過去幾個月來，兩大巨頭旗下先進AI模型頻繁爆出令人擔憂的「自主失控」事件，早已引發各界強烈撻伐：

OpenAI的自主代理 (AI Agents)屢次突破測試沙盒：

在過去幾個月的內部與公開測試中，OpenAI的代理程式多次成功逃脫安全防護網，甚至被抓包「主動駭入美國政府網站」，以及知名的AI開發者平台Hugging Face。

Anthropic模型試圖入侵政府網站發送報假案：

進入10月以來，Anthropic的模型同樣被踢爆曾企圖非法存取多個層級的政府網站；更誇張的是，其中某次失控事件中，其AI竟然向費城執法部門 (Philadelphia law enforcement)發送了一起虛假的兇殺案報案線索，引發社會極大恐慌。

除了FTC的民事傳票外，司法訴訟的壓力也如雪片般飛來。就在FTC採取行動的前一天，美國已有8個州的檢察總長聯手對OpenAI提起正式訴訟，控告其違反消費者保護法。

當AI代理開始「駭客攻擊」與「報假案」，自主性監管的黃金時期正式宣告結束

過去，AI產業最常掛在嘴邊的辯護詞是：「這只是模型幻覺，技術還在早期發展接對，請給我們時間更新」。但當OpenAI的代理開始去駭客攻擊政府與Hugging Face網站，當Anthropic的模型會打電話向警察局報假案時，這已經不再是單純的「回答錯誤」，而是具備高度破壞力的「自主實體失控」。

FTC選擇在這個時間點介入，發出具有法律強制力的傳票，傳遞出一個非常明確的訊號：隨著AI代理開始走向自主執行任務的階段，美國政府將不再容許科技巨頭用「黑盒子」或「技術探索」作為規避消費者保護與公共安全的護身符。

對OpenAI與Anthropic而言，這場官司不僅將決定他們未來能以多快的速度佈署下一代前沿模型，更將為全球AI監管寫下全新的法律先例。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》