18+

遭美國政府口頭警告!Anthropic宣布緊急封鎖Fable 5與Mythos 5所有客戶與員工取用權限

向來大聲疾呼重視AI安全與監管的AI新創巨頭Anthropic,稍早震撼宣布,為配合美國 政府於當地時間6月12日所發出的國家安全緊急指令,即刻起全面關閉旗下最新發表的「Fable 5」與高階網路 安全模型「Mythos 5」的所有客戶取用權限。

這項指令甚至史無前例地要求Anthropic必須禁止所有「外籍人士」 (無論身處美國境內外,甚至是Anthropic的自有員工)使用這兩款模型。不過,大眾熟知的Claude 聊天機器人 與其他現有模型則未受到此次事件影響。

最強網路安全模型遭越獄?美政府以「口頭證據」強力介入

雖然美國政府並未公開具體的國安擔憂,但Anthropic透露,這起緊急封鎖事件的導火線,可能源自政府官員接獲某個未具名實體所提供的「越獄」 (Jailbreak)漏洞報告。

這項罕見的預防性禁令之所以引發業界高度關注,核心在於這兩款模型的強大破壞力。

• Mythos 5:目前為Anthropic旗下最頂尖的網路安全 (Cybersecurity)專用模型,過去僅限特定合作夥伴 (如Project Glasswing)能限額使用。

• Fable 5:Anthropic近期於6月9日推出、將Mythos模型的高階能力,以「普及化」形式開放給公眾與商業客戶的次世代模型。

Anthropic指出,Fable 5的多模態與邏輯推理能力遠超以往任何模型。在內部測試中,Fable 5成功打破限制、順利將經典遊戲《寶可夢 火紅版》 (Pokémon FireRed)破關;相較之下,標準版的Claude甚至連最初代的《寶可夢 紅版》都無法順利過關,足見Fable 5的運算與自適應能力有多驚人。

防禦機制非百分之百,Anthropic罕見公開反駁官方決定

Anthropic在官方聲明中詳述他們為Fable 5所建構的安全防禦網。為了防範被惡意用於網路攻擊,公司建立極為嚴格的防護牆,甚至曾引來許多商業用戶抱怨「限制過於廣泛且不便」。

「世界上沒有任何一家AI供應商能保證模型百分之百不會被越獄」,Anthropic直言。他們的防禦策略主要是提高越獄的經濟成本 (如通用型越獄),或限制其攻擊範圍 (如非通用型越獄),並且搭配24小時監控來即時封鎖攻擊。

令人意外的是,一向高度配合政策的Anthropic,這次在聲明中展現少有的強硬態度。他們坦言,美國政府這次僅憑口頭提及一個潛在、非通用型的窄域越獄漏洞,就強行要求下架商業化模型的作法,實際上並不合理。

「我們公開重申過,政府應該要有能力阻止不安全的AI佈署,但這必須建立在一個透明、公平、清晰且基於技術事實的法定程序之上」,Anthropic 在公告中寫道。「而政府這次的行動,顯然並不符合上述原則」。Anthropic承諾將在接下來的24小時內公布更多相關技術細節。

分析觀點:AI監管的灰色時代來臨,當「國安鐵拳」破壞透明原則

這次Anthropic被迫封鎖Fable 5與Mythos 5的事件,可以說是全球AI發展史上的一個重要分水嶺。

過去,科技巨頭與政府在討論「AI安全」與「監管法規」時,大多停留在國會聽證會、聯署信或框架式的行政命令 (如去年的白宮行政命令)。但這一次,美國政府直接動用「國家安全」名義,在沒有經過正式法律程序、甚至僅憑口頭證據的情況下,就要求一家民營企業下架最先進的商業模型,甚至限制外籍員工的存取權。

這項舉動不僅戳破AI廠商與政府之間的合作蜜月期,更暴露在地緣政治與國安焦慮下,政府內部對於「次世代網路作戰AI」流向外敵的極度恐懼。而Fable 5與Mythos 5 展現出的強大網路安全與破譯能力,在政府眼裡顯然已經不是「生產力工具」,而是等同於高殺傷力的「數位軍火」。

然而,正如Anthropic所抗議的,如果政府未來只要發現某個可能被越獄的漏洞,就能以不透明、不具備公信力技術事實的「黑盒子方式」強行干預商業模型的商業佈署,不僅會嚴重打擊AI新創公司的研發與獲利信心,更可能將整場AI軍備競賽逼入一種類似冷戰時期的全面地下化防禦狀態。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

本日熱門 本周最熱 本月最熱