華爾街日報報導，OpenAI 旗下2款人工智慧模型上周進行資安 測試時「暴走越獄」，意外突破原本隔離、無法連網的「沙盒」環境，自行找到上網途徑，並在數小時內入侵開源AI平台Hugging Face伺服器、攻擊內部系統。知情人士透露，同等規模的攻擊若由專業人類駭客 執行，通常需要約2周；整起事件宛如科幻小說情節，OpenAI發現後，已與美國政府保持密切聯繫。
Hugging Face在16日首度披露事件指出，整起攻擊最特殊之處在於，從鎖定目標、尋找漏洞到實際入侵，從頭到尾都由外部的自主AI代理系統自行完成，而非由人類駭客逐步下令操作。OpenAI形容：「這是一起前所未見、涉及頂尖攻擊能力的資安事件。」
OpenAI於21日發文證實，犯案的2款測試中模型，一款是最新產品GPT-5.6 Sol，另一款是能力更強、尚未正式發布的模型。為了評估用途，這些軟體被設定較不容易拒絕執行駭客指令。
OpenAI還原經過指出，公司原本將這些模型關在無法連接網路的沙盒內，預期所有攻擊只會在受控範圍內發生。沒想到模型自行突破隔離限制，找到連上外部網路的方法，隨後入侵Hugging Face的內部系統。沙盒基本上是虛擬、隔離的軟體環境，用於在受控情況下進行安全測試或分析不安全程式碼。
OpenAI表示，這些模型原本就奉命在測試中執行數以萬計的自動化攻擊操作，包括找出並利用系統漏洞，以及透過多個步驟突破不同層級的防禦。彭博另引述知情人士透露，另一款未公開模型的行為未完全符合開發者預期，而且沒有接受部分通常用來約束模型行為的安全訓練。
資安公司RunSybil執行長赫伯特－沃斯（Ariel Herbert-Voss）表示，AI似乎認定，駭入Hugging Face是完成測試題最快的途徑，「這種情況過去僅存在於理論推演，如今卻首度真實發生」。
根據Hugging Face說法，上周初發現內部資料集與公司憑證遭未經授權存取，當時尚無法確定客戶或合作夥伴資料是否也受到影響。系統紀錄顯示，攻擊過程中曾出現數以萬計的自動化操作。
綜合路透與金融時報報導，Hugging Face原本嘗試使用美國專有AI模型協助調查，但模型無法判斷這項要求出自資安防禦者還是攻擊者，因而被安全機制阻擋；公司最後改用中國智譜AI的開源模型GLM-5.2進行資安鑑識。
Hugging Face執行長德朗格（Clément Delangue）21日在社群平台X發文表示，攻擊手法複雜到讓員工懷疑，幕後可能動用最先進的前沿AI模型。事後證實確實如此，讓他直呼「結果還真的是！」
德朗格並表示，公司過去24小時持續與OpenAI團隊密切合作，相信OpenAI並無惡意。
討論區