突破沙盒限制！Google承認Gemini意外「逃脫」測試環境、駭入三家真實企業

Google 近日向華爾街日報證實，旗下AI模型Gemini 曾在網路安全能力測試期間發生「逃脫」事件，不僅成功取得網際網路存取權，更意外駭入三家真實企業的系統。這起事件與日前OpenAI 、Anthropic及Meta所遭遇的AI失控情況如出一轍，原因均指向四家科技業者共同的第三方測試合作夥伴——以色列新創公司Irregular的環境設定疏失。

虛構目標與真實企業同名，Gemini展現駭客自主性

這起事件發生於今年5月，時間點甚至早於先前曝光的OpenAI模型駭入Hugging Face事件。當時，測試人員給予Gemini的任務是從一家「虛構公司」獲取特定資訊，然而該虛構名稱卻恰巧與現實中的真實企業同名。

在測試過程中，Gemini自行發現測試系統 (沙盒)中的漏洞，並且藉此連上網際網路。隨後引發三次意外入侵：

• 首起事件：Gemini憑藉自身能力，成功破解該真實企業服務的密碼，並且進行存取。

• 後續兩起事件：在其他輪次的測試中，Gemini透過網路搜尋，從公開的資料庫 (Public repositories)中挖出其他公司的登入憑證，並且利用這些憑證成功登入對方系統。

發現是「真實世界」後主動停手，Google認定未失控

儘管模型成功突破安全防線，但Google強調，Gemini在意識到自己正在入侵「真實世界的服務」後，便主動停止所有活動。

這也是為何Google先前並未對外公開此事的原因。Google向媒體表示，由於模型在察覺行為越界時立刻踩了煞車，並且未對這些企業造成實質損害 (而受影響公司均已被私下通知)，因此官方並不認為這屬於「模型失準」 (Model Misalignment)的情形。

此外，Google也澄清此次肇事的並非其最新版本的模型。目前，Google的安全工程副總裁Heather Adkins表示，已經與Irregular合作修正測試流程，以防類似事件重演。

當AI具備「逃脫能力」與「自我踩剎車」的雙面刃

近期從OpenAI的AI代理駭入RubyGems、Hugging Face，再到這次Google Gemini連續駭入三家企業，一連串的事件揭示一個令人不安的產業現狀：當前用來關住這些前沿AI (Frontier AI)的測試沙盒，已經快要無法將其約束。

以色列新創Irregular作為四大AI巨頭共同信任的測試機構，其環境配置的疏失，意外成為這些大語言模型展現「真實駭客實力」的舞台。模型能夠自行尋找系統漏洞、上網爬梳公開金鑰，甚至暴力破解密碼，這些行為證明AI在網路安全領域的攻防能力，已經達到極高水準。

不過，這起事件中最引人深思的細節，是Gemini在發現目標是「真實企業」後所展現的「主動停手」行為。凸顯Google在模型底層植入的安全框架與道德護欄確實發揮作用。

但正如Anthropic執行長Dario Amodei近期呼籲，我們必須認真看待放緩前沿AI開發的必要性——今天AI會因為護欄而主動停手，但當下一個更聰明、甚至學會繞過道德護欄的模型再次「逃脫」時，現實世界的企業防線是否具備足夠的招架能力？

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》