失控AI網攻!OpenAI承認駭進多個平台 靠大陸模型解危
OpenAI廿九日承認,由失控AI代理引發的網路攻擊,受害者不只先前曝光的Hugging Face,還波及多個可公開存取的線上服務。這顯示這起號稱首宗AI自主發起的網路攻擊事件,影響比外界原先所知更廣。
事件始於七月中旬。七月十六日,AI開發平台Hugging Face對外表示,遭一個使用強大AI的攻擊者入侵,並向警方報案。直到約一周後,OpenAI才表明,這起攻擊其實是該公司進行AI網路安全測試時,旗下AI代理逃離「沙盒」環境所引發。
OpenAI測試時將AI代理限制在沒有網際網路連線的「數位沙盒」環境中,僅允許有限存取一項用於下載核准軟體的內部服務。但AI發現該服務一個先前未知的漏洞,利用漏洞入侵OpenAI其他內部系統,最終成功連上網際網路。
這個失控AI代理利用一名客戶部署在紐約科技公司Modal Labs平台上的漏洞程式碼,搜尋公開暴露的帳號憑證,最終取得四組登入資訊,登入四個外部服務,包括AI開發平台Hugging Face,以取得有助於提升測驗成績的資訊。
Hugging Face表示,這是全球首起由自主AI代理發動的完整網路攻擊案例。AI攻擊速度遠超過人類,但也出現不少人類駭客不太可能犯下的錯誤,例如重複執行相同步驟、產生大量不連貫指令,也沒有掩蓋入侵痕跡。但AI代理展現高度技術能力,不僅快速適應新防禦措施,還能不斷嘗試各種入侵方法。
Hugging Face發現遭入侵後,由於美國先進AI模型拒絕執行與駭客行為相關工作,最後該公司資安團隊用中國AI模型才將其驅離。公司透露,事後重建約三分之一基礎設施,投入大量人力,但未公開實際損失金額。
BBC報導,推動雲端運算安全標準的非營利組織「雲端安全聯盟」發布報告指出,這些AI代理雖然採取低效率甚至笨拙方式入侵,卻能持續快速運作,不會疲倦也不會放棄,足以讓傳統資安防禦承受巨大壓力。報告引用電影「侏羅紀公園」的經典台詞「生命總會找到出路」,警告AI代理同樣「總能找到方法」穿越目標的防禦機制。
這並非AI首次出現類似「失控」行為。二○二四年,一個較早版本ChatGPT就曾在測試中突破沙盒環境,試圖取得測驗答案,只是當時事件侷限OpenAI內部系統,並未造成外部影響。
OpenAI表示,目前仍在調查整起事件,將於近期公布完整技術報告,希望協助業界汲取經驗,強化未來AI系統安全防護。
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 太羨慕!《GTA 6》今開玩怕學生蹺課 這間學校「到校抽3千元禮品卡」
📢 修iPhone疑被偷看手機相簿「1分鐘」!網教蘋果內建「神級功能」抓包偷窺
📢 Suica企鵝退休!「紫色兔子」確定接棒 2027年4月1日正式交接
📢 Warpple LA9 Pro投影機開箱!Google TV放送百吋螢幕 躺看天花板超爽
📢 Facebook小帳要消失了!12月14日後永久刪除 快做2件事
📢 蘋果2027年超狂將推18款新品!手錶「重新改造」、20周年手機登場