Google:首見AI代理無需人類介入 自動開發漏洞攻擊

Google威脅情報小組公布第4季「AI威脅追蹤報告」,首次觀察到攻擊者利用人工智慧(AI)代理,在完全無需人類介入的情況下,將安全修補程式轉化為實際可用的攻擊手法示意圖/AI生成
Google威脅情報小組公布第4季「AI威脅追蹤報告」,首次觀察到攻擊者利用人工智慧(AI)代理,在完全無需人類介入的情況下,將安全修補程式轉化為實際可用的攻擊手法示意圖/AI生成

Google威脅情報小組公布第4季「AI威脅追蹤報告」,首次觀察到攻擊者利用人工智慧(AI)代理,在完全無需人類介入的情況下,將安全修補程式轉化為實際可用的攻擊手法;整體而言,AI代理在系統入侵與漏洞利用過程中承擔更多工作,不僅大幅降低人類參與的需求,更加速了攻擊生命週期。

Google威脅情報小組(Google Threat IntelligenceGroup,簡稱GTIG)公布的「AI威脅追蹤報告」(AIThreat Tracker),詳細說明威脅發動者透過代理式AI所使用的最新攻擊手法,以及Google如何偵測並阻斷對AI助理Gemini服務的濫用、停用相關帳號,並根據這些發現強化安全防護機制。

本次報告發現首例「無需人類介入」(human-out-of-the-loop)的漏洞利用案。一個名為exploit_agent的大型語言模型(LLM)框架,配置俄語工具,能持續比對修補前後的程式碼、識別安全漏洞,並在無人類干預的狀況下自動開發出漏洞攻擊。

Google威脅情報小組也觀察到受財務動機驅使,以及疑似進行網路間諜活動的威脅發動者,紛紛使用CAIRN、PentAGI與CyberStrikeAI等開源的代理式滲透測試工具,來自動化執行攻擊過程中的各個步驟。其中一個案例顯示,某個攻擊者在針對美國航太產業的入侵行動中部署了CAIRN。

此外,Google威脅情報小組發現,與中國相關的攻擊者正利用LLM,將竊取來的資料處理為情報產品。同時也追蹤到與北韓相關的攻擊活動,利用AI生成的假身分鎖定加密貨幣公司,並試圖操縱自主程式編碼輔助工具的系統配置。

本日熱門 本周最熱 本月最熱