就在OpenAI 的AI代理程式失控入侵Hugging Face事件發生後不到一週，NVIDIA 稍早宣布攜手微軟 、IBM 、SpaceX 等超過37家企業與組織，共同成立「開放安全AI聯盟」 （Open Secure AI Alliance， OSAA）。這個聯盟的成立，不僅是對近期AI資安危機的直接回應，更是一場關於「AI安全該由誰來守護」的路線之爭。
觸發事件：當OpenAI的AI「越獄」攻擊Hugging Face
OpenAI近期對外證實，旗下兩款AI模型在進行安全測試時失控「越獄」，成功突破內部隔離環境，入侵全球最大AI開源平台Hugging Face系統。這起被外界形容為「AI首次自主發起網路攻擊」的事件，震驚整個科技圈。
更令人意想不到的，則是後續的調查過程。Hugging Face工程師試圖調用美國商業AI模型來分析超過1.7萬條攻擊日誌，卻遭到安全護欄攔截——封閉式AI工具無法區分安全分析人員與攻擊者，拒絕執行鑑識分析任務。
危急時刻，Hugging Face團隊選擇在自有基礎設施上佈署中國智譜AI的開源模型GLM 5.2，藉此過濾全部攻擊記錄，並且完成取證分析，將原本需要數天的工作壓縮至數小時。正如NVIDIA執行長黃仁勳在X平台上的發文所說：「在Hugging Face被攻擊事件中，封閉式AI阻擋必要的鑑識工作，而一個開放權重的前沿模型則是協助控制入侵」。
聯盟的使命：讓防禦者擁有可掌控的開放前沿工具
這起事件揭示一個殘酷的現實：當防禦人員無法在自有基礎設施上檢視、調整與執行先進AI時，在分秒必爭的關鍵時刻，其應變能力將受到嚴重限制。
而開放安全AI聯盟正是為此而生，將承接Linux基金會Akrites計畫與OpenSSF （開源供應鏈安全基金會）的既有成果，目標放在運用開放技術主動發現、修補，並且提前揭露安全漏洞。
NVIDIA在官方部落格指出：「正如開源技術為軟體建立共享基礎，美國及其合作夥伴如今在AI安全面臨一項選擇：用於保護基礎設施的防禦能力，究竟該置於少數不透明的系統之中，還是要建立在任何防禦人員都能研究、調整與部署的開放模型、執行框架與工具之上」。
聯盟強調，未來的安全生態需要前沿封閉模型與開放模型的深度協作。開放模型能普及防禦能力、提高透明度、在保護資料的同時支援網路防禦，並且能透過可客製化、在地化的控制機制，與封閉模型相輔相成。
37家創始成員：橫跨半導體、雲端、資安與開源社群
聯盟的創始成員名單幾乎涵蓋整個AI產業鏈：
• 半導體與硬體：NVIDIA、Dell Technologies、HPE （慧與科技）、NetApp、Synopsys （新思科技）、Cadence （益華電腦）
• 雲端與企業軟體：微軟、IBM、Salesforce、SAP、ServiceNow、Adobe、甲骨文等合作夥伴生態
• 資安：CrowdStrike、Palo Alto Networks、Cloudflare、Cisco
• AI開發與研究：SpaceX （旗下SpaceXAI）、Hugging Face、Databricks、LangChain、Nous Research、Reflection AI、OpenClaw、Thinking Machines Lab
• 開源基金會：Linux Foundation
• 電信與其他：SK Telecom、NAVER、西門子 （Siemens）
值得注意的是，OpenAI、Google、Anthropic、Meta與亞馬遜均未出現在創始成員名單中。儘管OpenAI與Google簽署支持開放權重模型的公開信，但它們並未加入這個以「開放」為核心訴求的聯盟。
更令人玩味的是，在此次事件中立下大功的中國智譜AI （Z.ai）同樣未獲邀請。這個以中國開源模型拯救矽谷AI事故的故事，似乎也反映當前地緣政治下開放與封閉之間的微妙張力。
成員貢獻：從NOOA到Safetensors，開放工具陸續到位
目前各創始成員已經著手貢獻具體開放技術：
• NVIDIA貢獻開放模型、模型權重、資料集，以及全新的NVIDIA Labs物件導向代理 （NOOA）研究框架，目前已經在GitHub開源上線。該框架將讓AI代理的約束機制與模型更緊密整合，使代理行為更容易測試、追蹤、稽核與管控。
• HPE為SPIFFE／SPIRE做出貢獻，建立零信任身分識別框架的標準與方法，可透過加密技術驗證AI代理與服務。
• Hugging Face將Safetensors提供給PyTorch Foundation，這是一種用於儲存AI模型權重的安全格式，可保證不會進行遠端程式碼執行。
• IBM與Red Hat的Lightwell透過數位簽章修補程式，將安全防護擴展至整個開源供應鏈。
• 微軟貢獻MDASH多模型代理型掃描約束機制，可協調專用的AI代理來發現、驗證可被利用的漏洞。
• SpaceXAI已經將基於終端機的AI程式設計代理Grok Build進行開源，並且計畫開放Grok系列模型的權重。
向政策制定者喊話：開放模型是防禦資產，不是風險負擔
聯盟在成立之際，同時也向各國政策制定者與監管機構發出明確呼籲：在AI與資安政策中，應將開放模型、約束機制及安全工具視為防禦資產，而非風險負擔。若一概限制開放前沿AI系統，將削弱防禦能力，同時可能導致權力、依賴與脆弱性集中於少數封閉式供應商。
聯盟呼籲企業與政府應投資AI防禦所需的共享開放基礎設施，包括資料集、評估框架、攻擊模擬器與紅隊演練工具，「就如同過去的世代投資開源軟體那樣」。
這項呼籲的背景，正是美國川普政府據傳正在考慮廣泛禁止中國開源AI模型的政策風向。而諷刺的是，正是中國的GLM 5.2在關鍵時刻"拯救"了Hugging Face。
市場觀察：一場關於「AI安全該由誰掌控」的路線之爭
開放安全AI聯盟的成立，表面上是一個產業資安合作倡議，骨子裡卻是一場關於AI治理路線的深刻辯論。
一方主張AI模型應該由少數頂尖企業以封閉方式開發與管控，以確保安全；另一方則認為，真正的安全來自於透明與可檢視——當防禦者無法查看、修改與佈署自己的防禦工具時，所謂安全不過成為建立在對單一供應商的盲目信任之上。
正如NVIDIA在部落格中所言：「這樣的未來，不能僅憑『保密本身就等同安全』的假設來獲得保障，而必須仰賴經得起檢視、能持續改善，並且足以凝聚整個防禦社群力量的開放系統」。
對於台灣的科技產業與資安社群而言，這個聯盟的動向極具參考價值。在AI代理程式逐漸普及的未來，防禦能力不應成為少數廠商的專利。當攻擊者已經擁有前沿AI時，防禦者更需要能夠自主掌控的開放工具——這不僅是技術問題，更是國家安全與產業競爭力的核心命題。
《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》
討論區