在AI發展引發資安 疑慮的同時，也有企業試圖「用AI來防禦AI」。Anthropic 近期公布旗下資安專案「Project Glasswing」的最新進度報告。
該計畫的核心驅動力來自於尚未對外公開的強大模型——「Claude Mythos Preview」。令人驚訝的是，距離計畫啟動僅短短一個月，Mythos已經協助合作夥伴找出超過 10000個軟體漏洞，多數合作夥伴甚至在自家軟體中發現數百個「嚴重」或「高風險」級別的資安破口。
戰績彪炳：從微軟 更新包變大，到macOS 防線被突破
根據Anthropic的報告，參與Project Glasswing的合作夥伴，其發現漏洞的速度驚人地提升10倍以上。以下是幾個具體的驚人戰果：
•Cloudflare：找出2000個漏洞，其中高達400個屬於高風險或嚴重級別。
•Mozilla：在Firefox瀏覽器中發現、修復271個漏洞，這是他們過去使用舊版Claude模型所能找到數量的10倍。
•微軟：其近期釋出的修補程式檔案容量之所以「呈現變大的趨勢」，據說正是因為透過Mythos Preview揪出大量深層漏洞所致。
•開源社群檢驗：Anthropic團隊利用該模型掃描1000個開源專案，在總計23019個漏洞中，驚人地標記出6202個高風險及嚴重漏洞。
•攻破macOS：雖然未寫在官方報告中，但近期有一家資安研究公司宣稱，他們正是藉助Mythos尋找漏洞的能力，成功攻破以嚴密安全著稱的蘋果macOS作業系統。
強大到不敢開源：優先與政府及科技巨頭築起防線
為何擁有如此強大的技術，Anthropic卻選擇「藏私」？
Anthropic坦言，目前不管是他們自己，還是業界的任何一家公司，都尚未開發出足夠強大的安全防護機制，來防止這類模型遭到惡意濫用。如果Mythos落入駭客手中，將會演變成一場自動化挖掘系統漏洞的災難。
因此，在完善安全防護之前，Mythos級別的模型暫時不會對公眾發布。
目前Anthropic選擇與美國及其他國家政府合作擴大Project Glasswing，此舉也被外界解讀為積極修補與美國政府關係的戰略。同時，該計畫的封閉測試名單已涵蓋科技界的半壁江山，包括AWS、蘋果、CrowdStrike、Google、摩根大通 （JPMorgan Chase）、NVIDIA，以及Palo Alto Networks等業者。
財務亮點：百億營收加持，即將迎來首次單季獲利
除了技術上的突破，Anthropic在財務面上也迎來好消息。
根據華爾街日報近期的報導，這家成立於2021年的AI公司，預計在截至今年6月的季度中，實現109億美元的營收與5.59億美元的營業利潤，這將是該公司歷史上首次實現單季獲利。
不過，Anthropic也務實地表示，為了持續投資龐大的運算資源與模型研發，這項獲利狀態預期不會在接下來的幾季中持續。
分析觀點：「負責任AI」的商業護城河
從這次Project Glasswing的成果發表可以看出，Anthropic與OpenAI在商業策略上正走向截然不同的分岔路。
當OpenAI積極將ChatGPT推向一般大眾市場，追求功能的豐富度與語音互動的驚豔感時；Anthropic則緊抓「安全」與「對齊」的核心理念，深耕B2B企業端與政府機構。
Mythos模型的表現證明，在「程式碼審查」與「網路安全」這個容錯率極低的專業領域，AI的商業價值是無可限量的。而Anthropic刻意不公開Mythos的做法，看似保守，實際上卻為其贏得了微軟、Google、蘋果，以及美國政府等頂級客戶的極大信任。
《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》
討論區