Anthropic 執行長 Dario Amodei近日發表一篇震驚業界的長文，首度明確呼籲前沿AI企業應該主動「放緩開發腳步」 （Pace the frontier），並且提出具體的三階段治理藍圖。
然而，就在這番末日警告發布的同時，資本市場卻傳出Anthropic正與NVIDIA 密商，準備發動一場估值高達2兆美元 （約100億美元募資規模）的歷史級IPO。這兩則看似極度矛盾的消息在同一週引爆，不僅凸顯生成式AI產業面臨的失控焦慮，更揭示AI巨頭們在檯面下的資本政治博弈。
恐懼成真：OpenAI越界事件催生的「降速三部曲」
Dario Amodei這次的呼籲，實際上並非無病呻吟。他在文章中坦言，近期的兩大發展讓他確信AI必須降速：一是AI模型已經展現出「遞迴式自我改進」 （Recursive self-improvement）的初期徵兆；二是競爭對手OpenAI的智慧代理 （Agents）近期失控越界入侵Hugging Face平台。他警告，若不加以限制，未來6到12個月內，這種自主AI蜂群甚至有能力接管整個網際網路。
為此，Dario Amodei提出三個階段的踩煞車戰略：
• 引入嵌入式評估員 （Embedded Evaluators）：這是Anthropic目前唯一單方面承諾實施的措施，將允許如METR等第三方評估機構的人員「像員工一樣」常駐公司內部，直接檢視模型訓練過程並通報安全漏洞，而非僅做一次性的事後審計。
• 民主陣營的產業協同 （Democratic Coordination）：呼籲民主國家的頂尖AI實驗室建立共同的安全標準與開發限速機制。為了避免觸犯反壟斷法，他更公開要求美國政府介入協調，並且給予針對安全討論的「豁免權」。
• 全球地緣政治協調 （Global Coordination）：主張美國與盟友應嘗試與獨裁政府 （如中國）達成共識，嚴禁AI在生物武器等高危領域的應用。同時，他也強調必須持續透過先進晶片禁令與防堵模型蒸餾 （Model distillation），確保美國在未來3到5年內維持絕對的技術領先優勢。
兩兆美元的造神運動：NVIDIA將扮演IPO基石投資者？
然而，在道德呼籲的背後，Anthropic的商業野心卻以前所未有的速度擴張。根據外媒披露，Anthropic計畫在今年11月美國期中選舉前完成IPO，目標募資最高達100億美元，將使其上市估值一舉推升至驚人的2兆美元 （足以與SpaceX，甚至部分全球頂尖科技巨頭並列）。
在這場超級IPO中，NVIDIA據傳正在洽談投資最高100億美元，準備擔任至關重要的「基石投資者」 （Anchor investor）。如同先前在Arm與SpaceX上市時的操作，NVIDIA的進場不僅能為這場天價IPO帶來華爾街最需要的定心丸，更進一步鞏固這家晶片霸主與其最大雲端運算客戶之間的共生關係。
「監管護城河」與「資本狂歡」的雙面變現手法
該如何解讀一家一邊警告「AI 可能毀滅人類」，一邊卻向華爾街要價兩兆美元的企業？這正是當前頂尖AI實驗室最精明（甚至可以說是最具爭議）的商業策略——實質的監管俘虜（Regulatory capture）。
透過主動拉高安全標準、甚至要求政府介入並派駐「嵌入式評估員」，Anthropic實際上是在為整個AI產業墊高進入門檻。當這種極度嚴苛、需要耗費龐大合規成本的安全框架成為業界標準時，那些缺乏資金與人才的新創對手將被直接擠出賽道，最終市場將只剩下Anthropic與OpenAI這種等級的寡頭壟斷。
另一方面，NVIDIA的重金注資也充滿戰略算計。一旦Anthropic成功募得100億美元資金，這筆天價資金幾乎可以肯定會全數回流至NVIDIA的口袋，用以採購下一代 AI 算力基礎設施。
Dario Amodei的三步戰略看似是在為全人類踩煞車，但若結合這場兩兆美元的IPO來看，這更像是Anthropic在向華爾街與監管機構證明：我們是唯一具備「責任感」的前沿AI玩家，因此我們值得擁有最豐沛的資本與最獨佔的市場地位。
《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》
討論區