多名美國AI企業領袖近日以安全理由呼籲放慢AI研發腳步。美國總統川普 與輝達執行長黃仁勳 則持相反看法，川普甚至稱「AI將接管世界」的說法是騙局，放緩只會讓北京得利。
● 人類毀滅倒數？矽谷 巨頭罕見齊籲緩AI、建護欄
包括Anthropic 執行長阿莫戴（DarioAmodei）、OpenAI 執行長奧特曼（SamAltman）、xAI創辦人馬斯克 （Elon Musk）及GoogleDeepMind執行長哈薩比斯（Demis Hassabis）都在剛過去的這個週末發聲，認有必要限制人工智慧（AI）發展速度。
雖然這不是AI末日論首次躍上檯面，但近期連串事件助長警告聲浪再現，像OpenAI的AI智慧體分別入侵Hugging Face與RubyGems等其他AI平台；Anthropic幾名離、現職研究人員表示，AI系統最快可能在2030年之前終結人類。
隨AI競賽逐漸圍繞「循環自我改進」展開，阿莫戴等人建議放慢AI發展速度。所謂循環自我改進（recursive self-improvement,RSI）的AI系統，能在無需人類介入下不斷自行優化、提升能力。奧特曼與馬斯克也表示認同阿莫戴。
在AI業界發出警告前，蓋洛普（Gallup）3月一項民調顯示，近半數受訪美國民眾「強烈反對」在當地興建AI資料中心。這股反對聲浪不僅限於民主黨支持者，在受訪共和黨人中，也有近40%強烈反對興建。
阿莫戴在個人部落格發文，呼籲AI產業放慢開發速度，並提出多項新措施，包括加強民主國家之間的全球協調，以及設置一個第三方安全評估機制審查AI開發流程，「我相信放慢發展速度能多爭取一、兩年時間，利用這段時間將AI拉回正軌，就能大幅降低風險」。
● 矽谷巨頭背後有算計？川普黃仁勳拒煞車
然而川普14日表明不買單AI領袖要求克制的呼聲。他在自家社媒「真實社群」（Truth Social）發文「目前有人針對AI與資料中心策劃一場病態陰謀，唯一會因此高興者就是中國」、「AI唯一需要的制約或護欄就是一位強大而睿智（高智商！）的總統」。
當天下午黃仁勳在洛杉磯一場科技會議台上發表談話時接到川普來電，透過擴音在場人士聽到川普說「機器人不會接管世界，AI也不會。這一切都是騙局」；黃仁勳也回應「沒錯，長官，我們不會讓這種事發生」。
部分專家分析，美國AI巨頭原本認為政府對晶片輸出管制能為他們建立防護罩，但隨中國走硬體自主、開源AI路線加速趕超，晶片壁壘已不夠牢固，於是想換一套方式建第二道防護來維持自身領先優勢繼續盈利。
這派專家認為，Anthropic、OpenAI等巨頭喊「AI發展過快恐毀滅人類」、「需要審查機制與第三方評估」，表面上是為人類安全，實質上是想遊說美國國會建立審查機制，藉由西方定義的「審查權與標準制定權」建起另一高牆，讓閉源AI能繼續領先中國等追趕者。
● 數千億美元已砸 市場認AI難走回頭路
華爾街日報指出，當前AI建設已是美國經濟穩定成長來源之一，也是全球資本市場的重要支柱，更是美中科技競賽主要戰場，延續這股AI發展勢頭牽涉的利益重大。儘管警告令人憂心，似乎很少有人因此放棄帶動美國股市多年漲勢的AI投資交易。
目前業界與市場大多同意AI投資熱潮短期內不會結束。正因如此，許多人反而更容易把週末這波「AI末日論」警告視為正面訊號。
AI投資分析公司Reflexivity共同創辦人塞特（Giuseppe Sette）說：「肯定是非同小可的事才會讓阿莫戴、阿特曼和馬斯克這3人罕見達成共識。但既然中國也在這場競賽裡，我們不預期會出現顯著放緩。至於AI相關股票的拉回，那只不過是買入的機會。」
投顧機構B. Riley Wealth首席市場策師霍根（ArtHogan）說：「我認為這是一個轉折點，最終很可能讓我們在安全性方面取得更好結果，儘管過渡期間會出現波動。我當然不認為這些AI大廠會說『我們投入數千億美元在AI上是錯的，所以現在要放棄』」
討論區