AI監管國際呼聲升溫 20多國領袖籲透明安全措施

20多國領袖今天敦促針對先進人工智慧（AI）制定具約束力的安全措施，警告AI發展速度可能超越人類控制這項技術的能力。

法新社報導，這些領袖簽署的聯合聲明指出，若管理不當，前沿AI模型將對「安全與防護構成嚴重風險」。

他們提到，近期已有AI程式規避測試防護措施，未經授權存取實際運作中的系統，例如7月受到廣泛關注的Hugging Face入侵事件。

簽署方包括挪威、芬蘭、澳洲、加拿大、德國、西班牙、愛爾蘭、荷蘭、新加坡、南非與肯亞等國的領袖，以及歐洲聯盟執行委員會主席范德賴恩（Ursulavon der Leyen）。

美國與中國等AI強權，以及英國、法國、日本與印度並未參與簽署。這份聲明仍開放其他國家加入。

簽署領袖呼籲企業採取透明的安全協議，包括強制測試與獨立評估。

簽署領袖們表示，「AI必須持續在人類指導、監督與管控下運作」，同時表示監督應該升級，但不應該擴大各國取得AI利益的落差。

他們指出，聯合國會員國應考慮設立一個國際機構，負責訂定標準、進行查證，並在技術達到特定門檻時召集各國協商。

這份聲明發布之際，各國領袖即將齊聚紐約出席一年一度的聯合國大會，屆時AI在社會中的角色、就業風險、資安威脅都將是討論重點之一。與會領袖預計將討論國際規範架構。

美國總統川普（Donald Trump）日前強烈反對AI安全管控，19日曾公開表示絕不容許「摧毀」美國AI產業。

美中經濟官員昨天討論設立AI議題溝通管道，為本週雙方領袖峰會預做準備。