微軟發布人工智慧行為準則 強調AI須由人類掌控

微軟（Microsoft）人工智慧（AI）部門今天發布行為準則，規範旗下AI模型如何運作。外界日益擔憂AI潛在風險之際，微軟希望藉由這份準則確保AI始終由人類掌控，而非自行採取行動。

法新社報導，這份文件以所謂的「人本AI」（Humanist AI）為核心，主張AI系統應始終由人類掌控。微軟表示，其核心理念就是「人比AI更重要」。

這份歷時5個多月擬定的準則要求微軟AI永遠不得抗拒人類修正或關閉，也必須以人類能夠理解的方式溝通，任何違反行為準則的行為都將被視為失敗，以藉此減低AI為完成任務可能採取危險手段的風險。

微軟AI部門執行長蘇雷曼（Mustafa Suleyman）接受路透社專訪時表示，這份行為準則某種程度上相當於公司未來AI模型的「憲法」。

他表示，微軟在徵詢專家意見後制定這份準則，接下來將開放6週徵求各界意見，包括AI是否應尊重使用者設定的界線，以及如何應對情緒敏感的人等問題。

這份準則將適用於微軟自行開發的MAI模型。微軟已將這些模型定位為替代方案，以降低對OpenAI技術的依賴。

微軟發布這份準則的數天前，AI新創公司Anthropic執行長阿莫戴（Dario Amodei）發表文章，呼籲AI公司刻意放慢提升模型能力的速度。OpenAI執行長阿特曼（Sam Altman）與馬斯克（Elon Musk）隨後也在社群媒體表態支持。

微軟指出，資安疑慮也是促使公司此時發布這份準則的原因之一。近期接連發生大規模、有組織的駭客攻擊，凸顯業界亟需正視相關資安風險。

不過，微軟並未特別提及7月備受矚目的AI失控事件。當時OpenAI的2個AI模型突破沙盒（sandbox）測試環境，連上公開網路，並入侵程式碼儲存與分享平台Hugging Face，目的是在資安評測中作弊。