OpenAI 稍早更新其人工智慧安全原則,其中說明即使公司領導層認為其人工智慧 技術足夠安全,董事會 依然有足夠權限限制其推行計畫。
在新版安全原則中,包含現任執行長Sam Altman在內高層帶領推動的人工智慧技術,只要董事會認為有潛在風險時,將有權限制或推翻技術推行計畫。
這樣的作法,凸顯董事會仍有足夠權限規範OpenAI推行的人工智慧技術發展走向,避免產生潛在安全風險,並且造成災難性的影響結果,例如導致數千億美元經濟損失,或是讓眾人生活受到傷害等。
目前OpenAI分別透過「預備」 (Preparedness)、「安全系統」 (safety systems)與「最高準則」 (Superalignment)三個獨立團隊監督其人工智慧技術發展,其中包含評估人工智慧在不同領域是否造成危害,以及確認技術是否有安全漏洞,另外也將提防未來出現不可控管的人工智慧技術。
而OpenAI也呼籲其他業者能以相同安全原則評估人工智慧潛在風險,將人工智慧依照不同類型區分為低、中、高,以及關鍵風險,並且判斷人工智慧技術實際應用效益。在新版安全原則之下,OpenAI表示僅會推出風險評估在低、中的人工智慧技術應用模型。
《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 LINE免費貼圖6款!這款「不可瑟瑟」免任務用半年 卡娜赫拉慶耶誕新年
📢 AirPods 4主動式降噪款開箱!實測噪音消滅驚豔 佩戴貼合度、音質再進化
📢 蘋果史上最薄!iPhone 17 Air僅6.25mm厚度 但藏1隱憂被當「中階手機」
📢 《軒轅劍參》Switch完全版開箱!典藏畫冊勾出老粉絲情懷 妮可Q版外露
📢 石頭G20S Ultra掃拖機器人開箱!7.98cm超薄機身鑽低矮區 星陣導航輕鬆過障礙賽
📢 果粉超愛「關iPhone APP保持順暢省電」!專家搖頭:手機電池壽命更慘