美國加州通過人工智慧安全法案 加強監管AI

美國加州立法機構今天通過一項旨在監管強大人工智慧（AI）模型的法案，儘管有人強烈抗議這項法案可能會扼殺其試圖控制的技術。

法新社報導，法案發起人、民主黨加州參議員威善高（Scott Wiener）說：「我們的人工智慧安全法案SB1047剛剛在議會通過。我為這項法案背後的多元化聯盟感到驕傲，這個聯盟堅信創新和安全。」

這項法案叫做「前沿人工智慧模型安全創新法案」（Safe and Secure Innovation for Frontier ArtificialIntelligence Models Act），現已提交加州州長紐松（Gavin Newsom）簽署，不過尚不清楚他對該法案的立場。

紐松必須在9月30日之前簽署或否決該法案。

人工智慧安全中心（Center for AI Safety）主任亨德里克斯（Dan Hendrycks）表示，這項法案為實施「減輕關鍵AI風險的保障措施」提供「一條可行的前進道路」。

這項法案要求大型「前沿」AI模型的開發者採取預防措施，例如部署前測試、模擬駭客攻擊、安裝網路安全防護措施以及為吹哨者提供保護。

不過依然有人反對這項法案，其中包括一些有權勢、家喻戶曉的人物。美國民主黨重量級人物、前眾議院議長裴洛西（Nancy Pelosi）上週表示：「國會中有許多人都認為SB 1047立意良善，但資訊不足。」她指出，黨內高層成員已向威善高表達他們的擔憂。

但威善高認為，AI安全和創新並不互相排斥，對這項法案進行微調，解決了批評人士的部分擔憂。