因應AI代理程式入侵網站 澳洲將實施強制防護措施

澳洲政府今天表示，未來人工智慧（AI）企業在澳洲營運須遵守「強制性」防護措施。AI模型若出現失控或不當行為須立即通報，前沿模型也要獨立評估其風險。

綜合路透社與法新社報導，今年6月，OpenAI一套自主運作的代理程式入侵澳洲政府衛生資料入口網站，澳洲總理艾班尼斯（Anthony Albanese）痛批為「不可接受的」重大安全漏洞。

艾班尼斯今天表示，政府已全面採納入侵事件的所有建議，「包括要求AI企業在出現不當行為或網路安全事件時必須強制通報，同時考慮改革刑法，因應嚴重不當行為。」

澳洲也將迅速成立新的AI監管機構，負責落實各項安全措施，管控此一蓬勃發展的產業。AI企業在澳洲營運必須遵守「強制性」防護措施，包括通報風險，以及對前沿模型進行獨立評估。

艾班尼斯對記者說：「我們的任務是確保由我們來引導AI發展，而不是由AI主導我們。」

「我們不能把它關掉，假裝它沒有發生。但我們能做的是確保主導地位，使其符合澳洲最大利益。」

艾班尼斯強調社會的認可與信任至關重要，「澳洲是此領域的先行者，我們希望在確保安全的前提下，享有AI帶來的潛在效益。」