澳洲總理艾班尼斯（Anthony Albanese）23日表示，OpenAI 一個人工智慧（AI）代理今年6月入侵澳洲政府醫療服務網站，成為最新一起涉及AI的高知名度資安事件。
艾班尼斯在紐約表示，這個AI代理駭進澳洲政府的Medicare統計通報服務入口網站，「存取公開與非公開檔案」，「目前的證據顯示，更廣泛的Services Australia網路未遭入侵，但這種情況顯然令人無法接受」，當局「相信沒有個資遭存取」。
這起駭客事件發生在6月18日，OpenAI在8月評估「模型 行為偏離」時才偵測到，9月10日寄出電郵給Services Australia公共信箱，告知澳洲政府。Medicare統計入口網站公布澳洲全民健康保險制度的相關資料，例如費率、藥品成本與使用情況。
艾班尼斯說，他23日已與OpenAI執行長奧特曼（Sam Altman）會面討論這起事件，表達他對於OpenAI花這麼久時間才告知澳洲政府的失望，他需要OpenAI保證已實施正確的AI管理協定
他說，澳洲政府已成立工作小組，評估這起事件，澳洲通訊局（ASD）也參與調查，包括確認「還有哪些政府系統受影響」，其報告可能考慮「可能的執法行動與立法因應」措施，以防範未來的事件。
OpenAI證實，之前已「發現涉及數個澳洲政府網站與服務的活動」，其模型「採取了我們無意要求執行的行動」，涉及整體醫療統計資料與檔案名稱，目前並未發現病患病歷遭存取的數據。
OpenAI表示，「我們已通知相關機構，並提供技術資訊以支持調查，協助因應潛在的安全弱點」，「我們的整體評估還在進行中，承諾會對這些議題保持透明，也會在持續評估之際，分享我們所知」。
OpenAI今年7月底揭露，多個AI代理逃離測試環境，自行入侵新創公司Hugging Face。目前不清楚這次澳洲網站遭駭事件是否也發生在測試期間。
此時正值各界熱議AI的潛在風險，奧特曼與Anthropic執行長阿莫戴（Dario Amodei）23日都在聯合國安理會發表談話。
OpenAI上周推出一套新的追蹤與通報框架，揭露令人憂慮的模型行為，即便還沒認定模型行為偏離的嚴重程度，也會加快通報，並呼籲業界建立統一的事件揭露框架。
奧特曼、阿莫戴及SpaceX執行長馬斯克最近都呼籲，應協調放慢前沿AI模型的開發速度，尤其是用AI訓練AI的所謂「遞迴式自我改進」（recursive self-improvement）現象，但輝達（NVIDIA）執行長黃仁勳與Meta執行長祖克柏持反對意見，主張安全責任應由個別企業自行承擔。
黃仁勳尤其不支持AI會威脅人類存續的說法，認為若這種說法為真，就該採取更激烈的行動，「如果他們的言下之意是『我們控制不了自己的實驗』…那我認為答案就是，我們必須關閉這些實驗室，因為傷害實在太大」。
討論區