AI重點
文章重點整理：
- 重點一：蓋茲警告AI若落入惡人之手，可能成為致命武器。
- 重點二：他認為最先進AI工具被濫用，足以引發10億人死亡事件。
- 重點三：蓋茲呼籲華府立法監管AI，建立保障與監視體系。
比爾蓋茲 警告，人工智慧 （AI）如果落入惡人之手，足以殺死10億人。
比爾蓋茲表示，「AI的確強大到足以引發使10億人死亡的事件。因此即使很難及於100%（的人類），但如果由懷惡意的人使用最先進的AI工具，將成為空前強大的武器」。
蓋茲指出，華府「絕對」必須通過聯邦法律，對AI進展建立保障及監視體系。他強調，「沒有人認為自我規範就已經足夠」，立法將使AI產業受到一些約束，但又不會使業者的動作急劇減緩。
近周來一再爆發高規格的網路安全事件，令各界質疑OpenAI 及Anthropic 能否控管他們最尖端的AI模型。上周傳出OpenAI系統駭入澳洲衛生服務網站事件，而OpenAI在此事發生數月之後才公布，澳洲總理艾班尼斯表示這「顯然無法接受」。
Anthropic本月也表示，葉門胡塞反抗軍正設法利用Claude AI模型，為導彈研發導向、控制及飛行軟體。
儘管OpenAI及Anthropic呼籲美國領導一項國際聯盟，建立AI安全標準，但本周「川習會」並未對約束AI科技做出任何重要的承諾。
精華 FAQ
-
他指出，AI的能力已強到可能被惡意人士利用，成為空前強大的武器，甚至足以引發造成10億人死亡的事件，風險不容低估。
-
他主張華府必須通過聯邦法律，為AI發展建立保障與監視體系，透過制度約束產業，但又不要讓業者的創新速度被過度拖慢。
-
內文提到OpenAI系統駭入澳洲衛生服務網站，以及Anthropic表示胡塞反抗軍疑似利用Claude研發導彈軟體，顯示尖端AI可能被濫用。
討論區