AI恐導致人類滅絕？業界與研究人員共同聲明：應與核戰同等對待

OpenAI 與Google Deepmind負責人在內的專家們警告指出，人工智慧 （AI）可能導致人類的滅絕。

BBC報導，數十位AI科學家與其他知名人士在AI安全中心（CAIS）網頁上刊登的一分聲明簽名。該聲明指出，「緩解AI帶來的滅絕危險應該跟大流行與核戰等其他社會性規模危險一起成為全球優先事項」。報導稱，這段簡潔的聲明旨在克服「可能難以表達對部分先進AI最嚴重風險的擔憂」此一障礙，並且開啟討論。

在聲名下方署名的學者與公眾人士包括早先對超智能AI（super-intelligent AI）帶來風險發出警告的辛頓（Geoffrey Hinton）博士、蒙特婁大學電腦科學教授班吉歐（Yoshua Bengio）、Google Deepmind執行長哈薩比斯（Demis Hassabis）、ChatGPT 研發商OpenAI執行長奧特曼（Sam Altman）跟AI新創企業Anthropic執行長阿莫迪（Dario Amodei）。

辛頓、班吉歐與紐約大學教授楊立昆（Yann LeCun）因為在深度學習領域的開創性研究，並因此共同於2018年贏得表彰電腦科學領域傑出貢獻的圖靈獎，讓外界經常稱3人為「AI教父」。但不同於辛頓與班吉歐，也在Meta工作的楊立昆認為，這些世界末日級警告是過慮了。

許多其他專家同樣認為，AI消滅人類的恐懼不現實，並且將注意力從已經成了問題的系統內偏見等議題分散。普林斯頓大學電腦科學教授納拉亞南（Arvind Narayanan）此前告訴過BBC，類似科幻的災難情景不實際，「目前的AI遠遠沒有足夠的能力讓這些風險成形，因而將注意力自AI的短期危害轉移離開」。

網頁直連：https://www.safe.ai/statement-on-ai-risk