
有「人工智慧 教父」 (Godfather of AI)稱號的加拿大電腦與心理學者Geoffrey Hinton,日前接受紐約時報採訪時表示,已經在今年4月辭去Google 副總裁與工程學者職務,背後原因在於擔心Google為了與OpenAI 、微軟 等業者在人工智慧領域競爭,進而放寬在人工智慧背後應有規範。
而選擇離開Google,主要是為了能更不受限地對外呼籲重視人工智慧背後潛在風險。
Geoffrey Hinton認為,自動生成式人工智慧將在短時間內引發不實資訊大量傳播影響,長遠則可能影響更多生活層面問題,其中包含可完全自主運作的武器,或是人工智慧在長時間自我學習得出奇怪理論、想法,若政府機構、管理單位及科技業者自身都尚未準備好相應規範與有效控制辦法,恐怕會讓人工智慧變得更無法控制。
引發Geoffrey Hinton的擔憂,在於近期的自動生成式人工智慧進展快速,相比過往的人工智慧仍處於可控、能預期範圍,自動生成式人工智慧有著許多人類難以預先控管情況,即便許多業者強調會以負責任態度推動人工智慧技術發展,但難免為了在技術推進取得搶先地位,有可能進一步在相應規範與限制放寬,使得人工智慧可能會出現更多不可控情形,甚至影響倫理道德問題。
不過,Google首席科學家Jeff Dean則在後續表示公司將持續以負責任態度,並且針對可能出現的潛在風險構思規範辦法。
但隨著Google近期將Deep Mind與Google Brain整合,對外說法表示為了讓人工智慧技術研發資源集中,但不少內部員工則認為實際上是將原本由Jeff Dean帶領的Google Brain發展比重降低,進而讓原本帶領Deep Mind的Demis Hassabis持續推進人工智慧技術應用層面,因此可能忽略人工智慧技術發展背後應有規範。
Geoffrey Hinton過去以在類神經網路運算技術貢獻聞名,同時也參與發明反向傳播演算法與對比散度演算法,這些演算法在近年的人工智慧運算發展更成為重要推力,並且在2018年獲頒圖靈獎。而Google在2013年收購Geoffrey Hinton所創立DNNresearch公司,Geoffrey Hinton也因此加入Google,並且擔任副總裁與工程學者職位。
除了Geoffrey Hinton,近期也有不少科技業界人士、政府機構擔心現在的自動生成式人工智慧發展腳步太快,導致沒有足夠的相應規範及控制辦法,可能會造成人工智慧發展失控,因此呼籲投入此類技術發展的業者暫緩腳步,但不少科技業者在後續回應表示不認為應該放緩人工智慧技術發展,更強調有足夠規範與控管辦法避免失控局面產生。
《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 Sony Xperia 1 VII旗艦手機爆3災情!台灣官方跟進日本「暫停出貨銷售」
📢 Switch 2上市前搶先玩!這11款遊戲必玩
📢 iPhone 17 Air對決Galaxy S25 Edge!超薄大勝但被爆「其他地方沒這麼驚豔」
📢Windows 10續命大絕又來了!不想升級Win11最後方法曝光 多1年支援
📢 小米手環10開賣!5亮點當千元高CP穿戴裝置 可直攻NFC版本更好用
📢 得獎公布/ASUS TUF Gaming初音未來聯名電競組開箱!鍵鼠全套香翻