18+

前OpenAI首席科學家曝「規模擴展時代已結束」 AI需學會人類直覺與情感

OpenAI 首席科學家 、現任SSI (Safe Superintelligence) 創辦人Ilya Sutskever稍早在一場深度訪談中,以極其冷靜的語調宣告:「規模擴展 (Scaling)的時代結束了,我們重新回到了研究時代。」

此言論直接挑戰矽谷近年來奉為圭臬的「規模定律」 (Scaling Law),亦即透過無止盡地堆疊算力與數據,智慧就會自動湧現的信仰。Ilya Sutskever指出,單純把模型做大100倍也許會有提升,但已經無法帶來明顯質變,AI行業必須回歸拼想法、拼直覺的硬核研究階段。

AI只是「高分低能」?缺乏泛化能力與直覺

Ilya Sutskever指出,目前AI技術的致命傷在於「泛化能力」 (Generalization)。他舉例,當AI寫程式出現錯誤時,它常常會在修復A錯誤時引入B錯誤,而修復B錯誤時又改回A錯誤,進而陷入無限迴圈。

他將現在的AI比喻為一個「死記硬背」的優等生,透過練習10000小時背下所有題庫,考試能拿滿分,但缺乏舉一反三的能力。而人類 雖然只練100小時,但掌握了邏輯與直覺,長期發展反而更好。

Ilya Sutskever認為,人類智慧的秘訣在於「情感」 (Emotions),或者更精確地說是「價值函數」 (Value Function)。就像少年學開車,不需要撞車幾百萬次才知道痛,因為一旦偏離車道,內心的「價值函數」就會產生緊張感 (負反饋),指引我們修正。目前的AI缺乏這種高效的內在評分系統,因此只能依賴海量數據進行低效率的強化學習。

SSI目標直通超級智慧,人類唯一解是「腦機介面」?

離開OpenAI 創立 SSI後,Ilya選擇了一條不同於主流商業競爭的道路。他直言現在的AI行業陷入了「老鼠賽跑」 (rat race)局面,被迫在更短時間內推出「半成品」迎合市場需求。SSI則希望閉門造車,直到造出真正的安全超級智慧。

對於市場預期AGI (通用人工智慧 )即將到來,Ilya Sutskever則預測仍需5到20年時間。但他重新定義了AGI的形象:它不像是一本百科全書,而更像是一個「絕頂聰明的15歲少年」,擁有極致的學習效率,幾天內就能讀完人類醫學文獻,並且開始動手術。

面對未來可能出現的超級大腦 ,人類該何去何從?Ilya Sutskever給出自己並不喜歡,但可能是唯一解的答案:腦機介面 (Neuralink)。他認為,只有當人類選擇與AI融合,讓AI的理解直接變成我們的理解,人類才能在奇點之後,維持自己仍是世界主角 的地位。

尋找「美感」指引方向

訪談最後,當被問及如何一次次押對AI發展方向時,Ilya Sutskever給出了極具詩意的回答:「尋找美感」 (Looking for beauty)。他認為,在數據都不支持的時刻,唯有對美、簡潔與生物學合理性的信念,能支撐研究者走下去。這或許正是「研究時代」最需要的品質。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

本日熱門 本周最熱 本月最熱