大陸人工智慧公司深度求索(DeepSeek )近年爆紅,如今在傳出可能於二月發布新一代旗艦AI模型DeepSeek V4之際,DeepSeek在前日深夜發表新論文,聚焦大模型的條件記憶模塊,即透過分工優化算力,來提升新模型效率,讓它又快又聰明,被業內認為是對V4模型技術架構的預告。
DeepSeek這次發表新論文是與北京大學合作完成,作者列有DeepSeek創始人梁文鋒的署名,名稱為「基於條件查找的條件記憶:大型語言模型稀疏性的新維度」。
綜合第一財經、科創板日報等報導,論文出發點來自大模型通常包含兩種性質不同的任務,一種是需要深度動態計算的組合推理,另一種則是檢索靜態知識,而現有架構處理推理和固定知識的方法,效率較低且浪費算力。
DeepSeek團隊提出條件記憶(conditional memory),並透過Engram這一條件記憶模塊實現「記憶分離」的分工優化,例如有記憶模塊專門管固定知識,推理模塊負責思考,再按照最佳比例分配資源,提升算力和效率,讓模型能夠又快又聰明。論文最後稱,條件記憶將成為下一代稀疏模型不可或缺的建模原語。
近期有科技媒體透露,DeepSeek V4旗艦模型有望於今年二月推出。業內人士認為,前述論文提出的內容或許就是V4的技術架構。
📌 數位新聞搶鮮看!
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 vivo X300 Ultra手機開箱!實測增距鏡變身鳥類學家 拍得到101內部海報
📢 iPhone 18 Pro三大升級亮點曝!多項「歷代最佳」成換機大誘因
📢 LINE免費貼圖5款!毛小孩集合 快用「勸敗買買圖」慫恿朋友瞎拼
📢 Sony Xperia 1 VIII開箱!5亮點礦石機身+新望遠鏡頭 實測AI攝影助理聰明
📢 「旅遊eSIM」三大電信都可申請!整理日本漫遊方案差異一次看
📢 便宜資費懶人包/5G 399元比4G便宜 新方案「每月加100」上網升級

討論區