耐能推出新款人工智慧晶片KL730 驅動輕量級邊緣運算與GPT級別應用解決方案

聯合新聞網 楊又肇

2015年創立於美國聖地亞哥、聚焦邊緣人工智慧運算解決方案的耐能 (Kneron),8月15日在台宣布推出新款人工智慧晶片KL730,將以此驅動輕量級邊緣運算與GPT級別應用解決方案。

在此之前,耐能曾於2021年推出第一款支援Transformer人工智慧語言框架的邊緣人工智慧晶片KL530,而此次推出的KL730則結合車輛等級NPU與影像處理器,提供可達0.35-4 TOPS的運算效能,並且支援輕量級GPT大型自然語言模型運算,分別可佈署於邊緣伺服器、智慧家居,以及汽車輔助駕駛系統等應用場景。而KL730相比耐能過往推出晶片在運算效能提升3-4倍,同時也比市場同級產品提高1.5-2倍效能表現。

KL730以第三代KDP系列可重構NPU架構打造,本身則採用Arm Cortex-A55 CPU設計,並且能透過內建DSP加速語音處理等工作,本身則以台積電12nm製程生產,可對應Cafee、Tensorflow、Tensorflowlite、Pytorch、Keras、ONNX運算框架,以及包含CNN、Transformer、RNN Hybrid等在內人工智慧運算模型,可應用在智慧安全、自動駕駛、視訊會議、工業相機、商用機器人等運算場景。

KL730可讓佈署應用服務以部分或完全離線形式於終端運行GPT模型,並且搭配耐能的私有安全邊緣人工智慧網路KNEO,讓人工智慧能更安全地在邊緣設備上運作,進而達成隱私安全保護效果。五運作模式適用於企業伺服器解決方案、智慧駕駛車輛,或是以人工智慧驅動的醫療設備,在安全性增加情況下提高裝置之間協作能力。

耐能創辦人兼執行長劉峻誠表示:「運行人工智慧功能需要專用晶片,其體系架構與我們以前瞭解的晶片完全不同。簡單地重新使用相鄰技術 (如圖形處理專用的GPU晶片),無法很好地勝任這項工作,而KL730將是邊緣人工智慧運算的革新者,憑藉其前所未有的效率和對Transformer等人工智慧語言框架的支持,可為各行各業提供強大的人工智慧運算能力,並且在極具安全性和保護資料隱私的情況下充分發揮人工智慧潛力。」

KL730預計在之後開始向設備製造商提供樣品進行測試,並且應用佈署於相關邊緣運算裝置。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

楊又肇

曾任聯合新聞網 (udn.com)數位頻道記者,目前為自由寫手與Mas...

推薦文章

留言