AI重點
文章重點整理：
- 重點一：華碩推出UGen 300 USB AI加速器，具備強勁算力和便攜性。
- 重點二：內建Hailo-10H處理器，支援多平台和多種AI架構。
- 重點三：預計推出UGen Utility工具，提供超過100種預訓練模型。
AI也能塞進USB 隨身碟裝置中！華碩 （ASUS ）推出首款AI USB裝置的「UGen 300 」AI加速器 ，機身大小僅有105 x 50 x 18mm，卻塞進Hailo-10H AI處理器，具備專為LLM、VLM 等大型語言模型而生的40 TOPS強勁算力，也配備8GB LPDDR4專用記憶體，並可透過USB-C介面連接其他裝置、支援Windows 、Linux、Android 多平台，可隨心所欲執行相關應用，定價6380元。
華碩推出全新UGen 300 USB AI加速器，內建Hailo-10H AI處理器，可補強主機CPU／NPU，釋放系統資源，在裝置端實現生成式AI推論，像是生成文字、視訊摘要、事件觸發、語音轉行動和即時感知，不需要透過雲端運算、每月支付訂閱費，就能擁有零延遲的效能。
不同於共用系統的典型NPU，UGen 300 USB AI加速器採用USB 3.1 Gen 2 Type-C介面，設定及安裝上簡單快速；內建8GB LPDDR4專用記憶體，即使執行AI運算和大型語言模型，也能確保系統效維持最佳平衡。
UGen 300 USB AI加速器在一般工作負載下功耗僅2.5W，並支援Windows、Linux和Android多平台，以及TensorFlow、PyTorch與ONNX等AI架構。加上可擴充性及隨身帶著走的特性，滿足教育工作者、嵌入式解決方案供應商的各式需求。
華碩表示，未來將推出專為UGen 300 USB AI加速器開發的輕量化工具軟體UGen Utility，預計提供超過100種預訓練模型，協助用戶以更短時間完成驗證，提升產出；或者也可自行前往Hailo開發者社群取得教學課程、參考設計等實用資訊，加入邊緣AI應用部署。UGen 300 USB AI加速器定價6380元。
精華 FAQ
-
UGen 300 USB AI加速器體積小巧，內建Hailo-10H處理器，具備40 TOPS算力，支持Windows、Linux和Android等多平台，能快速執行AI運算。
-
UGen 300可在裝置端執行生成式AI推論，適合生成文字、視訊摘要等應用，特別適合教育工作者和嵌入式解決方案供應商使用。
-
華碩計畫推出UGen Utility工具軟體，提供超過100種預訓練模型，幫助用戶更快速完成驗證，並支援邊緣AI應用的部署。
討論區