AI 應用 ASUS 推出首款 UGen 300 USB AI 加速器

soothepain

full loading
已加入
9/17/03
訊息
23,060
互動分數
2,004
點數
113
網站
www.coolaler.com
ASUS 今發表旗下首款 AI USB 裝置—「UGen 300」,其105 x 50 x 18 mm的輕薄機身除內建 Hailo-10H AI 處理器,具備專為LLM、VLM 等大型語言模型而生的40 TOPS強勁算力,亦配備8GB LPDDR4專用記憶體,並可透過USB-C介面連接其他裝置,在一般工作負載下功耗僅2.5 W;同時,還支援Windows[1]、Linux和Android[2]多平台,以及TensorFlow、PyTorch與ONNX等AI架構,再加上熱插拔直覺設計,無論走到哪都能隨心所欲執行相關應用。

ASUS_UGen300_USB_3.jpg


Hailo營運長Max Glover表示,「華碩將Hailo-10H整合至隨處可見的USB中,意味著有更多人能體驗AI或生成式AI的完整效能;而這也正是Hailo對AI未來的願景:親民易用、經濟實惠,人人都能享受其帶來的創新與便利。」

ASUS_UGen300_USB_2.jpg


免月費 ‧ 零延遲 ‧ 低資安風險

全新UGen 300 USB AI加速器,可補強主機CPU / NPU,釋放系統資源,在裝置端實現生成式AI推論,例如:文字產生、視訊摘要、事件觸發、語音轉行動和即時感知;且無需依賴雲端運算、每月支付訂閱費,就能擁有零延遲的極致效能,以及無與倫比的可靠性和隱私保護,使用安心有保障。

穩如泰山的專用記憶體

不同於共用系統的典型NPU,UGen 300 USB AI加速器內建8GB LPDDR4專用記憶體,即使執行AI運算和大型語言模型等繁重負載,也能確保系統效維持最佳平衡,對於追求穩定處理量的開發者和專業人士而言,絕對是能讓工作事半功倍的得力夥伴!

隨身攜帶 無痛升級!

UGen 300 USB AI加速器採用USB 3.1 Gen 2 Type-C介面,設定簡單、安裝快速,並兼具極其出色的可擴充性和強大的可攜式算力,可滿足教育工作者、嵌入式解決方案供應商各式需求;而即將推出的UGen Utility,還預計提供超過100種預訓練模型,協助使用者以更短時間完成驗證,提升研發產出;或者也可自行前往Hailo開發者社群取得教學課程、參考設計等實用資訊,加入邊緣AI應用部署。建議售價:NT$ 6,380。



[1] 驅動程式預計於本月中旬提供。
[2] 目前僅限B2B客戶。