AI 應用 NVIDIA Jetson Thor 開啟通用機器人與物理 AI 的即時推理能力

soothepain

full loading
已加入
9/17/03
訊息
22,045
互動分數
1,975
點數
113
網站
www.coolaler.com
這款由 NVIDIA Blackwell 驅動的機器人電腦專為數百萬機器人開發者設計,可提供高達 2,070 FP4 TFLOPS 的效能,以處理各種複雜的應用,包括代理型 AI、高速感測器處理,以及通用機器人任務

NVIDIA Jetson Thor 模組是全新的機器人電腦,可作為研究型與工業機器人系統的智慧核心,隨著物理 AI 開發者運用這款模組的能力,全球各地的機器人將變得更加聰明。

nvidia_jetson_thor_13.jpg


機器人需要豐富的感測器資料與低延遲人工智慧(AI)處理能力。執行即時機器人應用時,也需要大量 AI 運算能力與記憶體,才能處理來自多部感測器的並行資料流。Jetson Thor 目前已全面上市,相較於其前代產品 NVIDIA Jetson Orin,AI 運算能力提升 7.5 倍、CPU 效能提升 3.1 倍、記憶體增加 2 倍,讓這項目標得以在裝置上實現。

這項效能上的躍進,讓機器人專家能夠在邊緣環境處理高速感測器資料及執行視覺推理,而過去這類工作流程因為速度過慢,所以無法在動態的現實世界環境實現。這項突破為人形機器人等多模態 AI 應用創造了新的可能性。

人形機器人領域的領導者 Agility Robotics 已將 NVIDIA Jetson 整合至其第五代機器人 Digit,並計劃採用 Jetson Thor 作為第六代 Digit 的機載運算平台。此次升級將強化 Digit 的即時感知與決策能力,並支援日益複雜的 AI 技能與行為。Digit 已投入商用,並在倉庫與製造環境中執行堆放、裝載與貨板裝運等物流任務。

Agility Robotics 執行長 Peggy Johnson 表示:「Jetson Thor 提供強大的邊緣處理能力,將使 Digit 更上一層樓,不僅即時應變能力更強,更將其能力擴展至更廣泛、複雜的技能。Jetson Thor 讓我們得以實現最新的物理 AI 技術進展,幫助客戶將倉庫和工廠營運最佳化。」

Boston Dynamics 30 多年來一直致力於打造業界數一數二先進的機器人,如今正在將 Jetson Thor 與其人形機器人 Atlas 整合,使 Atlas 能夠在裝置上利用過去只有伺服器等級才有的運算能力、AI 工作負載加速技術和高頻寬資料處理能力,以及大量記憶體。

除了人形機器人,Jetson Thor 還可加速各種機器人應用,如手術助理、智慧牽引機、送貨機器人、工業機械手臂與視覺 AI 代理,為更大且更複雜的 AI 模型實現即時的裝置端推論。


即時機器人推理的重大躍進

Jetson Thor 是專為生成式推理模型而設計,由大型 Transformer 模型視覺語言模型和視覺語言動作模型驅動,使新一代物理 AI 代理可以在邊緣即時執行,同時儘量減少對雲端的依賴。

Jetson Thor 經過 Jetson 軟體堆疊最佳化,以滿足實際應用所需要的低延遲與高效能,並透過無與倫比的即時效能支援所有熱門的生成式 AI 框架和 AI 推理模型,包括 Cosmos Reason、DeepSeek、Llama、Gemini 與 Qwen,以及 Isaac GR00T N1.5 等機器人領域專用模型,讓任何開發者都能在本機輕鬆進行實驗及推理。

NVIDIA Jetson Thor 為多感測器輸入的即時推理開啟新功能,FP4 與推測式解碼最佳化,可望進一步提升效能
nvidia_jetson_thor_11.jpg


Jetson Thor 在其整個生命周期都享有 NVIDIA CUDA 生態系支援,未來軟體版本推出後,可望提供更高的輸送量與更快的回應速度。

此外,Jetson Thor 模組執行完整的 NVIDIA AI 軟體堆疊,幾乎可利用各種平台加速所有物理 AI 工作流程,這類平台包括用於機器人技術的 NVIDIA Isaac、用於影片分析 AI 代理的 NVIDIA Metropolis,以及用於感測器處理的 NVIDIA Holoscan

利用這些軟體工具,開發者可以輕鬆打造及部署各種應用,例如可分析即時攝影機串流,監測工作人員安全的視覺 AI 代理、可在非結構化環境執行操控工作的人形機器人,以及根據多攝影機串流資料引導外科醫生的智慧型手術室。


Jetson Thor 目標為推動研究創新


史丹佛大學、卡內基梅隆大學與蘇黎世大學的研究實驗室,正運用 Jetson Thor 突破感知、規劃與導航模型的極限,以實現一系列的的潛在應用。

卡內基梅隆大學機器人研究所的研究團隊,運用 NVIDIA Jetson 驅動自主機器人,讓機器人可穿梭於非結構化的複雜環境,執行醫療檢傷分類以及搜救工作。

卡內基梅隆大學助理研究教授暨 AirLab 負責人 Sebastian Scherer 表示:「我們的能力取決於現有的運算資源。多年前,電腦視覺與機器人技術之間存在嚴重落差,因為電腦視覺工作負載的速度太慢,無法進行即時決策,如今,模型與運算速度已經足夠快,所以機器人能負責更細膩的任務。」

Scherer 預期,透過將團隊現有的 NVIDIA Jetson AGX Orin 系統升級為 Jetson AGX Thor 開發套件,就能提高 AI 模型效能,包括在邊緣環境處理機器人感知的獲獎模型 MAC-VO,不僅能大幅提升感測器融合能力,還可實驗機器人機隊。


發揮 Jetson Thor 的強項

Jetson Thor 系列包含開發者套件與生產模組。開發者套件包含 Jetson T5000 模組、具備豐富連接方式的參考載板、配備風扇的主動式散熱器,以及電源供應器。

nvidia_jetson_thor_12.jpg


Jetson 生態系支援各種應用需求、高速工業自動化通訊協定及感測器介面,可加速企業開發者的上市時間。包含安提國際ConnectTech米文動力天准在內的硬體合作夥伴,正在打造可投入生產的 Jetson Thor 系統,並具備各種規格、彈性 I/O 與客製化配置。

包括 Analog Devices, Inc.(ADI)e-con Systems英飛凌Leopard ImagingRealSenseSensing 等感測器與致動器公司,正利用 NVIDIA Holoscan Sensor Bridge 平台簡化感測器融合與資料串流,以超低延遲將來自攝影機、雷達與光學雷達等設備的感測器資料,直接連接至 Jetson Thor 上的 GPU 記憶體。

數以千計的軟體公司現在可利用在 Jetson Thor 上執行的多重 AI 代理工作流程,提升傳統的視覺 AI 和機器人技術應用。各大採用者包括 OpenzekaRobotnix所羅門Vaidio

超過 200 萬名開發者採用 NVIDIA 技術加速機器人工作流程。讀 NVIDIA 技術部落格,並觀看開發者套件導覽,開始使用 Jetson Thor。

若想親手體驗 Jetson Thor,請報名參加 Seeed Studio 和 Hugging Face 開源機器人平台 LeRobot 即將舉辦的黑客松活動。

NVIDIA Jetson AGX Thor 開發者套件現已上市,售價 3,499 美元起。NVIDIA Jetson T5000 生產模組 1,000 套起價為 2,999 美元。立即向 NVIDIA 授權合作夥伴選購

NVIDIA 今日亦宣布 NVIDIA DRIVE AGX Thor 開發套件已開始接受預購,該套件為自動駕駛汽車與移動解決方案的開發提供平台,預計 9 月開始出貨。