活動/展場 NVIDIA CEO 黃仁勳 Computex 主題演講, 各行各業的生成式人工智慧平台

soothepain

full loading
已加入
9/17/03
訊息
20,602
互動分數
1,914
點數
113
網站
www.coolaler.com
在 COMPUTEX 的主題演講中公布了多項新系統、軟體及服務,其中許多均搭配 Grace Hopper 超級晶片,以駕馭我們這個時代帶來最大改變的技術

NVIDIA創辦人暨執行長黃仁勳在他於新冠疫情後的首場直播主題演講為為台北國際記者會開場,並宣布企業可以利用這些平台來駕馭生成式人工智慧在當代歷史上所掀起的巨大浪潮,這股浪潮改變了從廣告、製造到電信等各行各業。

nvidia_computex_4.jpg


在多年來線上主題演講(其中一些還是在他的家中的廚房進行)之後,黃仁勳上台時大聲宣布:「我們回來了,我已經將近四年沒有公開演講了,祝我好運!」

面對座無虛席的會場,他以將近兩個小時的時間向約3500名觀眾描述加速運算服務、軟體和系統如何夠創造新的商業模式,並使現有模式更加高效。

黃仁勳過去一周在家鄉每天都受到當地媒體追蹤,他表示:「加速運算和人工智慧重塑了運算的重新創造。」

為展示其強大的能力,他利用背後的巨大8K螢幕,展示了一個由文字提示生成出一首能像卡拉OK一樣唱出來的歌曲。黃仁勳偶爾與觀眾以他的母語台語談笑,並帶著觀眾一起唱這首新主題曲。

黃仁勳表示:「我們現在正處於一個全新運算時代的轉捩點,加速運算和人工智慧已經被世界上幾乎所有的運算和雲端公司所接受。」他也分享如今已有40,000家大型公司和15,000家新創公司正使用NVIDIA技術,光去年CUDA軟體下載量更達2500萬次。

他描述加速運算服務、軟體與系統促進誕生出新的商業模式,且讓現有模式更具效率。

黃仁勳在滿載最新消息的台北國際電腦展COMPUTEX主題演講中,透露生成式人工智慧使得工業數位化更上一層樓。


主題演講中的重點消息
  • Grace Hopper助力配載大型記憶體的超級電腦,以處理生成式人工智慧作業
  • 模組化參考架構誕生出百餘款加速運算伺服器配置
  • WPP 與NVIDIA合力在Omniverse平台中開發數位廣告內容引擎
  • SoftBank和NVIDIA一同在日本建設5G與生成式AI資料中心
  • 網路技術加速運作乙太網路架構人工智慧雲端環境
  • NVIDIA ACE for Games使用生成式人工智慧為人物角色賦予生命
  • 全球電子製造商採用NVIDIA人工智慧技術

用於 Enterprise AI 的全新引擎


黃仁勳宣布推出具有龐大記憶體的人工智慧超級電腦 DGX GH200,供需要極致人工智慧效能表現的企業使用。DGX GH200 使用 NVIDIA NVLink網路技術,將256個 NVIDIA Grace Hopper 超級晶片連接成一個資料中心大小的 GPU。

黃仁勳也宣布GH200超級晶片現已全面投產。它將具有絕佳能效的 NVIDIA Grace CPU與高效能NVIDIA H100 Tensor核心GPU集合在一個模組內。

DGX GH200的運算效能達到 1 exaflop,擁有 144 TB 的共享記憶體,表現比一具 NVIDIA DGX A100 320GB 系統高出近500倍。這使得開發人員可以用它來開發用於生成式人工智慧聊天機器人的大型語言模型、用於推薦系統的複雜演算法,以及用於偵測詐欺及資料分析的繪圖神經網路。

Google Cloud、Meta與微軟率先使用DGX GH200來探索處理生成式人工智慧工作負載的能力。

nvidia_computex_2.jpg

NVIDIA DGX GH200人工智慧超級電腦以 1 exaflop的運算效能來處理生成式人工智慧的工作量


黃仁勳向台北的聽眾表示:「DGX GH200人工智慧超級電腦整合了 NVIDIA 最先進的加速運算及網路技術,來突破人工智慧發展界線。」很多聽眾在主題演講開始前已經在場外排隊多時。

NVIDIA 同樣在打造自家的大型人工智慧超級電腦NVIDIA Helios,預計將於今年上線。它將使用 NVIDIA Quantum-2 InfiniBand 網路技術來連結四套 DGX GH200 系統,提供最高每秒 400GB 的頻寬,以強化訓練大型人工智慧模型所需的資料處理能力。

DGX GH200構成了在本次主題演講中公布數百款使用NVIDIA 最新GPU和CPU之系統的巔峰之作。它們共同將生成式人工智慧與加速運算技術交到數百萬名用戶的手上。

從更大的格局來看,黃仁勳宣布有超過四百款搭載 NVIDIA Hopper、Grace及Ada Lovelace架構的系統配置即將上市。這些電腦將用於處理人工智慧、資料科學與高效能運算方面的複雜難題。


無論規模大小均加速前行

黃仁勳宣布推出用於打造加速伺服器的模組化參考架構NVIDIA MGX,以滿足各種規模大小之資料中心的需求。系統製造商將使用NVIDIA MGX 架構,快速以符合成本效益的方式開發百種以上的伺服器配置,以配合多種人工智慧、高效能運算及NVIDIA Omniverse應用程式的需求。

MGX讓製造商使用通用架構及模組化的零組件來建構CPU架構和加速運算伺服器。它在各式氣冷式及液冷式機箱中,支援NVIDIA的全線 GPU、CPU、資料處理單元(DPU)及網路卡,以及x86和Arm架構處理器。

雲達科技與美超微將率先在八月推出採用MGX設計的機型。美超微在COMPUTEX宣布推出的ARS-221GL-NR 系統將採用Grace CPU,而雲達科技同樣在COMPUTEX宣布推出的S74G-2U系統則是將使用 Grace Hopper 超級晶片。

永擎電子、華碩、技嘉與和碩聯合科技也將使用 MGX 來打造下一代加速運算電腦。


5G/6G呼喚Grace Hopper

黃仁勳在主題演講中也介紹了NVIDIA如何運用Grace Hopper來重塑 5G和6G 網路以及視訊溝通。現場演示於Grace Hopper上運行的人工智慧將讓現今的2D視訊通話更像擬真的3D體驗,增加臨場感。

黃仁勳宣布NVIDIA將與大型電信商SoftBank合力在日本建造分散式資料中心網路,做為推出前述體驗的基礎。此舉將在通用雲端平台上提供 5G 服務及生成式人工智慧應用程式。

這些資料中心將在模組化MGX系統中使用 NVIDIA GH超級晶片與NVIDIA BlueField-3 DPU,再加上 NVIDIA Spectrum 乙太網路交換器,提供 5G 協議要求的高精度計時。這個平台能夠提高頻譜效率及降低能源消耗量,以達到節約成本的目標。

這些系統將有助於SoftBank探索在自動駕駛、人工智慧工廠、擴增及虛擬實境、電腦視覺與數位孿生方面的應用。日後甚至還能用於 3D 視訊會議及全息影像通訊上。


加速推動雲端環境

黃仁勳另外又宣布推出專為提高乙太網路架構人工智慧雲端環境的效能及效率所設計的網路平台NVIDIA Spectrum-X。它集合 Spectrum-4 乙太網路交換器、BlueField-3 DPU 與軟體於一身,將人工智慧運算效能及電源使用效率提高1.7倍。

包括Dell Technologies、聯想及美超微在內的系統建造商現已有在產品中採用 NVIDIA Spectrum-X、Spectrum-4 交換器及 BlueField-3 DPU。

nvidia_computex_3.jpg

NVIDIA Spectrum-X加速在傳統乙太網路會遇到性能損失的人工智慧工作流程


創作出活靈活現的遊戲人物角色

生成式人工智慧也對人們如何玩遊戲這件事造成影響。

黃仁勳宣布推出 NVIDIA Avatar Cloud Engine(ACE)for Games,開發人員可以利用這項代工服務來建造及部署語音、對話和動畫人工智慧模型。它將讓非玩家角色擁有對話技能,以便能夠用真人一般的個性來回答問題,並且還會隨劇情不斷發展。

NVIDIA ACE for Games 包括用於偵測及將玩家口說內容轉成文字的 NVIDIA Riva 等人工智慧基礎模型。文字提示 NVIDIA NeMo 產生客製化回應內容,並且由 NVIDIA Omniverse Audio2Face 製作成動畫。

nvidia_computex_1.jpg

NVIDIA ACE for Games 提供工具鏈,透過生成式人工智慧創作出活靈活現的人物角色


在 Windows 上加速推動生成式人工智慧的發展

黃仁勳表示 NVIDIA 與微軟合作推動 Windows PC 在生成式人工智慧時代的創新。

全新及更強大的工具、框架和驅動程式,讓 PC 開發商更輕鬆發展及部署人工智慧。像是用於最佳化和部署 GPU 加速人工智慧模型,加上全新顯示卡驅動程式的 Microsoft Olive 工具鏈,將透過 NVIDIA GPU 提高 DirectML 在 Windows PC 上的執行表現。

這項合作將強化與擴大一億台安裝有 RTX GPU 的電腦,這些電腦上的 Tensor 核心能夠提高400多款人工智慧加速的 Windows 應用程式及遊戲的執行效能。


全球規模最大的產業進行數位化

生成式人工智慧也將為市值七千億美元的數位廣告業開創出新的商機。

舉例來說,全球最大的行銷服務公司WPP與NVIDIA合作,在Omniverse Cloud平台上建造首個生成式人工智慧內容引擎。

黃仁勳透過展示內容,說明創意團隊如何在NVIDIA Omniverse內連結Adobe Substance 3D 這類 3D 設計工具,替客戶的產品建立數位孿生模型。接著使用以負責任來源資料訓練出的生成式人工智慧工具,並且透過 NVIDIA Picasso 所建立出的內容,將讓創意團隊快速產生出虛擬場景。WPP 的客戶再來可以利用完整場景為全球市場和用戶產生大量廣告、影片和 3D 體驗內容,以便在任何網路裝置上體驗。

黃仁勳表示:「運算模式已經改變,今天的廣告是檢索來的,但未來當你接觸資訊時,其中很多將是生成的。」


工廠打造人工智慧的未來


市值46兆的製造業預估擁有千萬座工廠,正是進行工業數位化的絕佳領域。

黃仁勳表示:「世界上規模最龐大的產業生產實體的東西。先用數位化技術來建造它們,可以省下不少寶貴時間與金錢。」

黃仁勳在主題演講中介紹富士康工業互聯網、宜鼎國際、和碩聯合科技、廣達及緯創資通這些電子製造商使用 NVIDIA 的技術來發展數位化工作流程,以落實打造全數位化智慧工廠的願景。

他們使用Omniverse及生成式人工智慧 API 來連結設計及製造工具,這樣就能建造工廠的數位孿生模型。他們還使用NVIDIA Isaac Sim來模擬及測試機器人,以及使用視覺人工智慧框架NVIDIA Metropolis來進行自動光學檢測作業。

NVIDIA Metropolis for Factories這個最新元件可以用於建立客製化的品管系統,讓製造商享有競爭優勢。它將協助企業開發最先進的人工智慧應用程式。


人工智慧加快裝配線的動作

例如在全球各地工廠生產筆記型電腦及智慧型手機等三百項產品的和碩聯合科技,即使用 Omniverse、Isaac Sim 和 Metropolis 來建立虛擬工廠。此舉讓和碩聯合科技可以先在模擬環境裡試行製程,協助他們省下不少時間與成本。

和碩聯合科技也使用NVIDIA DeepStream軟體開發套件來發展智慧影像應用程式,將處理量提升十倍之多。

全球最大科技產品製造商旗下的服務部門富士康工業互聯網,與NVIDIA Metropolis合作夥伴攜手將其電路板品管檢查點的重要環節進行自動化。

nvidia_computex_5.jpg

聽眾在開場前數小時排隊入場


黃仁勳在影片中介紹廣達的子公司達明機器人利用NVIDIA Isaac Sim,將台灣電子代工大廠廣達的生產線檢查作業調整至最佳狀態。該公司本質上是使用模擬機器人來訓練機器人如何製造出更好的機器人。

除此之外,黃仁勳宣布協助打造下一代自主移動機器人(Autonomous Mobile Robot,AMR)的全新平台。Isaac AMR 平台用於模擬、部署與管理自主移動機器人。

黃仁勳表示包括凌華科技、安提國際、勤業眾信、Quantiphi 與西門子在內龐大的合作夥伴生態系統,協助將這些製造解決方案推向市場。

從這個例子又能看出 NVIDIA 如何利用加速運算技術,協助企業感受到生成式人工智慧的優點。

兩個小時的演講結束後,現場響起熱烈的掌聲,黃仁勳說:「我已經很久沒見到大家了,所以有很多想分享的事情。」

如需更深入瞭解,歡迎觀看完整的主題演講:NVIDIA at COMPUTEX Taipei 2023
 
▌延伸閱讀