AI 應用 Dell PowerEdge XE9680 透過 Intel Gaudi3 加速擴展其功能

soothepain

full loading
已加入
9/17/03
訊息
20,722
互動分數
1,915
點數
113
網站
www.coolaler.com
Dell PowerEdge XE9680伺服器發展成AI加速與生成式AI、機器學習、深度學習訓練和HPC建模方面的關鍵角色。為因應複雜、資料密集型工作負載的需求,Dell在伺服器系列中加入Intel ® Gaudi® 3 AI加速器。此演進滿足更多樣化的工作負載範圍,為開發人員和專業企業人士提供突破生成式AI加速極限的選項。

dell_xe9680.jpg


利用多樣化矽晶技術客製化解決方案


Dell PowerEdge XE9680的與眾不同之處在於它是Dell開創性的平台,整合八路GPU加速與x86伺服器架構,在以AI為中心之操作中提供無與倫比的效能。將Intel Gaudi3加速器納入此生態系統中能進一步增強其功能,讓客戶可以選擇依特定運算需求量身打造的系統,尤其有關生成式AI工作負載方面的需求。此項策略性的強化展現戴爾的承諾,提供堅持完美、多用途且功能強大的AI加速解決方案。


具競爭優勢的技術規格

XE9680不只提升可靠性與可擴充性,其架構還能在35°C環境中良好運作。Intel Gaudi3加速器將使伺服器配置的可能性更多樣化,包括多達32個DDR5記憶體DIMM插槽以增加資料傳輸量、16個EDSFF3儲存驅動器,適用於卓越的資料儲存解決方案,及8個PCIe Gen 5.0插槽,以擴展連接性與頻寬。XE9680配備多達56個核心的第四代Intel® Xeon®可擴充雙處理器,專為運行要求嚴格的AI和ML工作負載而設計,於資料處理與分析方面提供競爭優勢。


AI洞察力的策略進步

整合加速器的PowerEdge XE9680,已超越傳統的硬體功能,成為企業的關鍵資產,善用AI取得深入的資料洞察力。結合先進處理能力與具效率的冷風設計,為AI加速樹立新基準,並提供快速、可執行的洞察力以推動業務成果。


技術開放促進創新


Intel Gaudi3 AI加速器為生成式AI工作負載帶來至關重要的效能及特性,包括64個客製化可編程的張量處理器核心(TPC)和128 GB的HBMe2記憶體容量,提供3.7 TB的記憶體頻寬及96 MB的靜態隨機存取記憶體(SRAM)。Gaudi3的開放生態系統透過合作夥伴關係進行優化,並由強大的模型庫框架提供支援。其開發工具簡化現有程式碼庫的轉換,僅需幾行程式碼即可完成。


獨特的網路與視訊解碼功能

搭載Gaudi3加速器的PowerEdge XE9680,引入了透過六個OSFP 800GbE連接埠,直接整合至加速器中的全新網路功能。這些連接可以直接連至外部加速器結構,無需在系統中置入外部NIC。不僅簡化基礎架構,且能達成降低基礎架構之總擁有成本與複雜度的目標。此外,Intel Gaudi3專用媒體解碼器專為AI視覺應用設計,可以處理大量預處理工作,簡化從影片到文字的轉換,以及強化企業AI應用的效能。


AI發展的前瞻步驟

搭載Intel Gaudi3 AI加速器的Dell PowerEdge XE9680為AI運算領域的分水嶺,提供符合目前AI工作負載需求,以及預見產業未來需求的前瞻性解決方案。此次合作將為技術領導者帶來先進的創新工具、突破AI發展的界限,並為卓越運算與效率樹立新標準。

Forrester Wave指南近期將Dell列為AI領域的領導者,Dell為IT與資料科學家提供全方位的解決方案,透過AI應用提高生產力,進而推動端到端生成式AI成果。
 
▌延伸閱讀