當前位置: 華文世界 > 科技

由4,608個H100驅動!Nvidia首度公開最快AI超級電腦Eos

2024-02-16科技

Nvidia周四(15日)首度公開最新面向企業的超級電腦Eos的架構,Eos是專為數據中心規模的高端AI開發所設計,也是該公司速度最快的AI超級電腦。

Eos擁有4,608個Nvidia p00,是目前世界上效能排名第九的超級電腦。在最新前500超級電腦榜單中,Eos以FP64為衡量標準脫穎而出,在純AI任務中效能更是居於前列。Eos不僅供Nvidia自身使用,其架構也為其他想打造面向企業的超級電腦的公司提供藍本。

Nvidia在視訊中表示,Eos每日迎接數千名Nvidia內部開發人員的AI挑戰,幫助他們解決以前無法解決的問題。

Eos配置576個DGX p00系統,每個系統搭載8個p00 GPU,配合1,152個英特爾Xeon Platinum 8480C處理器(每個CPU有56個內核)和4,608個p00 GPU,使Eos在HPC和AI的效能表現令人印象深刻。此外,Eos采用Nvidia的Mellanox Quantum-2 InfiniBand技術,支持高達400 Gb/s數據傳輸速度,對訓練大型AI模型和系統擴充套件至關重要。

Nvidia表示,除強大硬體,Eos專為AI開發和部署設計的強大軟體,包括協調和集群管理工具、加速運算儲存和網路庫,以及最佳化的作業系統。也因此,Eos可應對從類似ChatGPT生成式AI到AI工廠等各種套用。

Nvidia強調,Eos整合Nvidia在AI領域的專業技術和經驗,是先前DGX超級電腦知識的結晶,幫助企業處理最具挑戰性的計畫,並實作AI目標。

盡管Eos具體成本未公開,且Nvidia DGX p00系統定價是保密的,取決於很多因素,但考慮到每個p00成本可能在3萬至4萬美元之間,因此整個系統成本可能非常高昂。

(首圖來源:Nvidia)