当前位置: 华文世界 > 科技

由4,608个H100驱动!Nvidia首度公开最快AI超级计算机Eos

2024-02-16科技

Nvidia周四(15日)首度公开最新面向企业的超级计算机Eos的架构,Eos是专为数据中心规模的高端AI开发所设计,也是该公司速度最快的AI超级计算机。

Eos拥有4,608个Nvidia p00,是目前世界上性能排名第九的超级计算机。在最新前500超级计算机榜单中,Eos以FP64为衡量标准脱颖而出,在纯AI任务中性能更是居于前列。Eos不仅供Nvidia自身使用,其架构也为其他想打造面向企业的超级计算机的公司提供蓝本。

Nvidia在视频中表示,Eos每日迎接数千名Nvidia内部开发人员的AI挑战,帮助他们解决以前无法解决的问题。

Eos配置576个DGX p00系统,每个系统搭载8个p00 GPU,配合1,152个英特尔Xeon Platinum 8480C处理器(每个CPU有56个内核)和4,608个p00 GPU,使Eos在HPC和AI的性能表现令人印象深刻。此外,Eos采用Nvidia的Mellanox Quantum-2 InfiniBand技术,支持高达400 Gb/s数据传输速度,对训练大型AI模型和系统扩展至关重要。

Nvidia表示,除强大硬件,Eos专为AI开发和部署设计的强大软件,包括协调和集群管理工具、加速运算存储和网络库,以及优化的操作系统。也因此,Eos可应对从类似ChatGPT生成式AI到AI工厂等各种应用。

Nvidia强调,Eos集成Nvidia在AI领域的专业技术和经验,是先前DGX超级计算机知识的结晶,帮助企业处理最具挑战性的项目,并实现AI目标。

尽管Eos具体成本未公开,且Nvidia DGX p00系统定价是保密的,取决于很多因素,但考虑到每个p00成本可能在3万至4万美元之间,因此整个系统成本可能非常高昂。

(首图来源:Nvidia)