当前位置: 华文世界 > 科技

AI巨头筹划价值1100多亿美元的超级计算机项目

2024-03-30科技

本文由半导体产业纵横(ID:ICVIEWS)综合

美国的超级计算机又有新看点了。

据报道,Microsoft 和 OpenAI 正在开发一个大型数据中心,以容纳一台拥有数百万个GPU 的专注于AI的超级计算机。The Information报道称,该项目的成本可能「超过1150亿美元」,而目前在OpenAI内部被称为「星际之门」(Stargate)的超级计算机将位于美国。

该报告称,Microsoft将为数据中心买单,该数据中心可能比当今一些最大的运营中心「成本高出100倍」。Stargate将是两家公司希望在未来6年内建立的一系列数据中心项目中最大的一个,高管们希望在2028年之前运行它。

报告称,OpenAI和Microsoft正在分阶段构建这些超级计算机,Stargate将是第5阶段的系统。The Information的消息人士称,第4阶段的系统成本更低,最早可能在2026年启动,并且可能希望在威斯康星州的Mt. Pleasant开始。该系统可能需要几个Stargate,还需要足够的电力供应(至少几千兆瓦),以至于Microsoft和OpenAI正在考虑替代能源,例如核能。

消息人士表示,这种规模的数据中心将具有挑战性,部分原因是现有设计需要「将比过去更多的GPU放入单个机架中,以提高芯片的效率和性能,这意味着还要设计新颖的方法来保持良好的散热性能。

听起来这些公司也有可能利用这个设计来摆脱对英伟达的依赖。该报告称,OpenAI希望避免在Stargate中使用英伟达的InfiniBand电缆,尽管Microsoft在当前的项目中使用它们。OpenAI声称它宁愿使用以太网电缆。

很多事情仍有待确定,因此价格和计划似乎都可能发生变化,目前尚不清楚何时会最终确定细节。该信息还指出,尚未确定这台计算机将位于何处,以及它是将构建在单个数据中心还是「邻近的多个数据中心」中。

今年早些时候,有报道称,OpenAI首席执行官山姆·阿尔特曼(Sam Altman)雄心勃勃地制造人工智能芯片,并希望筹集多达7万亿美元来建设晶圆厂来生产它们。去年,Microsoft 发布了专门用于 AI 项目的 128 核 Arm 数据中心 CPU 和 Maia 100 GPU。也有报道称,Microsoft为人工智能数据中心开发自己的网络设备。随着人工智能的兴起,英伟达的GPU需求量很大,因此,像Microsoft和OpenAI这样的公司可能希望有一些其它选择是有道理的。

「我们一直在规划下一代基础设施创新,以继续推动人工智能的发展,」Microsoft首席通信官弗兰克·肖(Frank Shaw)告诉The Information,但他没有直接评论该超级计算机计划。

Microsoft在与OpenAI的合作中投入了数十亿美元,主要是以计算能力的形式运行其模型。如果Stargate或类似的东西成为现实,随着投资的规模越来越大,而且越来越复杂,这种伙伴关系只会越来越深。

美国超算有哪些?

2023年11月,全球超级计算大会正式公布了第62期全球超级计算机TOP500排行榜,美国橡树岭国家实验室的Frontier仍保持着第一名位置,中国的神威·太湖之光和天河二号A也进入了前十五,分别排名第11和第14。

排名第一的Frontier以1.194 EFlop/s的HPL性能继续保持领先地位。其搭载了基于最新的HPE Cray EX235a架构的2GHz AMD EPYC 64C 处理器,共有8699904个CPU和GPU核心。此外,Frontier还具有高达52.59 GFlops/W的额定能效,并可借助于HPE的Slingshot 11网络进行数据传输。

排名第二是美国阿贡国家实验室的Aurora超级计算机,其以585.34 PFlop/s的HPL性能杀入榜单。需要指出的是,此次 Aurora 的数值是在当前未完全建成状态下提交的,目前仅有计划中最终规模的一半。根据规划,Aurora 在建设完成后将配备21248个Intel Xeon Max系列CPU、63744个Intel Max系列GPU、20.42PB内存,峰值性能可达 2 EFlop / s,远超 Frontier。

排名第三的是安装于微软美国Azure云中的Eagle,HPL性能为561.2 PFlop/s,这也是云服务厂商取得的最高排名。其基于英特尔至强铂金8480C处理器和英伟达p00打造。

排名第四的是日本的富岳超级计算机,HPL分数为442.01 PFlop/s,基于富士通自研的基于Arm架构的 48 核处理器A64FX,总共装有大约16万个CPU芯片。

排名第五的是来自芬兰卡亚尼欧洲高性能计算中心的超级计算机LUMI,HPL性能达379.07 PFlop/s,基于HPE Cray EX235a 架构,配备了2GHz AMD EPYC 64C 处理器和AMD Instinct MI250X GPU。

排名第六的是意大利 CINECA 的一个 EuroHPC 站点上的 Leonardo 系统,HPL性能达 238.7 Pflop/s。它是一个 Atos BullSequana Xp000 系统,处理器为Intel Xeon Platinum 8358 32C 2.6GHz,加速器为 NVIDIA A100 SXM4 40 GB,采用四轨 NVIDIA HDR100 Infiniband 作为互连。

排名全球第七是美国田纳西州橡树岭国家实验室(ORNL)的Summit超级计算机,由 IBM 打造,目前在 HPL 性能为 148.8 Pflop/s,拥有 4,356 个节点,每个节点配备两个 POWER9 CPU(每个具有 22 个核心)和6个 NVIDIA Tesla V100 GPU(每个含有 80 个 SM),通过 Mellanox 双轨 EDR InfiniBand 网络保持连接。

第八名是西班牙 EuroHPC / 巴塞罗那超级计算中心最新安装的 MareNostrum 5 ACC 超算系统,这个 使用 Xeon Platinum 8460Y 处理器以及 NVIDIA p00 和 Infiniband NDR200,实现了 183.2 Pflop/s 的 HPL 性能。

排名第九的新 Eos 系统是英伟达打造的基于DGX SuperPOD 的系统,配备Intel Xeon Platinum 8480C 处理器、NVIDIA p00 加速器和 Infiniband NDR400 的 NVIDIA DGX p00,实现了 121.4 Pflop/s 的性能。

排名第十的是美国加利福尼亚州劳伦斯利弗莫尔国家实验室的 Sierra 系统。它的架构与排名第七的系统 Summit 非常相似,由 4,320 个节点组成,每个节点配备两个 POWER9 CPU 和四个 NVIDIA Tesla V100 GPU,可实现 94.6 Pflop/s 的性能。

此外,GREEN500 排名第一的位置仍然是美国纽约熨斗研究所的 Henri。该系统的能效等级为 65.40 GFlops / Watt,同时 HPL 得分为 2.88 PFlops / s。Henri 是一台联想 ThinkSystem SR670,配备 Intel Xeon Platinum 和 NVIDIA p00,共有 8,288 个核心,在 TOP500 排行榜上排名第 293 位。

*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。