当前位置: 华文世界 > 科技

全球最大神经拟态系统诞生,比人脑快200倍!

2024-05-11科技

全球最大神经拟态系统诞生,比人脑快200倍!

美国英特尔公司(Intel)日前宣布,该公司已开发出世界上最大的模拟神经模拟系统,其中包含 15 亿个神经元、1280 亿个突触,速度比人脑快 200 倍。

名为 "Hala Point "的英特尔 Loihi2 处理器旨在支持解决人工智能领域的当前问题,以实现高效和可持续发展。

据说,Hala Point 是英特尔首个大规模研究系统,经过结构优化,神经元容量提高了十倍以上,性能提高了十二倍。

英特尔研究院神经模拟计算机实验室负责人迈克?戴维斯是英特尔研究院神经模拟计算机实验室的负责人,他说:"如今,人工智能模式的计算成本已经高得令人望而却步。该行业需要一种全新的拓展方式。为此,该项目提出了一种新的基于深度学习的类脑学习和优化机制。通过与 Hala Point 的合作,我们有望大规模提高人工智能的处理效率和适应性。

HalaPoint:集成了 1152 个 Loihi2 和 2300 多个嵌入式 X86 处理器。

基于 Loihi2 的仿神经处理器是 Hala Point 的核心,其核心理念基于异步、事件驱动、脉冲神经网络(SNN)、内存与计算的集成以及稀疏/连续可变的连接,从而在功耗和性能方面实现了数量级的改进。神经元之间不使用内存,而是相互通信,从而降低了总体功耗。

△Loihi2芯片

Loihi2 采用英特尔 4 纳米工艺开发,内核面积为 31 平方毫米,内置 128 个非易失性内核(192 KB 缓存)、6 个英特尔 X86 内核,由于芯片工艺的改进,Loihi2 的神经元数量达到 100 万个,是前代产品的 7.8 倍,但同时也减少到了 1.2 亿个。Loihi2 能够根据神经元模型的要求,集成多达 4096 种不同状态。在这一点上,Loihi 的计算速度是第一代的 10 倍。

HalaPoint 使用 1,152 个 Loihi2 处理器,这些处理器由英特尔公司采用 4 进程制造方法制造,安装在一个微波炉大小的 6 机架数据中心机箱中。该系统由 140,544 个模拟内核组成,最大功率为 2,600 W。此外,该系统还有 2,300 多个嵌入式 X86 处理器来支持计算。

Hala Point 是一种大规模并行架构,结合了三个处理、内存和通信通道,内存带宽高达 16 PB/s,内核间带宽高达 3.5 PB/s,片上通信带宽高达 5 TB/s。该系统能够在一秒钟内执行超过 380 兆位的八位神经突触和超过 240 兆位的神经算术运算。

将该方法应用于生物神经脉冲网络,HalaPoint 系统可对 11 亿个神经元执行操作,速度比人脑快 20 倍,在处理少量数据时可快达 200 倍。虽然 HalaPoint 并未用于神经科学建模,但它的神经元数量与猫头鹰和卷尾猴差不多。

在之前的研究中,Hala Point 公司的研究结果表明,深度神经网络无需收集大量数据即可实现 15 TOPS/W 的性能,大大缩短了摄像头拍摄视频的处理时间。尽管仍处于研究阶段,但具有持续学习能力的 LLM 模型未来将减少对大量数据进行定期再训练的需求,从而节省 10 亿千瓦时的能源。

据英特尔公司称,Hala Point 是首个用于主流人工智能任务的大规模神经网络仿真系统。实验结果表明,该算法能够在15亿8比特/秒(TOPS/W)的条件下实现20 petaops/s/s的速度。Hala Point 拥有全新的专有人工智能应用,可用于解决科学和工程问题、物流、智能城市基础设施管理、大规模语言建模和人工智能。

哈拉点的作用和重要性

桑迪亚国家实验室的研究人员打算将 "Cape Harlequin "应用于高级脑计算研究。该小组将重点研究设备物理学、计算机体系结构、计算机科学和信息科学。

桑迪亚国家实验室哈拉点研究小组的 Craig Vineyard 说:"与哈拉点的合作使我们的研究小组在计算和科学模型处理方面取得了长足的进步。桑迪亚国家实验室哈拉点研究小组的 Craig Vineyard 说:"有了这种规模的系统,我们就能跟上从商业到国防到基础学科的所有领域。

Hala Point 现在是一个研究原型,可以提高未来业务系统的性能。英特尔预计,它所学到的知识将带来切实的进步,例如 LLM 能够不断从新数据中汲取知识。这种进步有望大大减轻大规模人工智能部署所带来的难以忍受的培训负担。

近年来,深度学习模型的数量已增长到几万亿个,这一趋势凸显了人工智能在可持续性方面面临的重大挑战。神经模拟是一种技术,它利用神经科学的洞察力,将记忆和运算与高精度并行计算结合起来,最大限度地减少数据传输。在本月举行的声学、语音和信号处理国际会议上,Loihi 2(Loihi 2)展示了在计算效率、速度和适应性方面的显著改进。

基于其前身 Pohoiki Springs,Hala Point 可以模拟传统的深度学习模型,用于视频、语音和无线通信等真实世界的应用场景。例如,爱立信研究院已经利用 Loihi2 优化了通信基础设施,并在今年的世界移动通信大会上进行了演示。

英特尔表示,下一步,"HalaPoint "将在美国桑迪亚国家实验室交付使用,这是英特尔首次使用这种新型、大规模的神经模拟研究系统,它将与其研究伙伴共享。预计这个项目的研究成果将为神经仿真数据处理带来突破,而目前神经仿真数据处理还在能耗、延迟等问题上苦苦挣扎。

英特尔与 200 多家国际知名学术机构、政府实验室、研究机构、公司和其他组织联合成立了英特尔国际公司,共同推进类脑人工智能领域的研究。其目标是在未来几年将该领域的研究成果转化为业界领先的商业产品。

出版商:核心情报局 - 流浪者之剑