当前位置: 华文世界 > 数码

美国BitEnergy AI公司宣称找到新算法,可将AI类应用功耗降低95%

2024-10-18数码

在过去几年,小编分享过很多台式机处理器和显卡的对比,经常会谈到功耗,经常会说某型号比某型号(或者上一代)的功耗降低了多少瓦。请参阅图二,它是GeForce RTX 2060和GeForce RTX 4060的对比。

经常有些读者因此对小编提出质疑和反驳:

台式机处理器和显卡都是采用交流电供电,不像笔记本电脑和智能手机那样采用电池供电,不需要考虑续航的问题,因此对台式机处理器和功耗来说,功耗稍微降低一点没有多大实际意义,完全是噱头。

这种看法是非常片面,狭隘的,对于单个用户来说的确如此,但是全球采用同款硬件的用户可能有几百万甚至几千万。如果一个用户功耗降低一点,全部都加在一起的话,节省下来的能源就很可观了。

对于促进全球节能环保、绿色低碳来说,意义重大,所以,某款硬件的功耗相比上一代哪怕降低的幅度非常少,也同样非常有意义,用古人的话来说,就是「」毋以善小而不为」。

本文的讨论主题是功耗,但对象不是消费级计算设备,而是企业级计算设备。

大家都知道,构建大型AI应用需要建立数据中心,需要使用数万,甚至数十万块以上的AI专用计算卡,而且是7天24小时不间断运行,是地地道道的「电老虎」,据报道,ChatGPT现在每天所消耗的电力,足以为18000个美国普通家庭供电。

因此,对于企业级计算设备和数据中心来说,在保证性能满足需求的同时,尽可能地降低功耗,意义非常重大。

降低功耗主要有硬件和软件两个层面的思路。硬件层面,可以改进芯片本身的设计,应用新材料和制造工艺,这是这些年业界一直在努力的方向,难度大、成本高。软件层面,主要指的是优化各种算法。

近日,美国BitEnergy AI公司研究团队发布了一篇论文(请参阅上图),提出了一种新的算法,可以将人工智能类运算的能耗降低95%,并不会影响计算的性能和精度。

AI类应用通常使用复数浮点乘法 (FPM)来处理非常大或非常小的数字,需要以极高的精度执行计算,这是AI运算中最耗能的部分。

BitEnergy AI公司研究团队的思路是不使用复数浮点乘法 (FPM),而是使用整数加法,可以达到接近复数浮点乘法 (FPM)运算的效果,BitEnergy AI公司研究人员声称,根据已进行的测试表明,该方法可降低约95%的电力需求。

不过这种方案有一个短板,它与目前主流的 AI计算硬件不兼容,需要使用不同的硬件,但是这种新硬件并不复杂,BitEnergy AI公司声称目前已经设计、构建和测试完毕。

当然目前这只是,BitEnergy AI公司的一面之词,尚未得到任何第三方权威机构的验证。如果该方案最终通过了验证,被证明为确实可行,那么意义重大,应用前景将会非常广泛。

尤其是在各类大型语言模型和复杂的AI系统中,可以大幅降低公司的电力运营成本,减少对能源的消耗,降低对环境所造成的负面影响,所以,这个消息的后续发展是非常值得关注的。

小编将在第一时间分享更多相关最新动态和爆料,敬请关注。