當前位置: 華文世界 > 數碼

美國BitEnergy AI公司宣稱找到新演算法,可將AI類套用功耗降低95%

2024-10-18數碼

在過去幾年,小編分享過很多桌上型電腦處理器和顯卡的對比,經常會談到功耗,經常會說某型號比某型號(或者上一代)的功耗降低了多少瓦。請參閱圖二,它是GeForce RTX 2060和GeForce RTX 4060的對比。

經常有些讀者因此對小編提出質疑和反駁:

桌上型電腦處理器和顯卡都是采用交流電供電,不像筆記電腦和智能電話那樣采用電池供電,不需要考慮續航的問題,因此對桌上型電腦處理器和功耗來說,功耗稍微降低一點沒有多大實際意義,完全是噱頭。

這種看法是非常片面,狹隘的,對於單個使用者來說的確如此,但是全球采用同款硬件的使用者可能有幾百萬甚至幾千萬。如果一個使用者功耗降低一點,全部都加在一起的話,節省下來的能源就很可觀了。

對於促進全球節能環保、綠色低碳來說,意義重大,所以,某款硬件的功耗相比上一代哪怕降低的振幅非常少,也同樣非常有意義,用古人的話來說,就是「」毋以善小而不為」。

本文的討論主題是功耗,但物件不是消費級計算器材,而是企業級計算器材。

大家都知道,構建大型AI套用需要建立數據中心,需要使用數萬,甚至數十萬塊以上的AI專用計算卡,而且是7天24小時不間斷執行,是地地道道的「電老虎」,據報道,ChatGPT現在每天所消耗的電力,足以為18000個美國普通家庭供電。

因此,對於企業級計算器材和數據中心來說,在保證效能滿足需求的同時,盡可能地降低功耗,意義非常重大。

降低功耗主要有硬件和軟件兩個層面的思路。硬件層面,可以改進芯片本身的設計,套用新材料和制造工藝,這是這些年業界一直在努力的方向,難度大、成本高。軟件層面,主要指的是最佳化各種演算法。

近日,美國BitEnergy AI公司研究團隊釋出了一篇論文(請參閱上圖),提出了一種新的演算法,可以將人工智能類運算的能耗降低95%,並不會影響計算的效能和精度。

AI類套用通常使用復數浮點乘法 (FPM)來處理非常大或非常小的數碼,需要以極高的精度執行計算,這是AI運算中最耗能的部份。

BitEnergy AI公司研究團隊的思路是不使用復數浮點乘法 (FPM),而是使用整數加法,可以達到接近復數浮點乘法 (FPM)運算的效果,BitEnergy AI公司研究人員聲稱,根據已進行的測試表明,該方法可降低約95%的電力需求。

不過這種方案有一個短板,它與目前主流的 AI計算硬件不相容,需要使用不同的硬件,但是這種新硬件並不復雜,BitEnergy AI公司聲稱目前已經設計、構建和測試完畢。

當然目前這只是,BitEnergy AI公司的一面之詞,尚未得到任何第三方權威機構的驗證。如果該方案最終透過了驗證,被證明為確實可行,那麽意義重大,套用前景將會非常廣泛。

尤其是在各類大型語言模型和復雜的AI系統中,可以大幅降低公司的電力營運成本,減少對能源的消耗,降低對環境所造成的負面影響,所以,這個訊息的後續發展是非常值得關註的。

小編將在第一時間分享更多相關最新動態和爆料,敬請關註。