當前位置: 華文世界 > 科技

DPU如何提升計算效率?探秘其背後原理!

2024-10-06科技

DPU如何助力計算效率

隨著技術的不斷發展,企業對於數據處理的需求日益增加。在這個背景下,數據處理單元(DPU)應運而生,它為企業提供了一種方式,將網路功能從中央處理器(CPU)和圖形處理單元(GPU)中解除安裝,從而提升其它處理器的工作效率。近年來,GPU因其在處理復雜數據方面的優勢而被廣泛關註,它已成為現代人工智慧套用的核心。然而,企業所需的計算能力不僅僅依賴於GPU和CPU,還有DPU這一重要元件。

NVIDIA的執行長黃仁勛指出,CPU負責通用計算,GPU主要用於加速計算,而DPU則負責在數據中心間移動與處理數據。借助DPU,IT管理者能夠有效最佳化基礎設施,提升效能,並減輕CPU的負擔,使其在現代數據中心和雲端運算環境中扮演著不可或缺的角色。

那麽,究竟什麽是DPU,它的工作原理又是怎樣的呢?根據TIRIAS Research的分析師Jim McGregor的說法,可以將DPU視為一種「內部或間接負載加速器」。其設計旨在處理本由CPU負責的任務,例如安全性、網路傳輸或資料壓縮。值得註意的是,雖然DPU可以完全編程,但大多數DPU都是專用積體電路,專為特定功能進行最佳化。根據McGregor的說法,DPU各自的功能特性並不相同,一家供應商的DPU可能與另一家的截然不同。

IDC的分析師Brandon Hoff進一步補充,DPU主要套用於數據中心,尤其在伺服器中表現突出。像亞馬遜、微軟和谷歌等超大規模雲服務提供商,廣泛部署了DPU。他強調,DPU對想要建設「AI工廠」的企業至關重要,這些「AI工廠」提供了一個標準化的環境,用於大規模開發、部署和管理AI應用程式。Hoff表示,DPU的優勢在於它能夠為GPU之間提供高效通訊的排程結構,這也是許多超大規模企業采用DPU的原因之一。

DPU具體功能又有哪些呢?McGregor提到,DPU常見的功能包括安全管理、網路連線、儲存支持和人工智慧分析。透過將GPU聯網,DPU能更高效地傳輸數據。Hoff提到,由於GPU的晶片上限制了晶體管的數量,通常需要將GPU連線到一個擴充套件網路,以提高效能。事實上,GPU在處理數據後會停下來共享資訊,而用於網路傳送的時間,有時甚至占到整體計算時間的50%。這意味著它們的工作效率大打折扣,DPU能使這一步驟的效率提升,解放GPU從繁重的網路傳輸中出來。

對於DPU、CPU和GPU之間的差異,McGregor指出,DPU專門為一組特定的功能設計,這與CPU和GPU截然不同。CPU遵循特定的指令集,完全可編程,負責現代計算中的各種任務。而GPU則主要用於圖形和多媒體處理,近年來更多地向AI處理領域拓展。Hoff補充說,DPU為網路工程提供支持,確保安全性、加密及儲存連線,能夠幫助組織節省時間與成本。

DPU究竟帶來了哪些優勢?透過解除安裝CPU的網路與儲存功能,DPU讓CPU能執行更多的應用程式。Hoff提到,DPU能夠讓應用程式更加無縫地執行,同時消除在數據傳輸時遇到的問題。對於數據中心伺服器來說,DPU的使用簡化了架構,使得混合雲環境中套用的速度幾乎達到裸機水平。他表示,借助DPU,企業無須再操心虛擬機器管理程式,大大提升了混合雲部署的靈活性,無論是在雲上,還是在數據中心,抑或其他更靈活的地方。

綜上所述,DPU無疑為企業的數位化轉型提供了強有力的支持,提升了運算效率,使得工作流程更加順暢。未來,對於希望構建高效、高效能計算環境的企業而言,DPU將是不可或缺的重要工具。