當前位置: 華文世界 > 科技

僅用19天,全球最大AI算力集群建成!10萬塊液冷H100 GPU上線,價值將超30億美元,算力是GPT-4的20倍【附智算中心技術架構分析 】

2024-07-29科技

圖片來源:攝圖網

算力和人工智慧芯片是人工智慧技術開發中的兩個關鍵方面。 算力指的是電腦系統處理數據和執行指令的能力,對於人工智慧套用來說,需要大量的算力來處理復雜的數據和演算法。人工智慧芯片則是專門為人工智慧任務設計的芯片,具有高效的平行計算能力和低能耗特性。這兩者密切相關,因為人工智慧套用需要大量的算力支持,而人工智慧芯片能夠提供高效的計算能力。 因此,算力和人工智慧芯片的發展相輔相成,共同推動了人工智慧技術的進步和套用。

當地時間7月22日,「矽谷狂人」馬斯克在X平台上發文稱贊了xAI、X、輝達,以及其他支持團隊的工作,並表示,在當地時間淩晨4:20, 這些團隊合力打造的「曼非斯超級集群」開始投入訓練。

每經網訊息, 曼非斯「超算工廠」擁有10萬塊液冷p00 GPU,在單個RDMA結構(即遠端直接數據存取結構)上執行,是全球最大的超算集群。 按照成本估算,每塊p00的價格約為3萬-4萬美元。這也就意味著,馬斯克的「超算工廠」價值將達30億-40億美元(約合人民幣218億-290億元)。 從算力上來看,OpenAl GPT-4的訓練用了25000塊A100 GPU,約為「超算工廠」的1/20。

馬斯克在接受著名心理學教授喬丹·彼得森的專訪時透露,我們建造了一個大型訓練中心, 從硬體安裝到投入訓練,總共只花了19天。 同時,馬斯克表示, Grok 2的訓練已經完成,將於下個月釋出 。目前, Grok 3正在曼非斯的超算中心中進行訓練,預計年底將會釋出 ,屆時將是市面上最強大的模型。

回看智算中心行業發展情況:

——智算中心采用領先的人工智慧計算架構

【智慧計算中心創新發展指南】指出,智算中心的發展基於最新人工智慧理論和領先的人工智慧計算架構,算力技術與演算法模型是其中的關鍵核心技術,算力技術以AI芯片、AI伺服器、AI集群為載體,而當前的演算法模型發展趨勢以AI大模型為代表。在此基礎上,透過智算中心作業系統作為智算中心的「神經中樞」對算力資源池進行高效管理和智慧排程,使智算中心更好地對外提供算力、數據和演算法等服務,支撐各類智慧套用場景落地。而軟體生態則是智算中心「好用、用好」的關鍵支撐。

——AI芯片是智慧計算的主流模式

基於AI芯片的加速計算是當前智慧計算的主流模式。AI芯片透過和AI演算法的協同設計來滿足AI計算對算力的超高需求。當前主流的AI加速計算主要是采用CPU系統搭載GPU、FPGA、ASIC等異構加速芯片。

近年來,國產AI加速芯片廠商持續發力,在該領域取得了快速進展,相關產品陸續釋出,覆蓋了AI推理和AI訓練需求,其中既有基於通用GPU架構的芯片,也有基於ASIC架構的芯片,另外也出現了類腦架構芯片,總體上呈現出多元化的發展趨勢。

——AI集群能夠滿足智算中心的大規模算力需求

大模型參數量和訓練數據復雜性快速增長,對智算系統提出大規模算力擴充套件需求。透過充分考慮大模型分布式訓練對於計算、網路和儲存的需求特點,可以設計構建高效能可延伸、高速互聯、存算平衡的AI集群來滿足尖端的智慧計算需求。

2023年7月,華為宣布昇騰AI集群全面升級,推出第一個萬卡AI集群,擁有更快的訓練速度和30天以上的穩定訓練周期,十倍領先業界。目前,昇騰AI集群已支撐全國25個城市的人工智慧計算中心建設,其中7個城市公共算力平台入選首批國家「新一代人工智慧公共算力開放創新平台」。

——AI大模型是一種新的智慧計算範式

超大規模智慧模型,簡稱大模型,是近年興起的一種新的人工智慧計算範式。和傳統AI模型相比,大模型的訓練使用了更多的數據,具有更好的泛化性,可以套用到更廣泛的下遊任務中。按照套用場景劃分,AI大模型主要包括語言大模型、視覺大模型和多模態大模型等。業界典型的自然語言大模型有GPT-3、源、悟道和文心等。視覺大模型也已廣泛套用於自動駕駛、智慧安防、醫學影像等領域。基於多模態大模型的以文生圖技術也迅速發展,AI內容生成(AI Generated Content,AIGC)已成為下一個AI發展的重點領域。

前瞻產業研究院分析認為,算力資源是數位經濟發展的重要底座。隨著數位經濟蓬勃發展, 未來智慧算力的發展需求將快速擴大,智算中心建設浪潮掀起。 同時,通用智慧的演算法模型快速演進,大模型加速人工智慧套用;普適普惠的服務生態逐步構建,算力服務普惠化、演算法套用普適化;綠色低碳的發展格局加速形成, 節能降耗的液冷技術對於密度高、規模大、散熱需求高的智算中心優勢明顯,將得到進一步推廣套用。

前瞻經濟學人APP資訊組

更多本行業研究分析詳見前瞻產業研究院【中國人工智慧數據中心(AIDC,智算中心)行業發展前景與投資戰略規劃分析報告】。

同時前瞻產業研究院還提供產業新賽道研究、投資可行性研究、產業規劃、園區規劃、產業招商、產業圖譜、產業大數據、智慧招商系統、行業地位證明、IPO咨詢/募投可研、專精特新小巨人申報等解決方案。在招股說明書、公司年度報告等任何公開資訊披露中參照本篇文章內容,需要獲取前瞻產業研究院的正規授權。

更多深度行業分析盡在【前瞻經濟學人APP】,還可以與500+經濟學家/資深行業研究員交流互動。更多企業數據、企業資訊、企業發展情況盡在【企查貓APP】,價效比最高功能最全的企業查詢平台。