近日,由中國智慧計算產業聯盟與全國信標委算力標準工作群組共同主辦的2024中國算力發展專家研討會在京召開。會議以「超智融合技術路線下的趨勢與發展」為主題,院士專家們齊聚一堂,共同探索超智融合技術的發展路徑。
超智融合成為先進計算發展趨勢
「大模型的迅猛發展彰顯出新質生產力的特質,但目前也遇到了算力瓶頸。鑒於中國在超算領域擁有深厚技術積累,希望超智融合能有效化解這一挑戰。」中國科學院計算技術研究所研究員張雲泉介紹研討背景時說道。
在當今數位化、智慧化的時代浪潮中,算力已成為推動經濟社會發展的核心驅動力。千行百業的計算場景紛繁復雜,單一計算架構無法應對。
「現在的套用越來越復雜,不同套用需要不同的演算法,對電腦也有不同的要求。」北京套用物理與計算數學研究所研究員袁國興表示,超智融合兼具超算的強大處理能力與智算的演算法最佳化能力,因此融合發展已是大勢所趨。
「超智融合是隨著當前基礎算力、智算算力、超算算力等的套用多元化發展而誕生的,即能否用混合型算力資源或者融合型算力體系,來解決同時滿足多種不同算力的套用需求。」國家資訊中心資訊化和產業發展部主任單誌廣認為。
實際上,超智融合技術也成為近年來全球計算領域熱點話題。今年5月的國際超算大會上,在「重塑超算(Reinventing HPC)」這一主題下,超智融合相關方案已遍地開花,眾多高效能計算(HPC)系統以異構架構設計思路整合了CPU、GPU以及NPU。
對此,中國科學院院士錢德沛認為,「超智融合實踐過程中,一方面是用AI的方法來求解傳統超算問題,另一方面AI也在影響傳統電腦的結構,包括在做的算網融合,將來也應該是在AI賦能的前提下發展的。」
在中國,超智融合技術已被套用於超算互聯網的建設中。透過連結全國超算、智算中心,智慧排程各類算力資源,並深度整合計算資源、軟體資源、套用解決方案資源,構建起一體化算力服務平台,為社會提供高效、便捷的算力服務。
國家超算互聯網4月正式上線以來,已有超過200家套用、數據、模型等服務商入駐國家超算互聯網,並提供超過3200款商品。這些商品覆蓋科學計算、工業仿真、AI模型訓練等領域,可滿足全社會對先進計算服務的需求。
超智融合的挑戰與應對
超智融合雖展現出美好的發展前景,但當下仍面臨一些挑戰。
首先,要實作超算與智算深層次的有機融合,基礎理論還有待突破。「大模型與智算的發展,不只是套用層面的模型和演算法上改進,還需要從基礎理論角度去有所突破。」陳潤生認為,「一味地爐心片並不可取,根本上還要向人腦學習,以更低能耗實作更高效能。」
在錢德沛看來,超智融合也需完整的AI軟體棧支撐,要從形成大模型的基本理論開始。
其次,在技術路徑上,需要從底層技術與體系結構,完成軟硬協同創新。「超算和智算差別極大,兩者本質是不同的系統。」陳潤生剖析道,「超算依靠時間復雜度,跑完程式結果就出來了;而智算依靠的是空間復雜度,需要先把所有的知識訓練好。」
「傳統超算和智算的訓練,對底層基礎設施要求並不一樣,也需要判斷在什麽場景下應實作相容統一,又在哪些場景下需凸顯其獨特性。」中國信通院雲端運算與大數據研究所所長何寶宏補充道。
在中國工程院院士鄭緯民看來,目前大模型訓練中,雖然一些國家超算中心已經能夠提供支撐,但還應該重點圍繞國產算力芯片發展十大關鍵軟體,進一步實作軟硬體協同最佳化。
「未來一體化算力體系的構建,要避免‘分解謬誤’和‘合成謬誤’,做好算力資源和業務套用的統籌銜接,避免沒有有效套用需求、缺乏網路QoS保證、沒有成熟排程體系的普遍性算力互聯,以及脫離實際套用需求的異地計算和遠地計算算力設施布局,從算力資源供給側和業務套用需求側兩個維度進一步深化研究。」單誌廣表示。
專家們認為,未來在技術路線通用性和專用性的選擇上,更傾向於保持一定的通用性。尤其在技術和方法論仍在持續發展的背景下,應保持芯片、系統與軟體的普適性,為研究提供廣闊空間,深化底層理論與方法的探索。
「超智融合的行程將沿著超算支撐AI套用(for AI),用AI技術改進超算(by AI),超智實作內生融合(being AI)三個階段清晰演進。在最終的being AI階段,電腦系統將呈現內在的智慧特性,人工智慧不再是一種外加的能力,而成為電腦的核心內容和基本組成,可能計算的能力或者智慧化的水平,會遠遠超過我們今天的超算或智算。」對於未來計算技術發展,錢德沛勾勒出美好藍圖。
會上,還舉辦了主權級大模型創新聯合體成立儀式,並啟動了【2024中國算力發展研究報告之超智融合技術路線與趨勢】編撰工作。(宋雅娟)
來源:光明網