中國電工技術學會團體標準T/CES 230-2023【電力人工智慧演算法異構硬體加速技術規範】由中國電工技術學會提出,國網資訊通訊產業集團有限公司、福建億榕資訊科技有限公司、中國科學院上海微系統與資訊科技研究所、國網思極位置服務有限公司等單位起草編制完成。
該標準規定了電力人工智慧演算法異構硬體加速術語和定義、框架、技術要求、效能評估指標及測試方法。
1. 標準起草單位及主要起草人
(1)起草單位
國網資訊通訊產業集團有限公司、福建億榕資訊科技有限公司、中國科學院上海微系統與資訊科技研究所、國網思極位置服務有限公司。
(2)主要起草人
李強、莊莉、趙峰、梁懿、王秋琳、宋立華、蔔智勇、王營冠、李炳森、伍臣周、何為、陳又詠、邱鎮、吳佩穎、張曉東、李建華、陳江海、林閩微、呂誌超、張維、王婧、朱廈。
2. 標準制定背景
近年來深度學習、強化學習等人工智慧演算法的突破性進展,人工智慧理論、技術和方法與電力系統的物理規律、技術與知識融合創新形成了電力人工智慧,為智慧電網的發展提供了重大機遇。隨著人工智慧演算法愈發復雜,參數量越來越多,對於硬體的要求就隨之增加,電力領域各場景孵化了各類人工智慧演算法和異構硬體加速技術,利用人工智慧模組等軟硬體結合的方式來提高算力,並在各場景積累的大量的實踐經驗。
隨著電力人工智慧演算法和異構硬體加速技術數量和種類劇增,各廠家對異構硬體加速技術的定義以及算力遵循的是廠家內部的標準,導致各廠家對異構硬體加速技術的把控力度不一,造成異構硬體加速技術、算力和介面有差異,增加了模型套用和準入的難度,也不利於工作流程的標準化。
因此,制定了電力人工智慧演算法采用異構硬體加速技術統一標準規範,指導電力人工智異構硬體加速技術研發、人工智慧模型測試、人工智慧模型套用具有重要的指導意義,極大促進智慧電網的發展,為新型電力系統的構建提供重要支撐。此外,透過異構硬體加速技術的標準化,可推動國內軟硬體企業合作,為技術創新提供方向性引導,促進產業協調發展。
3. 標準主要內容
從內容上看,該標準主要包括以下幾個部份:
(1)範圍
本標準規定了人工智慧演算法異構硬體加速的技術要求和評價方法,為電力領域中路線巡檢、監控等演算法模型加速提供了技術參考和評價依據。
本標準適用於電力領域中支持訓練和推理的人工智慧框架硬體加速技術的評估。
(2)規範性參照檔
本標準主要參照的檔主要包括:
GB/T 5271.1—2000 資訊科技 詞匯 第1部份:基本術語
GB/T 5271.28—2001 資訊科技 詞匯 第28部份:人工智慧 基本概念與專家系統
GB/T 5271.34—2006 資訊科技 詞匯 第34部份:人工智慧 神經網路
GB /T 41867—2022 資訊科技 人工智慧 術語
YD/T 3944—2021 人工智慧芯片基準測試評估方法
T/CES 128—2022 電力人工智慧平台總體架構及技術要求
(3)術語及定義
主要包括人工智慧、異構計算、分布式計算、深度學習、訓練、推理、計算量、參數量、AI加速器、批次、批次。
(4)電力人工智慧演算法異構硬體加速框架
該部份對電力人工智慧演算法異構硬體加速框架、推理和訓練異構加速流程等規範進行標準化,並給出相關架構圖。
(5)電力人工智慧異構硬體加速的技術要求
該部份對電力人工智慧異構硬體加速系統要求、訓練硬體加速的技術要求、推理異構硬體加速的技術要求、不同場景效能要求等規範進行標準化。
(6)電力人工智慧異構加速效能評估指標及測試方法
該部份對電力人工智慧訓練異構硬體加速效能評估指標和測試方法、電力人工智慧推理異構硬體加速效能評估指標和測試方法等規範進行標準化。
4. 標準制定效益
該標準規範了電力人工智慧演算法異構硬體加速技術規範,該標準效益主要體現在:
(1)規範電力領域中人工智慧演算法模型訓練和推理異構硬體加速的技術要求、效能評估指標及測試方法。
(2)支持訓練和推理的人工智慧框架硬體加速技術的效能評估,為電力人工智慧軟硬體加速系統提供技術參考與評價依據。
(3)與現有電力人工智慧技術驗證工作相結合,有助於形成更加精準的電力行業電力人工智慧演算法異構硬體加速技術驗證體系,促進電力行業人工智慧技術縱深發展。