2024年是普遍意義上的大模型套用落地元年。在全球範圍內，大模型正呈現規模擴大化、多模態融合、垂直行業套用深化等趨勢，技術生態日益繁榮。但在蓬勃的產業景象背後，是各大企業在技術創新和產品叠代上的激烈競爭。
江行智能作為電力邊緣智能領域的積極創新者，也在加強大模型技術的研發與投入，深化行業套用實踐。近期，江行智能在新型電力系統靈活性資源調控、復合大語言模型系統構建、語意智能緩存框架開發、用電負荷預測等領域取得了突破性成果，多篇論文獲得國際期刊獎項。
面向海量通訊基站的能量智慧排程
2024年4月，江行智能團隊在下一代「能源-通訊-交通綜合樞紐」設計與最佳化領域的工作【Towards Integrated Energy-Communication-Transportation Hub: A Base-Station-Centric Design in 5G and Beyond】被分布式計算領域著名會議IEEE ICDCS接收，並從121篇論文中脫穎而出，在會議召開期間榮獲ICDCS傑出論文獎。
該工作透過探索基站與電動汽車充電基礎設施之間的關聯，展示了利用基站電池和可再生能源發電廠在樞紐內高效為電動汽車充電的可行性。
模型將基站流量狀況、天氣情況和電動汽車的充電行為等多個因素考慮在內，引入一種激勵機制來設定充電價格，並采用基於深度強化學習方法進行電池排程。該技術將最佳化剩余能源利用率，透過電動汽車充電創收的同時降低營運商營運成本，為未來電網、基站與交通基礎設施領域整合展現了全新願景。
大語言模型推理任務排程最佳化
繼傑出論文獎之後，江行智能團隊在網絡與服務質素領域國際旗艦會議IEEE/ACM IWQoS 2024上又以【面向實際高效復合大語言模型系統服務的研究】（Towards Efficient Compound Large Language Model System Serving in the Wild）榮獲大會唯一最佳海報獎。
研究針對復合大語言模型系統在實際套用中的推理任務排程問題，提出創新性解決方案。研究首次揭示了任務結構與時長的不確定性及對復合大語言模型推理任務的挑戰，設計出基於優先級的排程方法，初步實驗表明該方法可以將復合大模型系統中任務平均完成時間最多減少47%。
排程器接收使用者送出的復合大語言模型套用後，基於不同任務優先級進行排程，並將排程後的任務分配到集群執行器上進行執行。任務執行完畢後，排程器將任務結果返還給使用者。這一成果不僅為復合大語言模型系統的最佳化提供了新路徑，也幫助更多研究人員關註到這一重要問題。
大語言模型邊緣語意緩存效率提升
此外，江行智能團隊在大型語言模型智能問答領域的工作【SCALM：大型語言模型智能問答的語意緩存策略】（SCALM: Towards Semantic Caching for Automated Chat Services with Large Language Models）也被IEEE/ACM IWQoS 2024接收。該工作提出了一種新型緩存架構SCALM，透過語意分析和聚類演算法對查詢模式進行智能分類和儲存，顯著提升緩存效率。SCALM采用全面和選擇性的層次語意聚類方法精確處理復雜查詢，可有效提高系統效能，顯著降低營運成本。
HALO框架創新智能建築能效管理
江行智能團隊在智能建築管理和能效最佳化領域持續進行技術創新，中科院JCR-1區Top期刊IEEE Internet of Things Journal在2024年5月份發表了團隊最新研究成果【基於多時間尺度Transformer技術的空調負荷預測】（HALO: HVAC Load Forecasting With Industrial IoT and Local-Global-Scale Transformer）。該研究融合邊緣計算技術和局部-全域尺度Transformer模型，為暖通空調系統（HVAC）的電力負荷預測引入HALO這一創新技術框架。
HALO框架透過智能數據預處理和復雜的語意分析，能夠精確處理和響應復雜的數據查詢，突破傳統負荷預測方法的局限。其核心技術包括一個采用局部和全域資訊處理策略的Transformer架構，在最佳化模型處理能力的同時，還可降低系統的執行成本。此外，HALO框架展示了在多個建築數據集上的優越效能，透過實地測試和評估，證明了其在實際套用中的有效性和高效性。該項研究的發現不僅標誌著智能建築能效管理技術向前邁進了一大步，也為樓宇空調參與虛擬電廠、需求響應等業務奠定了堅實的基礎。
目前，江行智能已推出「源問大模型」，成功打造基於復合大模型的新能源智能運維解決方案。隨著大模型不斷叠代，江行智能也在積極推動更多創新性技術成果湧現，將前沿技術與行業需求緊密結合，轉化為實際的產業套用。
自成立以來，江行智能持續深耕人工智能領域，內部研發中心匯聚了眾多行業專家和頂尖工程師，共同構築了一支創新力強勁的研發團隊。此外，公司積極構建產學研合作生態，打造深圳市博士後創新實踐基地、廣東省科技專家工作站等平台，並與香港科技大學、中國科學技術大學、深圳大學等建立了緊密合作關系。
展望未來，江行智能將繼續推動大模型技術發展進步與套用落地。同時，也期待與更多誌同道合的夥伴攜手，共同開拓大模型領域的廣闊前景，探索未來發展的無限可能。
