4月18日，Meta釋出了最新開源模型Llama3，訓練該模型使用的GPU芯片p00數量是Llama2時候的8倍，AI訓練的算力競賽再次提速。
更多的GPU芯片意味著更多的算力，也意味著需要消耗更多的電力。
今年以來，幾位悉心研究AI的商界大佬們紛紛發表言論，暗示AI發展的盡頭是「缺電」。OpenAI執行長山姆·阿特曼表示，AI技術消耗的電力將遠遠超出人們預期。而埃隆·馬斯克認為，按照人工智慧每6個月就以10倍速度飆升的發展趨勢，電力供應會面臨前所未有的壓力。輝達創始人黃仁勛則說，AI的盡頭將是光伏和儲能。
過去數據中心的快速發展，已經呈現出對電力和水資源的巨大需求，而AI將加速這一消耗。界面智庫整理已有的關於AI耗能、耗水量的研究，做了以下梳理：
「AI耗能」的問題還可以被拆解，其中包括軟體和硬體兩個部份。軟體指AI模型的訓練、使用耗能等環節，硬體指芯片、數據中心運轉的耗能。就以硬體中的芯片來說，芯片生產過程需要「超純水」清洗，耗水量巨大，有數據估算，生產一個2克重的電腦芯片大約需要32公斤水，台積電每年晶圓產能約3000萬片，芯片生產耗水約8000萬噸。
打個不恰當的比方：軟體的耗能，類似一個人做一道數學題需要消耗多少腦力，懂得計算方法的人可能「用腦」更少；硬體的耗能，類似人體給大腦供能的效率，一個肌肉量高的人補充的能量可能有更大部份是被肌肉消耗掉了。而有觀點認為，AI之所以還沒有被普及，就是因為從目前的水平看，解決同樣的問題，從能耗和成本上，它還是比人腦「貴」多了。
當然，在AI耗能問題上，不能只看耗能不看產出，還要考慮到AI的廣泛套用能為各行各業帶來更大的生產力和發展潛能。
人工智慧的能耗來自哪些環節？如何降低能耗以及未來如何填補用能缺口？界面智庫分別采訪了「軟體」和「硬體」方面的專家做出梳理和解讀。
一、生成式人工智慧的耗能量和碳排放該怎麽計算？能耗來自哪些環節？
清華大學工學博士、教授級高工、新型電力系統創新聯盟專家委員周文聞告訴界面智庫，生成式人工智慧（AIGC）雖然是軟體模型，但按照全生命周期（LCA-Life Cycle Assessment生命周期評估）的計算方法，應該從開展和使用該演算法業務的硬體部份開始計算，直到全生命周期結束。
如下圖所示，生成式人工智慧的能耗組成部份包括：裝置制造、模型訓練、數據標註、模型使用等四個環節。其中模型訓練是AIGC能耗的重要組成部份，其次是模型使用。
周文聞帶領團隊按照LCA的評估方法對某大模型進行碳足跡建模，其中裝置制造階段重點計算了vCPU、記憶體和GPU的能耗（主動忽略了匯流排、介面、外設、風扇、機箱等）；模型訓練階段只考慮了伺服器的計算能耗和儲存能耗（忽略網路傳輸）；數據標註階段考慮標註所使用的筆記本/台式電腦碳排放，模型使用階段和模型訓練階段的結算方式雷同，以能耗乘以碳排放因子來計算碳足跡，綜合得出的該大模型的產品碳足跡總量為962.37 tCO2e（二氧化碳排放當量），大概是49個美國人一年產生的碳排放（按美國人均二氧化碳排放量19.58噸計算-Maplecroft公司2009年數據）。
該公式沒有計算數據中心冷卻系統、網路傳輸的碳足跡等。而事實上，數據中心的數據傳輸速率和散熱冷卻系統，也是重要的耗能來源。這些環節會如何影響數據中心能耗？
TE Connectivity是全球規模最大的連線和傳感解決方案提供商之一，TE Connectivity數據與終端裝置事業部亞太區銷售總監蔣撲天告訴界面智庫，伺服器的能效水平是影響數據中心能耗的重要因素之一。如果提高端到端整個鏈路上的數據傳輸速率，可以幫助數據中心降低伺服器處理同等數據量的能耗，「比如理論上4G網路條件下，每度電可下載620G的數據，而在5G每度電可下載2857G的數據，也就是說從能效上，5G是4G的4.6倍」。
他還指出，隨著數據中心算力提高，必然需要更高的能源電力，也就要求在不增加連結器產品空間的前提下，增加更多能源供應，這意味著連結器單位面積可承載的電源功率要相應提高。而當電源功率增加，單位面積不變大的情況下，散熱就非常關鍵。「所以在散熱方式上，國內從原來的風冷，現在開始嘗試做液冷，將熱能從模組中傳輸出去，並保持較低的執行溫度，提高系統整體效率和可靠性。」蔣撲天說。
散熱就需要耗能。各家企業也在嘗試各種方法為數據中心散熱。中國宏觀經濟研究院能源研究所研究員崔成撰文寫到：微軟曾嘗試部署海下數據中心，Facebook數據中心選址在北極圈附近，阿裏雲千島湖數據中心使用深層湖水製冷等，中國很多企業則把數據中心布局在水電資源豐富的西南地區。
因此，生成式人工智慧的能耗更準確的計算需要考慮軟體和硬體兩個部份以及不同環節。
二、Chatgpt、PaLM 、Claude、盤古、文心一言、Gemini，不同的大模型耗能是否會有差異？是否大模型越發展，就會消耗越多能源？
不同大模型的能耗確實會有差異。周文聞指出，其中裝置制造環節的差異不大，因為不同大模型使用的硬體基礎設施大多是同質化的CPU和GPU伺服器；而差異主要體現在模型訓練、數據標註、模型使用這三個環節。目前很少能從公開資料查到以上大模型的資源使用資訊，在數據不透明的情況下（除了各家自己掌握數據），很難準確計算大模型的能耗使用水平。
不過，硬體基礎設施的能耗計算方式，也有可能因為技術革新而被顛覆。就在近日，媒體報道稱前谷歌量子計算團隊的幾位員工創立了一家名為Extropic的公司，提出用物質隨機波動驅動計算，認為這種計算方式更接近人類大腦，將有可能擴充套件硬體的效能界限，超越傳統的數位計算，比現在的CPU、GPU等數位處理器更高效更節能。
至於隨著大模型的發展，未來是否會消耗越多能源，周文聞指出，因為模型的叠代主要靠新的數據訓練來完成，數據訓練的基礎設施就是算力，而算力的基礎設施是能源。
舉個例子，因為與微軟工程師有過交流，AI創新公司OpenPipe的聯合創始人Kyle Corbitt在社交平台X上回答提問「為何不將（GPT-6）的訓練集群集中同一個區域」，因為「有嘗試過，但無法在同一州放置超過10萬片p00的GPU，否則會導致電網癱瘓。」
「需要註意的誤區是，大模型消耗能源並不可怕，可怕的是大量消耗傳統能源，關鍵是要使用清潔能源來替代。」周文聞說。
華泰證券研報預測，到2030年中國與美國的數據中心總用電量將分別達到0.65萬億千瓦時至0.95萬億千瓦時、1.2萬億千瓦時至1.7萬億千瓦時，是2022年的3.5倍和6倍以上。解決用能問題，也是解決AI技術與產業未來發展的瓶頸。
三、未來如何填補缺口？透過哪些方式為人工智慧供能？
「這個問題需要辯證看待。」周文聞指出，生成式人工智慧發展的不同階段，對能源的需求是不同的，例如在目前LLM的形態下，當前的能源是夠用的，而按照OpenAI規劃的最終AI形態，能源基礎設施必須跟上，否則會制約AI技術的發展。
在未來增加供能方面，周文聞認為可以從供給側和需求側兩個方面解決。供給側：一是做好傳統能源向清潔能源逐步轉化、逐漸替代，人工智慧的發展也要和化石燃料脫鉤；二是大力發展和建設清潔能源，比如風電、光伏、儲能，提高畫質潔能源占比；三是積極探索新型能源技術和相關新材料，比如可控核融合、固態電池、鈣鈦礦等。
在需求側：一是減少重復的模型訓練工作，不同國家/廠商用同樣或類似的數據集訓練自己的閉源模型，造成能源重復浪費，應該鼓勵開源模型的套用，鼓勵共享部份模型和演算法；二是積極探索和研究新的模型架構，在訓練完模型底座後，盡可能微調模型結構；三是人工智慧公司也要有氣候變遷的危機意識和能源危機意識，盡可能使用清潔能源。
蔣撲天則指出了兩項在硬體上有望節能增效的技術創新。
一是材料創新，在印制電路板（PCBA-Printed Circuit Board Assembly）裏，探索「光進銅退」—即透過OTB（光纜終端盒）的方式用光纖替代一部份伺服器裏的銅線。
「過去’光進銅退’主要體現在終端裝置外部，用光纜而不用銅纜進行長距離傳輸，幫助節省材料成本和電力消耗，未來的‘光進銅退’發生在裝置內部，數據連線的傳輸速率在單次叠代的情況下，提升得越來越快。」他指出，在數據傳輸速率從224G到448G的發展過程中，很可能會發生「光進銅退」的變革，芯片到芯片之間以光纖的形式連線，減少原有芯片外部的電力驅動和電光/光電轉換環節，從而減少能耗，「以交換機芯片廠商博通釋出的一款112G速率的光連線交換芯片為例，同樣驅動800G的鏈路，傳統交換機需要14W的功率，而芯片光纖直連的交換機只需要5.5W的功率，降低了約60%的能耗。」
二是更好幫助數據中心散熱的液冷技術。國內伺服器廠商浪潮釋出了業界第一個可支持浸沒式液冷50℃進液溫度的伺服器，透過更高效的系統散熱設計和熱管理技術，實作更高的進液溫度，比業內常用的40℃進液溫度系統減少了冷卻系統的部署、節省電力消耗。「液體帶走熱量的能力是同體積空氣的3000倍，液冷系統比風冷系統可以節省約30%的能源消耗，並且可以降低噪音，提供更好的工作環境。」蔣撲天介紹。為了適應液冷散熱系統，連結器和線纜也需要從材料的耐高溫、耐腐蝕，以及訊號的完整性上做最佳化。
另外，蔣撲天指出，作為前沿技術，基於光芯片的人工智慧處理器也在業界積極開發中，透過光學繞射-幹涉混合等技術，甚至可以為毫瓦級低功耗自主智慧無人系統提供算力支撐。
四、人工智慧的套用正在哪些領域鋪開？有哪些已經在發生的套用和改變，以及哪些極具潛力的方向？
人工智慧在制造業的套用可以幫助最佳化生產和采購流程，維護供應鏈穩定，提高生產效率和產品品質；在醫療保健領域的套用可以提高影像分析的診斷準確性，擴大醫療服務受益人群；在農業領域的套用則可以幫助農業生產進行作物監測，提供更精準的施肥、灌溉策略等。
蔣撲天基於他的觀察對人工智慧已經套用的領域，和潛力方向做了簡單的分享。
第十四屆全國人大常委會委員、國家氣候變遷專家委員會副主任王毅就曾表示，AI產品消耗的電力對社會來說是否是負擔，需要總體來看，「AI帶來的創新能力是我們過去人力所不可比擬的」。
美銀美林預計，AI的電力使用量將在2023年至2028年間以25-33%的年復合增長率增長，這一增長將對數據中心的設計和營運帶來挑戰。
2024年3月21日，聯合國大會透過第一個關於人工智慧的全球決議【抓住安全、可靠和值得信賴的人工智慧系統帶來的機遇，促進永續發展】，「能耗」只是人工智慧永續開發中的其中一個問題，也是人工智慧技術與產業發展的基礎，人工智慧的發展也須平衡環境、資源與氣候的關系。
