當前人工智能正加速爆發期，AI芯片作為伺服器中的核心高價值組成部份，迎來量價齊升，
AI算力芯片的全產業鏈包括最上遊的EDA（電子設計自動化）軟件及IP核的研發；中遊芯片制造涵蓋GPU、NPU、ASIC、FPGA等多種架構，這些實作AI算力的核心硬件；而下遊的AI伺服器及智算中心這些設施將AI芯片整合到實際套用中，為AI套用提供算力支持。
關註【樂晴行業觀察】，洞悉產業格局！
傳統伺服器依賴CPU作為主要的計算能力來源，但在實際執行中頻繁涉及分支跳轉和中斷處理，限制了在AI時代的套用效能。
相比之下，AI伺服器采用GPU及異構形式來提供強大的計算能力。能夠高效地並列處理龐大數據集，滿足AI與機器學習演算法對復雜數據計算的需求。
根據部署環境的不同，AI芯片分為雲端芯片和終端芯片。前者主要套用於數據中心等伺服器端；後者廣泛套用於手機、汽車、安防網絡攝影機等各類電子終端器材中。
從功能角度來看，AI芯片又細分為訓練芯片和推斷芯片。
訓練端負責構建神經網絡模型，涉及處理海量數據並執行大規模計算，對演算法的先進性、計算精度以及處理能力有著極高的要求，更適合在雲端進行部署。當前，A100、p00等是主流的訓練芯片。
推理端則利用已訓練好的模型，對新輸入的數據進行快速推理得出結論，更註重能效比、低時延和功耗控制。T4、A10等是目前常用的推理芯片。
當前，GPU（通用型）、FPGA（半客製化）和ASIC（全客製化）構成了AI芯片行業的主要技術路徑。
AI芯片產業圖示：
其中，TPU（張量處理單元）是ASIC的一種，是谷歌專為加速深度神經網絡運算而開發的客製芯片。
TPUv1透過PCIe（高速序列總線）介面與主機通訊，並能直接存取其內建的DDR3儲存。
TPU架構：
資料來源：谷歌
谷歌開發的TPU是一款專為AI套用設計的ASIC芯片，其研發初衷是為了滿足谷歌自身雲服務與終端產品的需求，自2016年推出第一代以來該芯片已叠代至第五代。
中昊芯英是國內唯一掌握TPU架構下訓推一體AI芯片核心技術的廠商，國內廠商科德教育透過參股7.7971%的方式，與中昊芯英建立聯系。
隨著大模型與AI產品研發需求的不斷增長，資本支出也不斷攀升。2024年第二季度，微軟、Meta、谷歌和亞馬遜這四家公司的合計資本支出達到了571億美元，同比增長66%，環比一季度增長22%。全球範圍內，主導人工智能芯片布局的企業包括英特、輝達、高通以及谷歌等。
科技巨頭們近年來不斷加大算力采購力度，據Omdia Research分析，Meta和微軟是p00的最大買家，緊隨其後的是谷歌、亞馬遜、甲骨文和騰訊。此外，CoreWeave、百度、阿裏巴巴、字節跳動、以及特斯拉等公司也是p00的重要客戶。
輝達 AI 芯片生產時間及未來規劃：
資料來源：TrendForce
關註【樂晴行業觀察】，洞悉產業格局！
