2024年9月26日,英特爾推出了專為高效能人工智慧任務設計的Xeon 6系列和Gaudi 3芯片。近年來,英特爾面臨著諸多挑戰,尤其是在蘋果矽片iPhone釋出之後,以及由Nvidia和AMD主導的人工智慧和數據中心芯片行業興起之時。然而,面對這些挑戰,英特爾並沒有坐視不理,而是宣布推出新的競爭選手。
這些被稱為Xeon 6900 P-core系列的芯片提供了多達128個內核,能夠處理極其繁重的AI工作負載,其效能比前輩提升了兩倍,同時擁有更高的內核數、更大的記憶體頻寬和嵌入式AI加速功能。
效能提升顯著
在Gaudi系列方面,新款Gaudi 3 AI加速器芯片專註於生成式AI套用,配備了64個Tensor CPU核心、八個矩陣乘法引擎以及128GB的HBM2e記憶體。相比於Nvidia的p00芯片,Gaudi 3在LLaMa 2 70B推理上的吞吐量提升了20%,並且在價效比方面實作了翻倍增長。
除了芯片的設計與制造之外,英特爾還與Dell和Supermicro合作,開發了「協同工程系統」,這些系統特別針對兩家公司的特定AI需求。Dell正在利用Gaudi 3和Xeon 6芯片開發基於RAG(Retrieval-Augmented Generation)的解決方案。
在AI芯片領域,AMD從英特爾的困境中受益良多,透過設計強大芯片並由台積電制造,這一模式取得了巨大成功。英特爾一直在嘗試復制或打破這種模式,但成效有限。基於Zen 5架構,AMD計劃在2024年下半年釋出其第五代EPYC Turin 3nm數據中心芯片,這款芯片具備最多192個內核和384條執行緒,在技術參數上至少能夠與Xeon和Gaudi芯片相媲美。
在備受矚目的Top500榜單中,雖然尚未完全投入執行的英特爾驅動的Aurora超級電腦在整體排名上屈居AMD驅動的Frontier之後,但在AI基準測試中卻奪得了頭籌。