當前位置: 華文世界 > 科技

壁仞科技副總裁:解決算力瓶頸需從三維度著手

2024-08-26科技

近日,壁仞科技副總裁兼AI軟件首席架構師丁雲帆在談及計算瓶頸時表示,解決算力瓶頸問題需要從三個維度考慮:硬件集群算力、軟件有效算力、異構聚合算力。他認為,透過做好這三個維度的工作,即使國產AI芯片單個算力不強,也能透過綜合手段提升算力,滿足國內大模型訓練的需求。

丁雲帆還提到,壁仞科技在2020年設計的第一代產品中采用了chiplet架構,國外巨頭如輝達B100和英特爾Gaudi3也采用了類似思路,以最先進制程結合chiplet來提升單卡算力。公司使用三級的異步checkpoint技術,結合GPU的視訊記憶體和CPU記憶體以及多節點記憶體備份系統,已能大幅降低故障恢復成本。

壁仞科技早前釋出的首款通用GPU芯片BR100創下全球算力紀錄,16位元浮點算力達到1000T以上、8位元定點算力達到2000T以上,單芯片峰值算力達到PFLOPS級別。該產品對比輝達在售旗艦GPU在Int8、BF16、TF32/TF32 、FP32數據格式下,效能優勢分別達到了3.3倍和13.1倍。

以上是壁仞科技副總裁丁雲帆關於算力瓶頸解決方法以及公司首款通用GPU芯片BR100的介紹。