當前位置: 華文世界 > 科技

IBM Cloud 成首家采用英特爾 Gaudi 3 AI 加速器雲服務供應商

2024-08-31科技

IT之家 8 月 30 日訊息,根據雙方新聞稿,「藍色巨人」IBM 旗下雲服務供應商 IBM Cloud 將率先匯入英特爾 Gaudi 3 AI 加速器。

IBM Cloud 將於 2025 年初推出 基於英特爾 Gaudi 3 AI 加速器和第五代至強處理器的雲服務,為企業提供更經濟高效的 AI 執行平台選擇。

對於生成式 AI 推理工作負載,IBM 計劃在其 AI 與數據平台 watsonx 上啟用對英特爾 Gaudi 3 的支持,為 watsonx 客戶提供額外的 AI 基礎設施資源,以便在混合雲環境中擴充套件其 AI 工作負載,而幫助最佳化模型推理的性價比。

IBM Cloud 總經理 Alan Peacock 表示:

IBM 致力於透過提供滿足客戶業務需求的解決方案,幫助客戶推動 AI 和混合雲創新。我們致力於透過 IBM Cloud 實作安全性和彈性,這有助於推動 IBM 為企業客戶制定混合雲和 AI 戰略。

利用 IBM Cloud 上的英特爾的 Gaudi 3 加速器,將為我們的客戶提供靈活的企業 AI 解決方案,旨在最佳化成本效能。我們正在釋放潛在的新 AI 商機,旨在讓客戶以更具成本效益的方式測試、創新和部署 AI 推理解決方案。

英特爾 Gaudi 3 AI 加速器采用 5nm 制程,包含 64 個 TPC(IT之家註:張量處理核心)與 8 個 MME(矩陣乘法引擎),板載 96MB SRAM 緩存,配備 128GB HBM 記憶體。