當前位置: 華文世界 > 科技

想打破輝達壟斷!初創公司TensorWave雲服務只用AMD芯片

2024-10-09科技

AI熱潮方興未艾,讓輝達成為當仁不讓的霸主,該公司的GPU已成為各種規模的AI公司首選的芯片。然而,媒體報道,成立於去年年底的公司TensorWave正在逆流而上,推出了一個僅提供輝達競爭對手AMD硬件的雲服務,處理AI工作負載。

TensorWave的行政總裁兼聯合創始人Darrick Horton在接受TechCrunch采訪時表示:

「我們意識到這是一個不健康的壟斷現象,這是一個導致終端使用者無法獲得計算資源並抑制AI領域創新的現象。出於我們希望AI大眾化的願望,我們決定提供一個可行的替代方案,恢復競爭和選擇權。」

落戶賭城

根據報道,Horton與TensorWave的其他兩位聯合創始人Jeff Tatarchuk和Piotr Tomasik是透過Pickleball運動認識的,隨後就GPU算力的壟斷導致供應限制的問題達成共識,最終促使TensorWave。

TensorWave總部位於拉斯維加斯,對於一家雲基礎設施初創公司來說,這是一個不尋常的選擇。但Horton表示,團隊看中了這個機會。「我們認為拉斯維加斯有潛力成為一個蓬勃發展的技術和初創公司生態系。」

這個預測並非完全脫離現實。根據Dealroom.co的數據,拉斯維加斯擁有600多家初創公司,僱用了11,000多名員工,並在2022年吸引了超過40億美元的投資。

與許多美國主要城市相比,拉斯維加斯的能源成本和營運費用也較低。此外,Tomasik和Tatarchuk與當地的風險投資社區有著緊密的聯系。

Tomasik之前曾是總部位於拉斯維加斯的種子基金1864 Fund的普通合夥人,現在與非營利加速器StartUp Vegas和Vegas Tech Ventures合作。Tatarchuk是孵化器機構Fruition Lab的天使投資人。

這些聯系幫助TensorWave成為了市場上首批提供AMD Instinct MI300X例項處理AI工作負載的雲服務之一。TensorWave提供按小時租用GPU計算資源的服務,並要求至少六個月的合約期限。

以AMD為中心

媒體報道,目前低成本、按需服務的GPU雲市場正在蓬勃發展。而Horton表示,TensorWave的有利競爭明顯。

首先是價格。Horton指出,AMD MI300X的價格比當前最受歡迎的輝達GPU p00便宜得多,這使得TensorWave能夠將節省的成本傳遞給客戶。他沒有透露TensorWave的具體例項定價,但如果想要打敗p00,定價必須低於2.50美元/小時。

其次是效能。Horton參照了基準測試數據,顯示MI300X 在執行(但不是訓練)AI模型方面優於p00,尤其是在像Meta的Llama 2這樣的文本生成模型上。

除了TensorWave,其他押註AMD AI芯片的公司包括初創公司Lamini和Nscale,以及更大型、根基更深厚的雲供應商,如Azure 和Oracle。

分析認為,當前對AMD芯片使用者的有利因素是輝達GPU持續短缺,以及輝達即將推出的Blackwell芯片的延遲。不過,隨著關鍵芯片元件(特別是記憶體)的制造加速,短缺可能很快會緩解。這將使輝達能夠加大p00的出貨量,這款新品的效能得到了顯著提升。

對於依賴AMD硬件的新興雲服務商來說,另一個存在的挑戰是如何跨越輝達圍繞AI芯片構建的競爭壁壘。業界普遍認為,輝達的開發軟件更為成熟且更易於使用,並且已被廣泛部署。甚至AMD行政總裁蘇姿豐也承認,采用AMD芯片「需要付出努力」。

更遠的前景來看,隨著超大規模公司增加對客製硬件的投資,專註於價格競爭的挑戰可能會日益艱難。例如,Google提供其TPU;微軟最近推出了兩個客製芯片Azure Maia和Azure Cobalt;而亞馬遜AWS擁有Trainium、Inferentia和Graviton。

但Horton表示:

「隨著開發人員尋求能夠有效處理其AI工作負載的替代方案,尤其是在記憶體和效能需求增加的情況下,加上生產問題導致的延誤,AMD將在未來更長時間內保持領先地位,並在AI時代的計算大眾化中發揮關鍵作用。」

預計年底經常性收入增長8倍 估值已達1億美元

TensorWave目前已有300萬美元的年經常性收入。Horton表示,一旦TensorWave將其MI300X的容量提高到20000個,預計到經常性收入年底將達到2500萬美元,增長8倍。

假設每個GPU的成本為15000美元,那麽20000個MI300X將意味著一筆3億美元的投資,然而Horton聲稱,TensorWave的資金消耗率「完全在可持續水平內」。TensorWave此前曾表示,將使用其GPU作為大規模債務融資的抵押品,這是其他數據中心營運商采用的一種方法,Horton 表示這仍然是該公司計劃的一部份。

他繼續說道:

「這反映了我們強勁的財務健康狀況。我們透過在最需要的地方提供價值,戰略性地定位自己,以應對潛在的逆風。」

不過,當被問道TensorWave目前有多少客戶時,Horton由於「保密原因」拒絕回答,但強調了TensorWave已公開宣布的與網絡骨幹供應商Edgecore Networks和由前Neuralink工程師創立的AI推理初創公司MK1的合作夥伴關系。

Horton表示,該公司正在迅速擴大算力,以滿足日益增長的需求。他還補充道,TensorWave計劃在今年年底開始使用的AMD可能在四季度推出的下一代MI325X GPU。

投資者對TensorWave的增長軌跡表示滿意。Nexus VP在周三透露,該機構領投了一輪4300萬美元的融資,參與者還包括Maverick Capital、StartupNV、Translink Capital和AMD Ventures。這是TensorWave的第一圈融資,融資後該公司的估值達到1億美元。

本文來自華爾街見聞,歡迎下載APP檢視更多