當前位置: 華文世界 > 科技

不到21元就能使用輝達H100一小時!矽谷公司SF Compute發力「共享AI算力」

2024-07-23科技

自去年以來,人工智慧的熱潮席卷全球,但時至今日,該領域的一個核心挑戰仍是價格高昂的算力。相對於大型企業,對初創公司來說,能否獲得處理AI所需的巨大算力負荷的芯片成了決定成敗的關鍵。

為了幫助規模相對較小的公司獲得所需的算力資源,美國一家名為San Francisco Compute Co.(以下簡稱SF Compute)的初創公司搭建了一個平台,幫它們找到了近乎完美的解決方案:算力租賃。

SF Compute的商業模式有點類似Airbnb在住宿領域的做法:透過共享和按需租賃,讓使用者以較低成本獲取所需資源,短時間內使用大量計算能力。在這種模式下,輝達p00 GPU一小時的使用權不到21元人民幣。

近日,OpenAI執行長Sam Altman親弟弟Jack Altman主理的Alt Capital領投了SF Compute 1200萬美元的種子輪融資,使後者的估值達到了7000萬美元(約5億元人民幣)。

AI算力界「Airbnb」
OpenAI CEO的親弟弟領投

訓練生成式人工智慧不僅需要硬體,還要面臨大量的數據儲存需求和密集的能源消耗。要處理大量的數據計算必然面臨著高昂的訓練成本。以OpenAI的GPT-3訓練為例,其成本就超過了500萬美元。

在當前高效能計算需求日益增長的背景下,SF Compute以其創新的短期算力租賃服務,顛覆了傳統長期合約的模式。與傳統供應商(通常需要與其簽訂1~3年的長期合約)不同,SF Compute提供按周、按天,甚至按小時計費的算力租賃服務,滿足了使用者對計算資源的動態需求。同時,公司具備可延伸的集群,讓使用者根據實際需求來動態調整其計算資源使用量,完全實作「GPU客製自由」。

使用者可以租768個p00使用一周,也可以借8個p00執行2小時。針對512~4096個GPU的大規模預訂,SF Compute還提供了有競爭力的定價,例如租賃512個p00兩周只需50萬美元,遠低於其他供應商處一年1200萬美元的價格。

這種以實惠價格「爆發式」存取巨大算力的靈活選項,特別適合需要高效能計算但不想承擔長期財務負擔的使用者,包括資金有限、業務可能快速變化的AI初創公司,以及需要強大算力支持的短期實驗室或研究計畫等。

根據SF Compute官網資訊,當前輝達p00 GPU的使用價格為2.85美元/小時(約20.7元人民幣/小時),下一個可用時段是8月5日。而且,可用容量在逐步增加,到明年1月6日將達到912個p00 GPU。

目前有三個公共算力集群在部署中:Angel Island集群有192個p00 GPU,於去年11月上線。Bay Bridge和Coit Tower分別有512和1024個p00 GPU,計劃明年春季上線。

近日,SF Compute完成了高達1200萬美元的種子輪融資,相當於8000個輝達超高算力AI芯片p00所需的資金。本輪融資由OpenAI執行長Sam Altman親弟弟Jack Altman主理的Alt Capital領投,SF Compute的估值由此達到7000萬美元(約人民幣5億元)。

Jack Altman認為,SF Compute的業務會有一系列的套用場景,風投公司和其他有GPU長期交易的公司都可以利用SF Compute的交易平台購買或出售GPU的使用權。Jack Altman稱,「許多風投公司都可能成為我們的客戶,我們認為這是一個非常合理的發展方向。」

16名員工中有10人都是前創始人

SF Compute成立於2023年,總部位於舊金山被稱為「腦谷」的Hayes Valley。該公司的創立也非常有意思,創始人Alex Gajewski和Evan Conrad是在嘗試建立一家AI音樂初創公司時萌生成立這家公司的想法的。

Conrad在科技行業擁有豐富的職業生涯,他曾在OpenAI的ChatGPT Enterprise部門短暫工作過,在專註於AI賽道的早期基金和孵化器AI Grant中擔任過八個月的董事。Gajewski是一家人工智慧搜尋初創企業的聯合創始人。兩人因合租而相識後,開始了AI音樂初創公司的構想,為了擴充套件音樂生成模型並向潛在投資者展示成果,他們聯系了當時的每一家GPU供應商,希望獲得1個月的算力存取許可權,結果被告知最少購買期限是一年。

他們當時的解決方案是聯系其他同樣需要算力的AI初創公司創始人——如果有十幾家初創公司加入,他們就可以共享一份為期一年的合約。而在短短幾周內,就有170家AI初創公司的創始人與他們簽約。看到龐大的市場需求,兩人毅然決然放棄了創辦AI音樂初創公司的夢想,決定成為一家GPU「雲供應商」,專門提供短期的GPU租賃服務。

SF Compute的早期客戶包括哈佛大學和普林斯頓的研究實驗室,以及PlayHT、Phind和Liquid AI等初創公司。

目前SF Compute在LinkedIn的關聯員工為16個人。Evan Conrad在X發文透露,其中有10名員工都是前創始人。他們也正在招聘核心基礎設施工程師、機器學習系統工程師和產品工程師職位。利用最新的融資,SF Compute將建立交易平台,還計劃在未來一年內將其工程人員規模增加一倍至30人。

【每日經濟新聞】記者註意到,其實SF Compute並不是唯一提供算力租賃的初創企業,也不是首家轉向提供AI基礎設施的初創企業。例如,Lambda最初就是一家面部辨識公司,後來將重點轉向為英特爾和美國國防部等客戶提供按需GPU集群。在這一領域的其他公司還包括Vast.ai、RunPod,以及獲輝達投資的CoreWeave(據稱其估值已接近190億美元)。

記者|蔡鼎

編輯|程鵬 蘭素英 杜恒峰

校對|盧祥勇

|每日經濟新聞 nbdnews 原創文章|

未經授權禁止轉載、摘編、復制及映像等使用

每日經濟新聞