當前位置: 華文世界 > 科技

價格驟降96%~97%!OpenAI「殺入」小模型

2024-07-23科技

當地時間7月18日,OpenAI正式推出新一代入門級別人工智慧模型「GPT-4o mini」,稱這款新模型是「功能最強、價效比最高的小參數模型」,旨在服務更廣泛的客戶群體。這也意味著開發人員如今有了一種輕量級且廉價的工具,讓他們能夠以更低的成本構建AI應用程式。

外媒報道中稱,目前,GPT-4o mini模型的應用程式編程介面支持文本和視覺,未來將支持文本、影像、視訊和音訊的輸入和輸出。

更重要的是,最新的GPT-4o mini比GPT-4o便宜了96% ~97%,比起GPT-3.5 Turbo也要便宜60%~70%。正因如此,隨著GPT-4o mini上架,GPT-3.5Turbo的歷史使命到此結束。OpenAI還表示,GPT-4o mini是第一個使用其全新安全策略「指令層級」的AI模型。

對於為何未能更早推出「小而精」的AI模型,OpenAI的API產品負責人Olivier Godement表示,這純粹是優先級的問題,隨著時間的推移,OpenAI註意到開發人員越來越渴望使用較小的模型,這也讓公司決定投入資源開發GPT-4o mini。

近日,OpenAI正式推出「GPT-4o mini」,稱這款新模型是「功能最強、價效比最高的小參數模型」,旨在服務更廣泛的客戶群體。圖為OpenAI執行長艾爾特曼。 視覺中國圖

同級別價位最低

據OpenAI,GPT- 4o mini的API價格將會是15美分/100萬Tokens輸入,以及60美分/100萬Tokens輸出。上下文視窗依然是12.8萬個Tokens,知識截至日期為2023年10月。公司拒絕透露新模型的參數量大小,僅表示與市面上類似的AI小模型處於同一個級別。

作為對比,GPT-4o的百萬Tokens輸入和輸出價格分別是5美元和15美元,之前的入門款模型GPT-3.5 Turbo定價分別是0.5美元和1.5美元。這就是說,最新的「迷你模型」的價格比GPT-4o便宜了96%~97%,比起GPT-3.5 Turbo也要便宜60%~70%。正因如此,隨著GPT-4o mini上架,GPT-3.5 Turbo的歷史使命到此結束。

根據Artificial Analysis的統計,GPT-4o mini已經達到美國AI公司主流「小模型」裏面價格最低的位置,比起Anthropic、谷歌的同型別競品都要便宜一截。

OpenAI稱,最新的GPT-4o mini從18日起向ChatGPT的免費使用者以及ChatGPT Plus和ChatGPT Team的訂閱使用者開放,並將在其後一周向ChatGPT Enterprise使用者開放。GPT-4o mini將取代ChatGPT中的舊模型GPT-3.5 Turbo。

OpenAI 表 示 ,GPT- 4o mini目前在聊天偏好上的表現優於GPT-4,在大規模多工語言理解測試(MMLU)中的得分為82%。MMLU是一個文本智慧和推理基準,用於評估語言模型的能力。MMLU分數越高,越能表明該模型可以更好地理解和使用各種領域的語言,從而增強現實世界的套用。

而在這項測試中,同為小參數模型的谷歌Gemini Flash得分為77.9%,Claude Haiku得分為73.8%。在更大參數的模型中,GPT-3.5在這項測試中的得分為70%,GPT-4o得分為88.7%,谷歌Gemini Ultra據稱取得了有史以來最高分(90%)。

值得註意的是,研究人員對像MMLU這樣的基準測試持謹慎態度,因為不同公司的管理方式略有不同,因此不同模型的得分難以比較。還有一個問題是,模型的資料庫中可能有這些答案,也就是說可以作弊,而且通常沒有第三方評估人員參與這個過程。

入局小模型的背後

外媒報道中稱,GPT- 4o mini的推出也是OpenAI推動「多模態」(multimodality)技術發展努力的一部份,多模態指的是在一個大模型中提供多種型別的AI生成媒體,如文本、影像、音訊和視訊。

不僅如此,這一全新小模型也承載著幫助OpenAI走入更廣泛的客戶群體的期望。OpenAI在今年早些時候的最新一輪融資過後,估值已經超過800億美元。雖然是全球生成式AI領域估值最高的「獨角獸」,但OpenAI仍面臨壓力:一方面要保持其在生成式AI市場的領先地位;另一方面,由於其在AI基礎設施上投入了大量資金以構建和訓練模型,因此還要想方設法盈利。

GPT-4o mini為開發人員提供一種輕量級且廉價的工具,讓他們能夠開發出所有的應用程式和工具。相對而言,GPT-4這種更大、更昂貴的模型是他們無法負擔得起的。此前,許多開發人員選擇轉向Claude 3 Haiku或Gemini 1.5 Flash。

而且,GPT-4o mini是第一個使用OpenAI全新安全策略「指令層級」的AI模型。這種方法的目的是使AI系統優先處理某些指令——例如來自公司的指令。

OpenAI的API產品負責人Olivier Godement在接受媒體采訪時解釋了為何該公司未能更早推出「小而精」的AI模型,他說,這純粹是優先級的問題,因為OpenAI專註於建立更大、更好的模型,如GPT-4,這需要大量的人力和計算資源。隨著時間的推移,OpenAI註意到開發人員越來越渴望使用較小的模型,因此公司認為現在是投入資源開發GPT-4o mini的時機。

「我們的使命是使用最前沿技術、構建最強大、最有用的應用程式,我們當然希望繼續做前沿模型,推動技術進步。」OpenAI的API產品負責人Olivier Godement在接受媒體采訪時說:「但我們也希望擁有最好的小模型,我認為它會非常受歡迎。」

「我認為GPT-4o mini真正體現了OpenAI讓AI更加普及的使命。如果我們希望AI惠及世界的每一個角落,每一個行業,每一個套用,我們必須讓AI更加實惠。」Godement說道。

目前,金融科技初創公司Ramp已經使用GPT-4o mini構建了一個工具,可以提取收據上的費用數據。使用者無須費力地瀏覽文字域,只需上傳一張收據的圖片,該模型就會進行分類。

電子信件客戶端Superhuman也對GPT-4o mini進行了測試,並用它建立了一個自動建議信件回復的功能。

每日經濟新聞