Meta釋出開源AI模型Llama 3.1，訓練期間使用1.6萬個輝達H100 GPU

2024-07-25科技

當地時間 7 月 23 號，Meta 公司釋出了迄今為止最強大的開源 AI 模型 Llama 3.1。該模型不僅規模龐大，效能也堪比最強大的閉源模型。這稱得上是開源 AI 領域的一個重要裏程碑。

Llama 3.1 模型家族總共有三個版本，規模最大的旗艦版本擁有 405B（4050 億）參數，是近年來最大的開源 AI 模型。其余兩個較小版本的參數量分別是 700 億和 80 億。

Meta 聲稱，Llama 3.1 405B 模型在多項基準測試中的表現超過了 OpenAI 的 GPT-4o 和 Anthropic 的 Claude 3.5 Sonnet。

「到目前為止，開源大型語言模型在功能和效能方面大多落後於閉源模型。現在，我們正迎來一個由開源引領的新時代。」

Meta 在官方部落格中寫道，「迄今為止，所有 Llama 版本的總下載量已超過 3 億次，而這僅僅是個開始。」

（來源：Meta）

模型評估

據介紹，Llama 3.1 系列模型展現了多方面的能力提升，在常識、可操縱性、數學、工具使用和多語言轉譯等功能方面可與頂級 AI 模型相媲美。

Meta 對 Llama 3.1 進行了全面的評估，包括超過 150 個基準數據集的測試，涵蓋多種語言和任務型別。

此外，該模型還經過了廣泛的人工評估，與競爭模型在真實套用場景中進行比較。

圖 | 模型評估結果（來源：Meta）

總體而言，Llama 3.1 405B 模型在推理、數學等多項任務中的表現與 GPT-4、GPT-4o 和 Claude 3.5 Sonnet 相當，在長文本、多語言等領域甚至更勝一籌。

不過在程式碼基準測試中，Llama 3.1 405B 模型的表現不如 Claude 3.5 Sonnet。

圖 | 模型評估結果（來源：Meta）

此外，在小型模型效能對比中，Llama 3.1 的 8B 和 70B 模型均表現出色，與同等規模的閉源和開源模型相比具有很強的競爭力，在幾乎所有測試中都打敗了對手。

圖 | 模型評估結果（來源：Meta）

模型能力與套用

Meta 表示，Llama 3.1 系列模型的上下文視窗達到了 128K，相當於一本 50 頁的書，並且提供英語、德語、法語、義大利語、葡萄牙語、印地語、西班牙語和泰語等多語言支持，大大提升了長文本和多語種內容的處理能力。

Meta 生成式人工智慧副總裁艾哈邁德·達爾（Ahmad Al-Dahle）表示，Llama 3.1 模型能夠整合搜尋引擎應用程式編程介面（API，Application Programming Interface），根據復雜查詢從互聯網檢索資訊，並呼叫多個工具完成任務。例如，它可以生成並執行 Python 程式碼來繪制圖表。

不過，Llama 3.1 目前還不是多模態模型，僅支持文本輸入。但 Meta 表示，正在開發能辨識影像、視訊，並理解（和生成）語音的 Llama 模型。

在套用方面，與之前的 Llama 模型一樣，Llama 3.1 405B 可在亞馬遜 AWS、微軟 Azure 和谷歌 Cloud 等雲平台上下載或使用。它還會與 Meta 的產品結合，為使用者提供聊天機器人和資訊查詢等服務。

該模型目前已經用在 Meta.ai 和 Meta AI 虛擬助手上。從本周開始，Llama 3.1 將首先登陸 WhatsApp 和美國的 Meta.ai 網站，隨後幾周將上線 Instagram 和 Facebook。

雖然最先進的 Llama 3.1 405B 模型可以在 Meta.ai 上免費使用，但每周提示數量有限（上限不詳），超過限制則會切換到更小的 70B 模型。這似乎表明 405B 模型對於 Meta 來說還是太昂貴了，無法全面執行。