一覺醒來,每秒能輸出500個tokens的大模型Groq刷屏全網。
堪稱是「 世界上速度最快的LLM 」!
相比之下,ChatGPT-3.5每秒生成速度僅為40個tokens (token,中文名稱為令牌,是一種特殊的電腦術語,常用於網路通訊的數據的管理和校驗。簡單地說,token就是一種代表數據元素的識別元,它可以代表某個特定的數據型別,如數位、字串、陣列等等)。
有網友將其與GPT-4、Gemini對標,看看它們完成一個簡單程式碼偵錯問題所需的時間。
沒想到,Groq完全碾壓兩者,在輸出速度上 比Gemini快10倍,比GPT-4快18倍。
![](https://img.jasve.com/2024-2/2961ba719a8ac9289befb4ec86d50b9b.webp)
最關鍵的是,任何人可以 免費用 !
有人評價說:「Groq的問世是AI領域的一大突破,它不僅提高了處理速度,也為AI套用的實際部署和廣泛套用開辟了新的可能性……也許未來算力就像水電一樣便宜,人工智慧也會無處不在。」
01
Groq模型究竟有多快?
周星馳電影【功夫】中有句經典台詞:「天下武功,無堅不摧,唯快不破!」
![](https://img.jasve.com/2024-2/922e62a6a70c58ef31a65b18311e20a2.webp)
可見,一個「快」字,往往就能決定一件事物的好壞。
那麽,剛剛誕生的超級王炸人工智慧新產品Groq模型究竟有多快?
每秒500 tokens!
什麽概念?
下面這張圖進行了專業解釋:
![](https://img.jasve.com/2024-2/60e0db0b30529b0d92d5603c3afd323b.webp)
仔細看紅框內的圖示部份,Groq模型的響應速度可謂「一枝獨秀」。
網友表示:這速度簡直就是 飛機vs走路 。
![](https://img.jasve.com/2024-2/f08f906cda17a31e16d40e52359c1092.webp)
有人說,Groq的回復速度 比眨眼睛還要快 !直接碾壓輝達GPU!
也有人說,Groq LPU搭配Meta Llama 2 70B能在7分鐘內就能生成與莎士比亞【哈姆雷特】相同數量的單詞, 比普通人的打字速度快75倍!
需要註意的是,Groq並沒有創造出全新的AI模型,而是像是在為現有的模型裝上了一雙「翅膀」,讓它們飛得更快!
透過使用自家開發的LPU芯片,Groq讓AI的響應速度達到了前所未有的高度。
就像比賽中的賽車,遠遠拋棄了其他競爭對手。
這種速度的提升,讓等待AI回復的過程,從煎熬變成了享受。
02
AI開啟「百家爭鳴」時代
2024年正月還未過完,科技界就已經發生了4件大事:
第一件事:輝達在一周前宣布推出Chat With RTX,這是一款智慧聊天機器人套用計畫,類似OpenAI的ChatGPT和百度的文心一言,使用者可在本地構建人工智慧聊天套用。
第二件事:OpenAI在三天前推出了王炸級文生視訊大模型Sora,它能夠僅僅根據提示詞,生成60s的連貫視訊,「碾壓」了行業目前大概只有平均「4s」的視訊生成長度,引發「行業大地震」!
第三件事:谷歌AI推出Gemni1.5版本,可處理超過100萬個tokens的輸入視窗,直接碾壓GPT-4,最牛之處還在於,它能一眼識破Sora視訊是否由AI生成!
第四件事:就是今天我們正在談論的事,最快大模型Groq憑借其響應速度和可能無需GPU的新技術,將開啟新的「神話」!
一年之前,也是在中國新年期間,ChatGPT進入大眾視野,顯示出在自然語言互動領域的重大突破。一年之後,Sora則在AI視訊領域一舉登上行業巔峰,Groq則以響應速度最快領跑全行業。
其實,不管是ChatGPT、GPT-4還是最近爆火的Sora和Groq,可以預見的是, 人工智慧已經進入到了名副其實的「 百家爭鳴 」時代。
![](https://img.jasve.com/2024-2/177b9644bb9e9b8148b3f51dd2df7a72.webp)
03
普通人如何搭乘「AI疾馳的列車」?
AI究竟有哪些「本領」?為何它每一次叠代升級都能引發全球熱議?
AI聊天、AI繪畫、AI音樂……生活中,AI的影子無處不在;
AI智慧導航、機器人看孩子照顧老人、機器人「上天入地」;
生成式AI可將輸入內容,變成小說、電影、藝術作品;
生物醫療、無人駕駛、氣象預報……AI技術市場規模巨大;
……
「AI革命」逐步來臨, 對人類社會將產生顛覆式影響。
「很快我們將不再討論人工智慧,因為人工智慧已經融入到生活中,無處不在。」
近一兩年來,人工智慧的成果此起彼伏,在AI帶來飛速變革的時代,無論是國家,還是個人,必須握緊AI的韁繩,稍不留神,就會被甩下!
在全面進入人工智慧時代的行程中, 迅猛發展的科技狂潮並不可怕,可怕的是你沈浸在過去的安樂世界裏而不自知,還 拒絕改變和學習 !
如果你不想被AI這輛「高速疾馳的列車」甩下,請現在就立刻開始學習!
科技變革的潮流不可怕,可怕的是看到這種變革,一邊故意「把脖子縮在衣領裏」,成為一個「裝在套子裏的人」,一邊還說著自己實在無能為力!
想改變,就趁現在!