當前位置: 華文世界 > 科技

全球最大神經擬態系統誕生,比人腦快200倍!

2024-05-11科技

全球最大神經擬態系統誕生,比人腦快200倍!

美國英特爾公司(Intel)日前宣布,該公司已開發出世界上最大的模擬神經模擬系統,其中包含 15 億個神經元、1280 億個突觸,速度比人腦快 200 倍。

名為 "Hala Point "的英特爾 Loihi2 處理器旨在支持解決人工智能領域的當前問題,以實作高效和可持續發展。

據說,Hala Point 是英特爾首個大規模研究系統,經過結構最佳化,神經元容量提高了十倍以上,效能提高了十二倍。

英特爾研究院神經模擬電腦實驗室負責人米克?戴維斯是英特爾研究院神經模擬電腦實驗室的負責人,他說:"如今,人工智能模式的計算成本已經高得令人望而卻步。該行業需要一種全新的拓展方式。為此,該專案提出了一種新的基於深度學習的類腦學習和最佳化機制。透過與 Hala Point 的合作,我們有望大規模提高人工智能的處理效率和適應力。

HalaPoint:整合了 1152 個 Loihi2 和 2300 多個嵌入式 X86 處理器。

基於 Loihi2 的仿神經處理器是 Hala Point 的核心,其核心理念基於異步、事件驅動、脈沖神經網絡(SNN)、記憶體與計算的整合以及稀疏/連續可變的連線,從而在功耗和效能方面實作了數量級的改進。神經元之間不使用記憶體,而是相互通訊,從而降低了總體功耗。

△Loihi2芯片

Loihi2 采用英特爾 4 納米工藝開發,內核面積為 31 平方毫米,內建 128 個非揮發性內核(192 KB 緩存)、6 個英特爾 X86 內核,由於芯片工藝的改進,Loihi2 的神經元數量達到 100 萬個,是前代產品的 7.8 倍,但同時也減少到了 1.2 億個。Loihi2 能夠根據神經元模型的要求,整合多達 4096 種不同狀態。在這一點上,Loihi 的計算速度是第一代的 10 倍。

HalaPoint 使用 1,152 個 Loihi2 處理器,這些處理器由英特爾公司采用 4 行程制造方法制造,安裝在一個微波爐大小的 6 機架數據中心機箱中。該系統由 140,544 個模擬內核組成,最大功率為 2,600 W。此外,該系統還有 2,300 多個嵌入式 X86 處理器來支持計算。

Hala Point 是一種大規模並列架構,結合了三個處理、記憶體和通訊通道,記憶體頻寬高達 16 PB/s,內核間頻寬高達 3.5 PB/s,片上通訊頻寬高達 5 TB/s。該系統能夠在一秒鐘內執行超過 380 兆位的八位神經突觸和超過 240 兆位的神經算術運算。

將該方法套用於生物神經脈沖網絡,HalaPoint 系統可對 11 億個神經元執行操作,速度比人腦快 20 倍,在處理少量數據時可快達 200 倍。雖然 HalaPoint 並未用於神經科學建模,但它的神經元數量與貓頭鷹和卷尾猴差不多。

在之前的研究中,Hala Point 公司的研究結果表明,深度神經網絡無需收集大量數據即可實作 15 TOPS/W 的效能,大大縮短了網絡攝影機拍攝影片的處理時間。盡管仍處於研究階段,但具有持續學習能力的 LLM 模型未來將減少對大量數據進行定期再訓練的需求,從而節省 10 億千瓦時的能源。

據英特爾公司稱,Hala Point 是首個用於主流人工智能任務的大規模神經網絡仿真系統。實驗結果表明,該演算法能夠在15億8位元/秒(TOPS/W)的條件下實作20 petaops/s/s的速度。Hala Point 擁有全新的專有人工智能套用,可用於解決科學和工程問題、物流、智能城市基礎設施管理、大規模語言建模和人工智能。

哈拉點的作用和重要性

桑迪亞國家實驗室的研究人員打算將 "Cape Harlequin "套用於高級腦計算研究。該小組將重點研究器材物理學、電腦體系結構、電腦科學和資訊科學。

桑迪亞國家實驗室哈拉點研究小組的 Craig Vineyard 說:"與哈拉點的合作使我們的研究小組在計算和科學模型處理方面取得了長足的進步。桑迪亞國家實驗室哈拉點研究小組的 Craig Vineyard 說:"有了這種規模的系統,我們就能跟上從商業到國防到基礎學科的所有領域。

Hala Point 現在是一個研究原型,可以提高未來業務系統的效能。英特爾預計,它所學到的知識將帶來切實的進步,例如 LLM 能夠不斷從新數據中汲取知識。這種進步有望大大減輕大規模人工智能部署所帶來的難以忍受的培訓負擔。

近年來,深度學習模型的數量已增長到幾萬億個,這一趨勢凸顯了人工智能在可持續性方面面臨的重大挑戰。神經模擬是一種技術,它利用神經科學的洞察力,將記憶和運算與高精度平行計算結合起來,最大限度地減少數據傳輸。在本月舉行的聲學、語音和訊號處理國際會議上,Loihi 2(Loihi 2)展示了在計算效率、速度和適應力方面的顯著改進。

基於其前身 Pohoiki Springs,Hala Point 可以模擬傳統的深度學習模型,用於影片、語音和無線通訊等真實世界的套用場景。例如,愛立信研究院已經利用 Loihi2 最佳化了通訊基礎設施,並在今年的世界流動通訊大會上進行了演示。

英特爾表示,下一步,"HalaPoint "將在美國桑迪亞國家實驗室交付使用,這是英特爾首次使用這種新型、大規模的神經模擬研究系統,它將與其研究夥伴共享。預計這個專案的研究成果將為神經仿真數據處理帶來突破,而目前神經仿真數據處理還在能耗、延遲等問題上苦苦掙紮。

英特爾與 200 多家國際知名學術機構、政府實驗室、研究機構、公司和其他組織聯合成立了英特爾國際公司,共同推進類腦人工智能領域的研究。其目標是在未來幾年將該領域的研究成果轉化為業界領先的商業產品。

出版商:核心情報局 - 格拉斯哥流浪之劍