明尼蘇達大學雙城分校的工程研究人員展示了一種最先進的硬體裝置，它可以將人工智慧 (AI) 計算套用的能耗降低至少 1,000 倍。
這項研究發表在 【npj 非常規計算】 上，這是一本由【自然】雜誌出版的同行評議科學期刊。研究人員擁有該裝置所用技術的多項專利。
隨著人工智慧套用需求的不斷增長，研究人員一直在尋找方法來建立更節能的流程，同時保持高效能和低成本。通常，機器或人工智慧流程在邏輯（系統內處理資訊的地方）和記憶體（儲存數據的地方）之間傳輸數據，消耗大量的電力和能源。
明尼蘇達大學科學與工程學院的一組研究人員展示了一種數據永遠不會離開記憶體的新模型，稱為計算隨機存取記憶體（CRAM）。
明尼蘇達大學電氣與電腦工程系博士後研究員、論文第一作者楊呂表示：「這項工作是 CRAM 的首次實驗演示，其中數據可以完全在記憶體陣列內處理，而無需離開電腦儲存資訊的網格。」
國際能源署（IEA）於2024年3月釋出了全球能源使用預測，預測人工智慧的能源消耗可能會從2022年的460太瓦時（TWh）增加一倍至2026年的1,000 TWh。這大致相當於日本整個國家的電力消耗。
據新論文作者稱，基於 CRAM 的機器學習推理加速器估計可實作 1,000 量級的改進。另一個例子顯示，與傳統方法相比，能源節省了 2,500 倍和 1,700 倍。
這項研究已經進行了二十多年，「我們 20 年前直接使用儲存單元進行計算的最初想法被認為是瘋狂的」，該論文的資深作者、明尼蘇達大學電氣與電腦工程系傑出麥克奈特教授兼 Robert F. Hartmann 主席王建平 (Jian-Ping Wang) 說道。
王說：「自 2003 年以來，隨著學生群體的不斷發展，以及明尼蘇達大學建立起一支真正的跨學科教師團隊——從物理學、材料科學與工程、電腦科學與工程到建模和基準測試以及硬體建立——我們能夠取得積極的成果，現在已經證明這種技術是可行的，並已準備好融入技術中。」
這項研究是王教授及其同事長期不懈努力的一部份，該研究以磁隧道結 (MTJ) 器件的開創性專利研究為基礎，MTJ 器件是一種奈米結構器件，用於改進硬碟、傳感器和其他微電子系統，包括磁性隨機存取記憶體 (MRAM)，已用於微控制器和智慧型手錶等嵌入式系統。
CRAM 架構實作了真正的在記憶體中進行計算，打破了傳統馮·諾依曼架構中計算與記憶體之間的瓶頸——馮·諾依曼架構是一種儲存程式電腦的理論設計，是幾乎所有現代電腦的基礎。
「作為一種極其節能的數位記憶體計算基板，CRAM 非常靈活，可以在記憶體陣列的任何位置執行計算。因此，我們可以重新配置 CRAM，以最好地滿足各種 AI 演算法的效能需求，」計算架構專家、論文合著者、明尼蘇達大學電氣與電腦工程系副教授 Ulya Karpuzcu 表示。「它比當今 AI 系統的傳統構建模組更節能。」
Karpuzcu 解釋說，CRAM 直接在儲存單元內執行計算，有效利用陣列結構，從而無需緩慢且耗能的數據傳輸。
最高效的短期隨機存取記憶體 (RAM) 裝置使用四到五個晶體管來編碼 1 或 0，但 MTJ（一種自旋電子器件）可以以極低的能量執行相同的功能，速度更快，並且能夠適應惡劣環境。自旋電子器件利用電子自旋而不是電荷來儲存數據，為傳統基於晶體管的芯片提供了更高效的替代方案。
目前，該團隊一直計劃與明尼蘇達州等半導體行業領導者合作，提供大規模演示並生產硬體以推進人工智慧功能。
