看板 Tech_Job 關於我們 聯絡資訊
結合人工神經元和RRAM的新晶片 強化AI邊緣運算效率並在穿戴式和無人機應用 https://bit.ly/3AOLeER 一篇新發表在Nature的研究論文描述了一種記憶體內運算(Compute-in-Memory;CIM)晶 片,該晶片將人工神經元與電阻式記憶體(RRAM)相結合,從而可以在同一晶片上儲存和 處理AI模型。該設計消除了運算和記憶體之間的數據移動,因此對邊緣應用程式的效果更 佳。 根據IDC,邊緣運算和AI都有望在不久的將來迅速成長。如今一些應用場景將它們兩個結 合在一起,因為配置邊緣運算可能會受到功率和連網性的限制,但仍需要分析大量數據並 對事件提供近乎即時反應,從而使AI模型可在裝置中運行,CIM就成為了最佳的解決方案 。 現在,有研究人員開發了NeuRRAM晶片,這是一種將人工神經元與RRAM結合在一起的新穎 架構。該專案的目標是提供一種能夠同時提供高能源效率以及支持各種AI模型的多功能設 計,且能在軟體中運行相同模型時可獲得相當的準確性。 研究員表示,NeuRRAM被開發為AI晶片之後,將可大大提高AI推理的能源效率,從而在電 池供電的邊緣裝置中實現複雜的AI功能,例如:智慧穿戴式裝置、無人機和工業物聯網感 測器等,都是可以應用的領域。 以前有關於CIM架構的研究都聚集在軟體層面,但是這一次卻是在硬體中展示廣泛的AI應 用程式,是非常大的突破。 NeuRRAM是由48個CIM核心組成,總共包含300萬個RRAM單元。每個核心都是一個TNSA( transposable neurosynaptic array),由256 × 256 RRAM單元的網格和256個CMOS人 工神經元電路組成。 根據該論文,TNSA架構旨在提供對數據流方向的靈活控制,這對於支持具有不同數據流模 式的各種AI模型至關重要。 NeuRRAM可重構的秘訣在於它將CMOS神經元電路分佈在RRAM單元之間,並沿著行和列的長 度將它們連接起來。且每個TNSA被分解成許多小核,每個小核由16 × 16 RRAM單元和一 個神經元電路組成。小核通過水平方向的共享BL(bit-lines)和WL(word-lines) 以及 垂直方向的SL(source-lines)連接。這種安排意味著可以通過配置在每個神經元電路的 輸入和輸出階段使用哪個開關來實現不同的數據流方向。 根據該論文,該晶片將採用130奈米CMOS 技術製造,預計效能會隨著技術演進而提高。如 今許多晶圓代工廠已經具備製造RRAM的能力,但主要用於嵌入式記憶體,而不是用於CIM 。一旦RRAM 能為IC設計人員提供更廣泛的應用之後,NeuRRAM產品就可能會出現。預計商 品化還要兩至三年的時間才能達成。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1661498624.A.53E.html
yijuabcde : 10年 08/26 16:30
IntroRomeo : AI邊緣運算..用在武器就太恐怖了 而且130奈米就可以 09/04 22:45
IntroRomeo : 了 09/04 22:45