精華區beta Tech_Job 關於我們 聯絡資訊
http://pansci.tw/archives/50530 仿人類神經元的電腦晶片可以用更少的能量做更多事! 夸比納‧鮑恩(Kwabena Boahen)在1982年時得到他第一台電腦,當時他只是個住在迦納首 都阿克拉的青少年。他回想道:「那是一個很酷的裝置。」只要將儲存用的卡帶機和充作 螢幕的電視連接在一起,就可以開始寫程式。 但是當鮑恩發現電腦的運作原理時,他有點失望:「當我知道電腦的中央處理器(CPU) 必須不斷將數據在RAM和ALU之間來回處理時,我心想:『天啊!CPU竟然要這樣瘋狂運作 到死,電腦才能用。』」當下他直覺地想說電腦的設計需要一點「非洲元素」:多一點分 散和流動,不要那麼死板。 鮑恩現在是加州史丹佛大學的生物工程師,跟一群研究員試圖透過對腦的反向工程,開發 出這種「分散又流動」的計算模式。人類的大腦其實是一個高效又節能的器官,用沒那麼 完美、又慢又雜亂的的神經元,就可以處理一些對世界上最厲害的超級電腦而言都很棘手 的問題:理解語言、抽象思考還有控制動作等。 而這個比鞋盒還小的腦,不但不需要用到中央處理器,還只用了比家裡電燈泡還少的能量 。為了讓矽晶片達到同樣的效率,研究人員想要做出非數位式的晶片,盡量模擬生物神經 元運作的方式。就在幾年前,鮑恩的團隊製作出一個能夠模擬一百萬個神經元運作的裝置 ——Neurogrid(神經網絡),相當於一隻蜜蜂腦中的神經元數量。 在經過將近四分之一世紀的研究,仿神經型態技術(neuromorphic technology)的應用 趨於成熟。這種技術被看好能應用在任何體積小、追求低耗能的裝置上,像是智慧型手機 、機器人,甚至人造眼、人造耳等。因此過去五年來,這種技術吸引了很多投資人,在美 國和歐洲投入數億美金研發。 「仿神經型態裝置也提供神經科學家一個有力的研究工具。」瑞士蘇黎世大學神經資訊研 究所(Institute of Neuroinformatics,INI)的賈科莫‧印地維里(Giacomo Indiveri )表示。在這些裝置上實地測試各種神經功能理論模型,可以幫助科學家瞭解大腦的運作 方式。 不僅如此,仿神經型態技術也可以使晶片突破摩爾定律的物理極限。摩爾定律由英特爾創 辦人戈登‧摩爾提出,指積體電路上可容納的電晶體數目,約每隔24個月便會增加一倍, 而這個趨勢已經持續超過半世紀。照這電晶體不斷縮小的趨勢,總有一天這些電路會因太 小太過緊密,讓電子逸出零件互相干擾,訊號不穩。有些工程師嘗試用軟體的方法解決, 例如目前已用在讓網路跑得順暢的統計誤差校正。不過最終而言,鮑恩認為最佳的解決方 法還是生物在幾百萬年前就發展出的模式:大腦。 「我的目標是一個全新的計算方法,一個即便零件太小而不夠可靠,仍然可以進行計算的 方法。」鮑恩說。 矽胞 仿神經型態技術的起源可以追溯至世界知名的微晶片設計先驅-加州理工學院的卡佛‧米 德(Carver Mead),他在1980年代發明了這個詞,並且著迷於大腦不同凡響的能源效率。 米德說他深深地被這個問題吸引:「到底腦是怎麼用這麼少能量完成這麼多事呢?」 於是米德想到了一個方法:用亞閾值(sub-threshold)的矽晶片,也就是在低於可以讓電 腦位元從0跳到1的電壓下運作的電路,模仿大腦低耗能的運作方式。在這樣的電壓下,仍 然會有微弱但不穩定的電子流流過電晶體,自發性地消長,就像是離子透過離子通道進入 神經元,所引起的電位消長。米德認為若加上微型電容電阻及其他零件來控制電流,這種 微型電路就可以互相連結形成網絡,像腦中的生物神經元一樣,分散處理各種資訊,而不 是把中央處理器操到死。[1][2] 到了1990年代,米德和他的同事證明了製作仿真矽神經元是可行的。該裝置可以透過模仿 神經元突觸的接點,接受外界輸入的電子訊號,這些訊號會像在神經元內一樣地在電子迴 路中合成,若是這些訊號加總後高於閾值,這些矽神經元才會興奮產生神經衝動,沿著如 同軸突的線路,跳躍傳遞神經衝動。雖然說這種訊號傳遞的全有全無律,可以說是數位式 的(只有0和1),但仿真矽神經元主要的運轉基礎(把訊號加總),卻跟生物神經元一樣 都是非數位的,不若傳統晶片的電壓和電流是一些特定不連續的數值。[3] 這樣的話,在足夠強的刺激使矽神經元興奮產生神經衝動之前,只需要用很少的能量來合 成輸入訊號,就像低耗能的腦一樣。相反地,不管有沒有在計算任何數據,傳統的晶片都 需要持續的能量供給電流,以維持中央協調所有零件的計時器。不只如此,米德的團隊也 打造出了分散式神經資訊系統迴路,可以說是矽晶片版本的視網膜。這個裝置以50×50的 偵測器網偵測光線,並且為了像大腦一樣節省能量,仿真矽神經元不會一直發送訊號,只 有在光線亮度顯著改變時才會興奮產生神經衝動,傳送到顯示器,就像是視網膜對於光線 、陰影和動作的偵測模式。這樣能夠有效地區辨移動中的物體輪廓,同時最小化需要傳送 和處理的數據量。 [4] 寫程式的挑戰 鮑恩在1990年代加入米德的實驗室,他說:「那時候研究人員可以充分掌控仿視網膜的單 一矽晶片,但現在我們想要做的是像大腦一樣的裝置,這代表我們需要更大規模的晶片間 通訊技術。」這是一個很大的挑戰,因為現有的晶片間通訊演算法是建立在精確的數位訊 號上,無法套用在這套使用非數位式雜亂訊號的仿神經型態系統上。於是在鮑恩與其他研 究人員的努力下,針對這套仿神經型態系統,設計出新的演算法和電子迴路,才引發了大 規模仿神經型態系統的風潮。其中一個應用是,提供給神經科學家測試其大腦功能理論模 型的大型仿真模擬器。 舉例來說,在2006年的九月鮑恩發起了前述的Neurogrid神經網絡計畫,希望能夠成功模 擬一百萬個神經元的活動。雖然相較於人腦中860億個神經元而言微不足道,但已經足夠 建構出大腦皮質上,被認為構成大腦基本運算單位的幾個互動密切的細胞柱(column)。神 經科學家可以設計程式在Neurogrid上,以大腦運作速度,跑幾乎任何大腦皮質功能模型 ,像是:工作記憶、決策和視覺注意力等等,比在傳統的數位晶片上模擬快了幾十萬倍。 「以實際效率和精確度來說,鮑恩的Neurogrid的確是領先其他大規模仿神經型態系統。」一起開 發仿真矽神經元的蘇黎世大學神經資訊所(INI)共同創辦人羅尼‧道格拉斯(Rodney Douglas)如是說。 「不過沒有任何系統是完美的。」鮑恩自己迅速地指出。Neurogird有一個很大的問題是 其突觸設計,每個仿真矽神經元平均有5000個突觸,其簡化的設計使得突觸沒有辦法被個 別調整,但是人腦中的神經元突觸是會隨著經驗被修飾的,無法隨著經驗改變了話,就無 法記憶並學習。這個缺點使得科學家無法在Neurogrid上測試學習模型。若要每個突觸跟 生物神經元一樣能夠隨經驗改變,同時間還能塞在晶片有限的空間裡,必須把電路縮小一 千倍到奈米尺度。目前的技術還無法做到,不過最新開發的奈米尺度記憶體「memristors 」日後也許可以解決這個問題。 另一個問題是組建Neurogrid時無可避免的變異性,導致每個Neurogrid晶片有些微不同。 「雖然這個差異已經比大腦中的神經元小了。」鮑恩說,這代表Neurogrid的程式必須去 處理仿真矽神經元各異的反應速度。這個問題使得一些研究人員放棄了米德的亞閾值矽 晶片。他們轉往用傳統的數位式晶片,模擬個別神經元的活動,代價就是需花費較多的 能量,但也是為了以大腦實際運作的速度,模擬大腦大規模的活動來測試理論模型。 其中一個重要的計畫是由英國曼徹斯特大學的電腦工程師史蒂夫‧費博(Steve Furber)所 領導的SpiNNaker Project(脈衝神經網絡結構)。SpiNNaker奠基於費博本人協助研發的 ARM處理器,也就是智慧型手機裡的處理器,此計畫目前可以模擬五百萬個神經元的活動。 科學家的另外一個嘗試是維持之前的仿真矽神經元晶片(非數位式),但增加其運作速度 ,比實際的大腦跑得快很多。不若Neurogrid是精確模擬大腦的運作速度,德國海德堡大 學的加速器物理學家卡爾‧海因次‧邁耶 (Karlheinz Meier) 所領導的European BrainScaleS Project,目前能夠以比大腦快一萬倍的速度,模擬約40萬個神經元的活動。 雖然說這代表處理同樣的訊息量需耗掉比大腦多一萬倍的能量,但對腦科學研究很大的好 處是:「我們因此可以在十秒內模擬完大腦一天內的神經活動。」費博和邁耶兩人的計畫 都在最近得到更多資金援助。在歐盟十月正式上路的十年十億歐元的人類大腦計畫(Human Brain Project)中,撥給仿神經型態技術約一億歐元的經費,讓費博可以將其計畫增加 至模擬五億個神經元;邁耶則有望模擬多達四百萬個神經元。 這些仿神經型態晶片的成功,燃起了世界對其應用的興趣,想運用其超低耗能的特性在手 機和機器人上。不過對電腦業界來說,並沒有那麼急切的需求,因為現階段要減少體積、 提昇效率,只要簡化電路設計或是使用平行運算的多核心系統就行了。現行的傳統方法也 就只能做到如此。因此,除了純學術的研究,美國國防高等研究計畫署(Defense Advanced Research Projects Agency)也花了將近一億美金在自己的SyNAPSE(突觸)計畫上,開發 小巧低耗能的仿神經型態技術。 其中主要的承包商IBM,就拿這筆錢開發256位元的數位式仿神經元晶片,作為以後大規模 系統的基本單位。開發人工腦鮑恩則是自己想辦法開發新應用,從Spaun開始。Spaun (Semantic Pointer Architecture Unified Network)是一個在超級電腦上面跑的腦功能 仿真模型,可以接受視覺刺激、控制機械手臂甚至做決策。其程式語言,是在十年前由加 拿大滑鐵盧大學的理論神經科學家克里斯‧伊里亞史密斯(Chris Eliasmith)所開發。使 用者只需要告訴系統想要執行的功能,例如移動機械手臂,系統就會自動幫你設計好相對 應的神經網絡來控制其動作。 伊里亞史密斯及其團隊在傳統電腦上測試Spaun,結果Spaun可以用250萬個模擬神經元、 模擬視網膜和模擬手臂,完成抄寫手寫的數字、回想清單上的項目、推論出數列中下一個 數字等認知測驗。[5]這絕對是模擬腦功能史上空前的進展,唯一的問題是其運作速度只 有大腦的九千分之一,要模擬大腦一秒的運作就得花上兩個半小時。因此鮑恩向伊里亞 史密斯提議:用Spaun的軟體系統在鮑恩的仿真矽神經元硬體上,用大腦的真實速度模 擬大腦功能。 伊里亞史密斯為此感到十分興奮:「我們就像各自手上有花生醬和巧克力,加起來就超好 吃的!」他們合作拿到了美國海軍研究總署的計畫補助,計畫在三年內做出小型的樣品, 五年內完成完整的系統。就像人腦有感覺神經輸入外界訊息,運動神經輸出動作指令,這 個新系統會配備INI製造的仿神經型態視網膜和耳蝸,配上機械手臂表現動作。但相當於 大腦的核心認知功能,卻是要從零開始。 「這不是新版的Neurogrid計畫,而是全新的設計構造。」鮑恩說,為了更實用,會犧牲 一點仿真度,做出「非常簡單、非常有效率的幾百萬個矽神經元」。畢竟這個系統是為了 應用在實際需求而建立的,而不是為了研究大腦功能的理論模型。鮑恩期許在五年內能 研發出,「完全獨立自主跟環境互動學習的機器人,同時其大腦只消耗跟手機一樣的電力 。」 長遠來看,這個計畫的成果可以從機器人拓展到電腦,提供電腦小巧且低耗能的處理器。 如果研究人員能夠掌握大腦超高效率運作的秘密,也許能夠避免如今不斷縮小的晶片即將 到達極限的命運。「雖然我們不確定我們的方法有沒有用,但是沒試過怎麼會知道?」鮑 恩表示。 -- 如果這類技術真的被研發成功, 可能科技業又要大變革了 不過可能是幾十年後的事 到時可能電影裡的天網Skynet或是母體Matrix都變成真的.... -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 58.114.161.69
showyoulovex:感覺就跟AI當初一樣 12/09 01:01
hopesong:AI已經發展快20年了 但進步得很慢 表示遇到瓶頸了 12/09 01:40
hopesong:想短時間內快速進步... 很難 12/09 01:41
cheinhun:也許AI的瓶頸就在於不能把CPU操到爆 要用神經元的方式? 12/09 01:50
chuegou:我覺得很像FPGA的邏輯閘阿... 12/09 05:00
chuegou:另外憶阻器(memristor)現在還在非常初期的嘗試階段, 12/09 05:04
chuegou:也很多人認為憶阻器可以改變摩爾定律就是了 12/09 05:05
chuegou:內文提到運作速度,cpu時眽來自石英震盪,科幻作品設定 12/09 05:09
chuegou:大腦時眽來自心臟,那這台類神經電腦咧? 12/09 05:09
NEOdesu:老鼠腦袋阿(誤) 12/09 09:51