新的人工神經(jīng)元設備可以使用極少能量運行神經(jīng)網(wǎng)絡計算
加州大學圣地亞哥分校的研究人員開發(fā)了一種新的人工神經(jīng)元裝置,訓練神經(jīng)網(wǎng)絡來執(zhí)行任務,如識別圖像或為自動駕駛汽車導航,有一天可能需要更少的計算能力和硬件。該設備可以使用比現(xiàn)有基于CMOS的硬件少100到1000倍的能量和面積來運行神經(jīng)網(wǎng)絡計算。
研究人員在最近發(fā)表于《自然-納米技術(shù)》的一篇論文中報告了他們的工作。神經(jīng)網(wǎng)絡是一系列相連的人工神經(jīng)元層,其中一個層的輸出為下一個層提供輸入。產(chǎn)生該輸入是通過應用一種被稱為非線性激活函數(shù)的數(shù)學計算來完成的。這是運行神經(jīng)網(wǎng)絡的一個關(guān)鍵部分。但應用這個函數(shù)需要大量的計算能力和電路,因為它涉及到在兩個獨立單元--存儲器和外部處理器之間來回傳輸數(shù)據(jù)。
現(xiàn)在,加州大學圣地亞哥分校的研究人員已經(jīng)開發(fā)了一個單一的納米級人工神經(jīng)元設備,以一種非常節(jié)省面積和能源的方式在硬件中實現(xiàn)這些計算。由Kuzum和她的博士生Sangheon Oh領導的這項新研究是與加州大學圣地亞哥分校物理學教授Ivan Schuller領導的能源部能源前沿研究中心合作進行的,該中心專注于開發(fā)高能效人工神經(jīng)網(wǎng)絡的硬件實現(xiàn)。
該設備實現(xiàn)了神經(jīng)網(wǎng)絡訓練中最常用的激活函數(shù)之一,稱為整流線性單元。這個函數(shù)的特別之處在于,它需要能夠經(jīng)歷電阻逐漸變化的硬件才能發(fā)揮作用,它可以逐漸從絕緣狀態(tài)切換到導電狀態(tài),并且在一點點熱量的幫助下完成。這種開關(guān)就是所謂的莫特轉(zhuǎn)變。它發(fā)生在一個納米級的二氧化釩薄層中。這層上面是一個由鈦和金制成的納米線加熱器。當電流流經(jīng)納米線時,二氧化釩層慢慢加熱,導致緩慢、可控的從絕緣到導電的轉(zhuǎn)換。
這種設備結(jié)構(gòu)非常有趣和創(chuàng)新,通常情況下,處于莫特過渡期的材料會經(jīng)歷一個從絕緣到導電的突然轉(zhuǎn)換,因為電流直接流過材料。在這種情況下,研究人員將電流流經(jīng)材料頂部的納米線,以加熱它并誘發(fā)一個非常漸進的電阻變化。為了實現(xiàn)這個裝置,研究人員首先制造了這些所謂的激活(或神經(jīng)元)裝置的陣列,以及一個突觸裝置陣列。然后,他們將這兩個陣列集成到一個定制的印刷電路板上,并將它們連接在一起,創(chuàng)建一個硬件版的神經(jīng)網(wǎng)絡。
研究人員使用該網(wǎng)絡來處理圖像,比如加州大學圣地亞哥分校蓋瑟圖書館的照片。該網(wǎng)絡進行了一種叫做邊緣檢測的圖像處理,它可以識別圖像中物體的輪廓或邊緣。這項實驗表明,集成的硬件系統(tǒng)可以進行卷積操作,這對許多類型的深度神經(jīng)網(wǎng)絡來說是必不可少的。
研究人員說,該技術(shù)可以進一步擴大規(guī)模,以完成更復雜的任務,如自動駕駛汽車的面部和物體識別。

































