讓“機(jī)器腦”類人腦,關(guān)鍵何在?
作者:李黃龍(清華大學(xué)精密儀器系、清華大學(xué)類腦計(jì)算研究中心長(zhǎng)聘副教授)
編者按
人腦在有限尺寸和極低能耗下,能夠完成復(fù)雜環(huán)境中的信息關(guān)聯(lián)記憶、快速識(shí)別和自主學(xué)習(xí)等認(rèn)知任務(wù)。隨著芯片換代速度放緩、算力供不應(yīng)求等挑戰(zhàn)出現(xiàn),面向未來(lái),現(xiàn)有計(jì)算機(jī)的計(jì)算方式已難以為繼。如何推動(dòng)信息處理技術(shù)進(jìn)一步發(fā)展,打造像人腦一樣的“機(jī)器腦”?實(shí)現(xiàn)類腦計(jì)算是破局的方向。要想實(shí)現(xiàn)類腦計(jì)算,就需要尋找更多模擬人腦功能的神經(jīng)形態(tài)器件。
借鑒人腦,讓計(jì)算更高效、更具仿生性、更低能耗
電子計(jì)算機(jī)的發(fā)明將人類文明帶入了一場(chǎng)數(shù)字化科技革命。在短短幾十年中,計(jì)算機(jī)的算力從每秒幾百次運(yùn)算到每秒百億億次運(yùn)算,增長(zhǎng)了1016倍,創(chuàng)造了幾千年人類文明史上最高的人造增長(zhǎng)速度。計(jì)算機(jī)算力的提升得益于底層半導(dǎo)體器件(硅基晶體管)的集成密度提升。按照摩爾定律,單芯片上晶體管的數(shù)量每18至24個(gè)月翻一番。
在過(guò)去的半個(gè)多世紀(jì),集成電路產(chǎn)業(yè)一直在摩爾定律的引導(dǎo)下發(fā)展。然而擺在現(xiàn)實(shí)面前的是,隨著摩爾定律不斷逼近極限,單個(gè)硅基芯片能夠承載的晶體管日漸飽和。硅原子的大小約0.12納米,照此大小推算,當(dāng)芯片工藝達(dá)到1納米,就只有對(duì)幾個(gè)硅原子進(jìn)行操縱的空間了。
事實(shí)上,在芯片工藝發(fā)展到10納米水平后,能明顯感受到換代速度放緩、成本攀升等問(wèn)題。而另一方面,隨著人工智能大模型浪潮席卷全球,對(duì)計(jì)算機(jī)算力的需求激增到了每2到3個(gè)月就要翻一番的程度,遠(yuǎn)超摩爾定律下的增長(zhǎng)速度。
面對(duì)芯片換代速度放緩、算力供不應(yīng)求等挑戰(zhàn),數(shù)字計(jì)算機(jī)的計(jì)算方式已經(jīng)難以為繼,如何推動(dòng)信息處理技術(shù)進(jìn)一步向前發(fā)展,成為學(xué)界與社會(huì)各行各業(yè)共同面臨的難題。面對(duì)這一巨大困局,能夠提供更高效、更具仿生性、更低能耗算力的類腦計(jì)算,成為破局的關(guān)鍵。
類腦計(jì)算是“國(guó)際半導(dǎo)體技術(shù)藍(lán)圖(ITRS/IRDS)”中的一個(gè)重要研究方向,旨在借鑒人腦的基本原理,實(shí)現(xiàn)人工通用智能(也稱為類腦通用智能)。在2021年啟動(dòng)的“中國(guó)腦計(jì)劃”中,類腦計(jì)算是一個(gè)重要組成部分。
與傳統(tǒng)計(jì)算機(jī)不同的是,人腦在有限尺寸和極低能耗下,能夠完成復(fù)雜環(huán)境中的信息關(guān)聯(lián)記憶、快速識(shí)別和自主學(xué)習(xí)等認(rèn)知任務(wù)。這與人腦神經(jīng)網(wǎng)絡(luò)的基本組成和結(jié)構(gòu)密切相關(guān):人腦中有860億個(gè)神經(jīng)元,相當(dāng)于銀河系天體的數(shù)量,并通過(guò)150萬(wàn)億個(gè)神經(jīng)突觸互聯(lián)構(gòu)成了空間復(fù)雜的神經(jīng)網(wǎng)絡(luò);同時(shí)人腦的神經(jīng)樹(shù)突等組織進(jìn)一步使神經(jīng)計(jì)算功能復(fù)雜化。
人腦的這些神經(jīng)組織包含了多樣化的離子通道,具備非常豐富的動(dòng)力學(xué)行為,特征時(shí)間尺度也跨越幾個(gè)數(shù)量級(jí),這是人腦智能的物理基礎(chǔ)。相對(duì)應(yīng)的,計(jì)算機(jī)基本的組成單元是電子晶體管,其工作在準(zhǔn)靜態(tài)的0和1編碼狀態(tài)下,與人腦的豐富動(dòng)力學(xué)相距甚遠(yuǎn)。
因此,類腦計(jì)算的實(shí)現(xiàn),其中一個(gè)關(guān)鍵就是發(fā)現(xiàn)神經(jīng)形態(tài)器件。它們可以模擬人腦中神經(jīng)元、神經(jīng)突觸、神經(jīng)樹(shù)突的功能,具有更貼近神經(jīng)組織行為的物理機(jī)制,從而可以實(shí)現(xiàn)傳統(tǒng)電子晶體管所不能實(shí)現(xiàn)的諸多類神經(jīng)功能。
基于神經(jīng)形態(tài)器件的類腦計(jì)算快速發(fā)展
神經(jīng)科學(xué)的研究發(fā)現(xiàn),神經(jīng)元之間的神經(jīng)突觸連接強(qiáng)度的可調(diào)性,是大腦學(xué)習(xí)和記憶功能的基礎(chǔ)之一。由過(guò)往經(jīng)歷引起的神經(jīng)突觸連接強(qiáng)度改變,可以對(duì)大腦的功能產(chǎn)生影響。
神經(jīng)突觸連接強(qiáng)度改變,也叫神經(jīng)突觸可塑性,可以增強(qiáng)或抑制神經(jīng)元的活動(dòng),而且其持續(xù)的時(shí)間可從幾毫秒到幾小時(shí)、幾天甚至更長(zhǎng)時(shí)間,跨度很大。
如果能借鑒神經(jīng)突觸可塑性原理,用某種手段來(lái)模仿和實(shí)現(xiàn),構(gòu)建類似于神經(jīng)突觸的人工突觸,再進(jìn)一步構(gòu)建出系統(tǒng),就可以更好地理解和模擬大腦的工作方式,進(jìn)一步推動(dòng)信息學(xué)和神經(jīng)科學(xué)的交叉發(fā)展,實(shí)現(xiàn)類腦計(jì)算。
早在1971年,科學(xué)家蔡少棠就曾啟發(fā)式地推理預(yù)言了一種新型器件——憶阻器。根據(jù)預(yù)言,憶阻器的電阻值取決于所施加的電壓/電流激勵(lì)歷史,因此具有類神經(jīng)記憶特性。
在這一預(yù)言過(guò)去37年后,惠普實(shí)驗(yàn)室宣布憶阻現(xiàn)象在新型微納半導(dǎo)體器件中被觀測(cè)到。此后,憶阻器件和神經(jīng)形態(tài)器件幾乎成了兩個(gè)可以互換的概念,基于神經(jīng)形態(tài)器件的類腦計(jì)算也進(jìn)入了快速發(fā)展的階段。
憶阻器作為一種有潛力的電路元件,除了生物相似性之外,在可微縮能力、存儲(chǔ)密度和功耗等方面也要優(yōu)于傳統(tǒng)的晶體管器件。
近年來(lái),在材料技術(shù)和功能方面,神經(jīng)形態(tài)器件都取得重要進(jìn)展。在材料技術(shù)方面,研究人員廣泛應(yīng)用各種材料——無(wú)機(jī)物、有機(jī)物、量子材料、鐵電材料、鐵磁材料、三維體材料和二維材料等,它們展現(xiàn)出各自獨(dú)特的神經(jīng)形態(tài)特性,為憶阻器的發(fā)展提供了多樣性和靈活性。將傳統(tǒng)晶體管和憶阻器進(jìn)行混合的神經(jīng)形態(tài)集成電路研究也取得了顯著進(jìn)展,加速了憶阻器的應(yīng)用推廣。在功能方面,憶阻器不僅能夠模擬神經(jīng)突觸的可塑性功能,還可以模擬神經(jīng)元的某些功能,這為實(shí)現(xiàn)全憶阻器的神經(jīng)形態(tài)電路創(chuàng)造了可能性。
利用晶體管“非理想”物理機(jī)制,模擬人腦記憶功能
然而,神經(jīng)形態(tài)器件發(fā)展到這個(gè)階段,面臨著新的挑戰(zhàn)。其中一個(gè)關(guān)鍵挑戰(zhàn)是仿生動(dòng)力學(xué)功能不足,難以滿足類腦計(jì)算對(duì)豐富神經(jīng)形態(tài)動(dòng)力學(xué)的要求。
正如前面所提到的,人腦的豐富動(dòng)力學(xué)行為與神經(jīng)組織中多樣化的離子通道結(jié)構(gòu)和機(jī)理是密切相關(guān)的。但是目前主流的神經(jīng)形態(tài)器件通常是為模擬某一種特定的神經(jīng)行為來(lái)定制,采用特定的單一物理機(jī)制來(lái)實(shí)現(xiàn)。
如果需要實(shí)現(xiàn)豐富的仿生動(dòng)力學(xué)功能,就需要發(fā)展全功能的動(dòng)力學(xué)神經(jīng)形態(tài)器件。不過(guò),通常來(lái)講,功能越全面就需要更大尺寸的硬件,這與當(dāng)前芯片的小型化相矛盾。要解決這個(gè)問(wèn)題,就需要探索新型的器件原理和新的半導(dǎo)體材料。
前面提到,神經(jīng)突觸可塑性的一大特征是動(dòng)力學(xué)時(shí)間尺度跨越幾個(gè)數(shù)量級(jí),這是人類認(rèn)知和記憶功能的一個(gè)基礎(chǔ)。事實(shí)上,我們每個(gè)人都能感受得到這種動(dòng)力學(xué)的存在——有時(shí)候一件事情讓人終生難忘;而有時(shí)候上一秒的事情,下一秒就忘了。這就是長(zhǎng)期記憶和短期記憶兩種時(shí)間尺度不一樣的動(dòng)力學(xué)行為,它們的共存幫助我們保留重要的信息,同時(shí)過(guò)濾掉不重要的信息,給大腦減負(fù)。但是現(xiàn)有的單器件人工突觸,只能對(duì)長(zhǎng)期可塑性或短期可塑性進(jìn)行選擇性的模擬,不能集成模擬。
基于這些神經(jīng)突觸原理,對(duì)人工突觸器件和生物突觸進(jìn)行比較可以發(fā)現(xiàn),它們之間有一個(gè)巨大的區(qū)別——前者利用相同的物理機(jī)制模擬兩種功能,而后者分別利用來(lái)自突觸后膜和前膜不同的鈣離子通道機(jī)制來(lái)實(shí)現(xiàn)。
受此啟發(fā),清華大學(xué)類腦研究中心的研究團(tuán)隊(duì)將目光移回到晶體管上。作為計(jì)算機(jī)芯片的基本元器件,晶體管器件中實(shí)際蘊(yùn)含了兩種物理機(jī)制——“場(chǎng)效應(yīng)”機(jī)制和“憶阻”機(jī)制?!皥?chǎng)效應(yīng)”機(jī)制讓晶體管在0和1狀態(tài)間切換,但沒(méi)有持續(xù)供電的話,狀態(tài)就會(huì)很快消失,從節(jié)能的角度來(lái)說(shuō)不盡如人意?!皯涀琛睓C(jī)制會(huì)讓0、1狀態(tài)混淆,這在以往被視為不利影響,所以在制造計(jì)算機(jī)芯片時(shí)一定要防止“憶阻”機(jī)制的顯現(xiàn)。但“憶阻”機(jī)制還有一個(gè)特性——在斷電后依然能持久地存在。
這兩種對(duì)于傳統(tǒng)計(jì)算機(jī)芯片來(lái)說(shuō)不夠完美,甚至不利的物理機(jī)制,不正是類腦計(jì)算中模擬突觸長(zhǎng)、短期可塑性功能所需要的嗎?
至此,答案呼之欲出。通過(guò)對(duì)這兩種機(jī)制的“反向”利用,清華大學(xué)類腦計(jì)算研究中心團(tuán)隊(duì)提出的動(dòng)力學(xué)神經(jīng)形態(tài)晶體管技術(shù),使得長(zhǎng)、短期記憶動(dòng)力學(xué)功能可以在單個(gè)器件中集成地模擬,解決了類腦科學(xué)領(lǐng)域內(nèi)的一個(gè)關(guān)鍵技術(shù)難題。
尋找更多能模擬人腦神經(jīng)計(jì)算的半導(dǎo)體器件
神經(jīng)元是另一種基本神經(jīng)計(jì)算單元,其閾上的放電和閾下的振蕩參與了幾乎所有的認(rèn)知功能環(huán)節(jié),本質(zhì)上是細(xì)胞膜電位的上升和下降。從生物角度來(lái)看,神經(jīng)元膜電位的變化由兩種離子通道參與——鈉離子(Na+)通道和鉀離子(K+)通道。
它們的工作過(guò)程是這樣的——當(dāng)鈉離子通道打開(kāi)時(shí),膜外鈉離子(Na+)內(nèi)流進(jìn)入細(xì)胞,從而導(dǎo)致膜電位升高,這被稱為去極化過(guò)程;在膜電位達(dá)到一定程度后,重復(fù)極化過(guò)程開(kāi)始,鈉離子(Na+)通道關(guān)閉,鉀離子(K+)通道打開(kāi),允許鉀離子(K+)外流離開(kāi)細(xì)胞,從而使膜電位降低。
神經(jīng)元的動(dòng)力學(xué)更復(fù)雜,要對(duì)其進(jìn)行模擬往往需要多個(gè)電子元件組合成電路。為了讓人工神經(jīng)元器件既能動(dòng)力學(xué)功能豐富,硬件又足夠精簡(jiǎn)化,需要尋找新的材料來(lái)實(shí)現(xiàn)。
最終,碲這種新型半導(dǎo)體材料脫穎而出。它具有低熔點(diǎn)、低熱導(dǎo)率和電化學(xué)活性等綜合物理性質(zhì),很難在其他材料中找到這種組合性質(zhì)。
這些性質(zhì)使得碲導(dǎo)電通道結(jié)構(gòu)能夠在電流的電場(chǎng)作用下生長(zhǎng)出來(lái),降低器件電阻,這可以與鈉離子(Na+)的內(nèi)流去極化過(guò)程對(duì)應(yīng);隨之而來(lái)的電流焦耳熱則會(huì)熔斷碲導(dǎo)電通道,使器件電阻恢復(fù),這與鉀離子(K+)的外流重極化過(guò)程對(duì)應(yīng)。
在此基礎(chǔ)上,清華大學(xué)類腦計(jì)算研究中心團(tuán)隊(duì)研制的碲半導(dǎo)體單器件,實(shí)現(xiàn)了對(duì)神經(jīng)元閾上放電和閾下振蕩的全功能模擬。
與神經(jīng)元和神經(jīng)突觸相比較,神經(jīng)樹(shù)突作為典型的生物神經(jīng)網(wǎng)絡(luò)特征結(jié)構(gòu),曾被類比為簡(jiǎn)單的導(dǎo)線。但越來(lái)越多的研究表明,神經(jīng)樹(shù)突具備重要的神經(jīng)計(jì)算功能,不僅執(zhí)行被動(dòng)計(jì)算,甚至還能主動(dòng)“放電”,這或許是人腦通用智能信息處理能力的關(guān)鍵來(lái)源之一,是賦能類腦計(jì)算的重要靈感來(lái)源。
神經(jīng)樹(shù)突的主動(dòng)放電動(dòng)力學(xué)行為也源于豐富的離子通道。其以鈣離子(Ca2+)為介導(dǎo),放電持續(xù)時(shí)間更長(zhǎng),產(chǎn)生的影響或更為顯著,并且其激活函數(shù)也可以呈現(xiàn)對(duì)于輸入刺激強(qiáng)度的非單調(diào)響應(yīng)。這使得單個(gè)樹(shù)突就能解決更具挑戰(zhàn)性的非線性分類問(wèn)題。
為了模擬神經(jīng)樹(shù)突,清華大學(xué)類腦計(jì)算研究中心團(tuán)隊(duì)采用了一種新型的晶體管結(jié)構(gòu),即基于pn異質(zhì)結(jié)半導(dǎo)體溝道的晶體管,取代了傳統(tǒng)的均質(zhì)或同質(zhì)半導(dǎo)體溝道,利用這種特殊晶體管結(jié)構(gòu)中非同尋常的“反雙極性”的轉(zhuǎn)移特性,模擬了鈣離子(Ca2+)介導(dǎo)的非單調(diào)激活和樹(shù)突放電,進(jìn)一步豐富了晶體管的神經(jīng)形態(tài)功能。
時(shí)至今日,盡管在模擬人腦神經(jīng)計(jì)算方面已經(jīng)取得一些進(jìn)展,但大腦作為人類智慧的集結(jié),是已知的宇宙當(dāng)中最復(fù)雜的產(chǎn)物,對(duì)大腦的研究也被稱作是自然科學(xué)的“終極疆域”。類腦計(jì)算作為模仿神經(jīng)生理學(xué)和生理心理學(xué)機(jī)制,以計(jì)算建模為手段并通過(guò)軟硬件協(xié)同實(shí)現(xiàn)的機(jī)器智能計(jì)算,距離實(shí)現(xiàn)人類打造像人腦一樣的“機(jī)器腦”這樣的夢(mèng)想,還有充滿挑戰(zhàn)的路要走。
《光明日?qǐng)?bào)》(2023年12月21日 16版)
版權(quán)聲明:凡注明“來(lái)源:中國(guó)西藏網(wǎng)”或“中國(guó)西藏網(wǎng)文”的所有作品,版權(quán)歸高原(北京)文化傳播有限公司。任何媒體轉(zhuǎn)載、摘編、引用,須注明來(lái)源中國(guó)西藏網(wǎng)和署著作者名,否則將追究相關(guān)法律責(zé)任。
- 187項(xiàng)全球工程前沿發(fā)布——這些技術(shù)正在引領(lǐng)產(chǎn)業(yè)創(chuàng)新
- 中國(guó)經(jīng)濟(jì)巨輪向“新”而行——以科技創(chuàng)新引領(lǐng)現(xiàn)代化產(chǎn)業(yè)體系建設(shè)
- 甘肅省慶陽(yáng)市環(huán)縣西溝村:黨建引領(lǐng)事業(yè)興
- 教育部多措并舉應(yīng)對(duì)低溫雨雪 全力確保研究生招考順利進(jìn)行
- 全國(guó)婦聯(lián):募集款物逾4000萬(wàn)元支援地震災(zāi)區(qū)
- 神十七乘組將擇機(jī)第一次出艙
- 前11月我國(guó)多項(xiàng)經(jīng)濟(jì)運(yùn)行指標(biāo)回升向好
- 農(nóng)業(yè)農(nóng)村部:全力支持抗震救災(zāi)
- 開(kāi)創(chuàng)鄉(xiāng)村全面振興新局面
- 【追夢(mèng)火焰藍(lán) 守護(hù)萬(wàn)家燈火】世界冠軍任天歌:賽場(chǎng)是為了戰(zhàn)場(chǎng) 只要“搶先一秒”