比英偉達A100快478倍，北大、中科院造的芯片，登上Science

芯東西（公眾號：aichip001）
作者 劉煜
編輯 陳駿達

芯東西7月14日報道，7月2日，新基石研究員、北京大學(xué)集成電路學(xué)院/集成電路高精尖創(chuàng)新中心教授、深圳研究生院信息工程學(xué)院院長楊玉超團隊，聯(lián)合中國科學(xué)院上海微系統(tǒng)與信息技術(shù)研究所宋志棠研究員團隊等，在國際頂級學(xué)術(shù)期刊《科學(xué)》發(fā)表題為“A sub-10-millisecond neural dynamical system based on phase-change memristors（基于相變憶阻器的亞10毫秒神經(jīng)動力系統(tǒng)）”的研究成果。

相關(guān)團隊成功研制出全球首個基于相變憶阻器的毫秒級神經(jīng)動力學(xué)系統(tǒng)芯片，突破了相變型憶阻器長期面臨的“可控存內(nèi)計算”國際難題，首次將神經(jīng)動力學(xué)系統(tǒng)的單步運算時延壓縮至2.12毫秒。

實驗結(jié)果顯示，在執(zhí)行相同神經(jīng)動力學(xué)任務(wù)時，該系統(tǒng)相比當(dāng)前最先進ASIC專用加速器速度提升3.82至36.27倍，功耗降低到至7.8%至3.9%；在腦皮層表面重建等高保真腦建模任務(wù)中，該系統(tǒng)相比英偉達A100 GPU，速度提升50.38至478.18倍。

北京大學(xué)蔡磊博士后（現(xiàn)任北京化工大學(xué)講師）、北京大學(xué)陶耀宇助理教授、中國科學(xué)院上海微系統(tǒng)與信息技術(shù)研究所解晨晨研究員和北京大學(xué)閆龍皞博士后為該論文的共同第一作者，楊玉超教授、宋志棠研究員、北京大學(xué)朱毅鑫助理教授和陶耀宇助理教授為該論文通訊作者。

《科學(xué)》雜志同期針對該研究發(fā)表專題觀點評述文章（Perspective），高度評價該工作“代表了一種物理驅(qū)動計算的理念轉(zhuǎn)變”。相關(guān)工作入選“面向2030北京大學(xué)重大培育項目”。

該研究得到新基石研究員項目、國家重點研發(fā)計劃、國家自然科學(xué)基金、廣東省存算一體芯片重點實驗室、深圳市重點產(chǎn)業(yè)研發(fā)計劃等支持。

論文鏈接：https://doi.org/10.1126/science.aee6277

一、利用可控連續(xù)電導(dǎo)完成動態(tài)迭代計算，兼具高精度與實時性

神經(jīng)動力學(xué)系統(tǒng)將神經(jīng)網(wǎng)絡(luò)的表達能力與微分方程的連續(xù)演化機制相結(jié)合，可以模擬大腦神經(jīng)活動中的連續(xù)變化過程，可被應(yīng)用于物理世界建模、計算成像等領(lǐng)域。但自其誕生半個世紀(jì)以來，這類系統(tǒng)面臨一個難題：模型精度越高，計算量越大，想做到實時運行十分困難。

具體而言，神經(jīng)動力學(xué)系統(tǒng)將神經(jīng)網(wǎng)絡(luò)的表達能力與微分方程的連續(xù)演化機制結(jié)合起來，能夠從帶噪聲、不完整的影像數(shù)據(jù)中恢復(fù)平滑、拓?fù)湟恢碌娜S腦結(jié)構(gòu)。但其求解過程需要反復(fù)積分、誤差控制和自適應(yīng)步長搜索，計算量巨大，并且在傳統(tǒng)馮·諾依曼計算架構(gòu)中存儲與計算分離，神經(jīng)動力學(xué)系統(tǒng)中間變量需要在處理器和存儲器之間反復(fù)傳輸，導(dǎo)致延遲和能耗增加。

面對這一難題，楊玉超研究團隊從憶阻器器件物理出發(fā)，提出了一條以“可控存內(nèi)計算”為核心的融合創(chuàng)新路線：不是把傳統(tǒng)數(shù)字電路做得更快，而是換了一條研發(fā)路徑，用相變存儲器本身的物理特性來做計算。

相變存儲器具有連續(xù)電導(dǎo)演化和多級電導(dǎo)調(diào)控能力，其電導(dǎo)狀態(tài)不僅可以被精細編程，而且能夠在特定時間窗口內(nèi)呈現(xiàn)可預(yù)測、可映射、可調(diào)控的動態(tài)變化。

研究團隊利用相變存儲器這一特性，將其與神經(jīng)動力學(xué)系統(tǒng)中的自適應(yīng)積分過程建立對應(yīng)關(guān)系，使器件本身的電導(dǎo)演化不再只是存儲狀態(tài)的變化，而成為可被精確利用的原位計算過程。

基于這一發(fā)現(xiàn)，該團隊提出細粒度可控電導(dǎo)演化機制，將有效積分步長直接編碼為相變存儲器的電導(dǎo)狀態(tài)，并利用器件自身物理演化完成自適應(yīng)步長搜索。

簡單來說，過去由數(shù)字電路完成的步長搜索、判斷和調(diào)整，現(xiàn)在可以通過憶阻器內(nèi)部的物理變化完成。

▲細粒度可控電導(dǎo)漂移調(diào)控機制

同時，該團隊利用相變存儲器的多級電導(dǎo)調(diào)控能力，構(gòu)建高密度存內(nèi)計算陣列，將內(nèi)嵌神經(jīng)網(wǎng)絡(luò)的權(quán)重存儲和矩陣運算統(tǒng)一映射到器件陣列中。

通過這種方式，神經(jīng)動力學(xué)系統(tǒng)中的兩類核心計算——自適應(yīng)積分步長搜索和神經(jīng)網(wǎng)絡(luò)矩陣運算，被統(tǒng)一放入存內(nèi)計算架構(gòu)中完成，減少了傳統(tǒng)芯片中的數(shù)據(jù)搬運、緩存訪問以及大量乘加運算。

該方案減少了傳統(tǒng)數(shù)字硬件中頻繁的讀寫、乘法運算、緩存訪問與數(shù)據(jù)搬運等高開銷操作，兼具高精度與實時性，為后摩爾時代計算芯片提供了一種全新范式。

▲多級電導(dǎo)特性精準(zhǔn)映射調(diào)控機制

這一成果標(biāo)志著在神經(jīng)動力學(xué)系統(tǒng)實時計算方面取得關(guān)鍵突破，它不僅將原本需要離線運行的復(fù)雜建模方法推向毫秒級實時在線操作，也為下一代腦機接口、腦數(shù)字孿生、神經(jīng)導(dǎo)航和神經(jīng)退行性疾病智能診療提供了全新的硬件底座。

▲基于相變型憶阻器的毫秒級神經(jīng)動力學(xué)系統(tǒng)

二、運行頻率為50 MHz，單次迭代計算時延達2.12毫秒

基于上述設(shè)計，研究團隊采用40納米工藝制造了一款神經(jīng)動力學(xué)芯片。

該芯片集成存內(nèi)計算陣列和步長漂移陣列，總面積僅0.28平方毫米，同時搭載編程脈沖生成電路、模數(shù)轉(zhuǎn)換器等外圍模塊。

芯片運行頻率為50 MHz，單次積分計算僅需9級流水，最終實現(xiàn)2.12毫秒的神經(jīng)動力學(xué)單次迭代計算時延，首次將神經(jīng)動力學(xué)硬件系統(tǒng)運行時間推進到毫秒級。

▲基于相變型憶阻器的神經(jīng)動力學(xué)芯片性能

研究團隊將該芯片用于大腦白質(zhì)與腦灰質(zhì)皮層表面的實時重建以及三維流形網(wǎng)格生成。結(jié)果表明，該系統(tǒng)能夠生成平滑、閉合、拓?fù)湟恢碌哪X皮層表面，準(zhǔn)確刻畫復(fù)雜皮層褶皺結(jié)構(gòu)，并有效抑制傳統(tǒng)神經(jīng)網(wǎng)絡(luò)方法中常見的自相交（Self Intersection）和非流形偽影。

重建結(jié)果在對稱表面平均距離（Average Symmetric Surface Distance）和豪斯多夫距離（Hausdorff Distance）等指標(biāo)上均顯示出優(yōu)勢，滿足高保真腦結(jié)構(gòu)建模要求。

▲實時大腦皮層表面重建以及三維流形網(wǎng)格生成

這類能力未來可用于腦機接口中的實時腦狀態(tài)分析，在醫(yī)學(xué)場景中，該技術(shù)也有望支撐腦數(shù)字孿生、術(shù)中神經(jīng)導(dǎo)航、腦皮層實時重建和神經(jīng)退行性疾病輔助診斷，例如識別阿爾茨海默癥、帕金森病等疾病的腦結(jié)構(gòu)和腦功能的細微變化等。

對于腦機接口而言，未來系統(tǒng)不僅需要讀取神經(jīng)信號，還需要實時理解大腦狀態(tài)并進行反饋控制。毫秒級神經(jīng)動力學(xué)計算，有望為這類實時閉環(huán)系統(tǒng)提供新的硬件基礎(chǔ)。

結(jié)語：物理規(guī)律重構(gòu)開辟新路徑，突破神經(jīng)動力學(xué)延遲瓶頸

在計算架構(gòu)的演進歷程中，相關(guān)芯片性能的突破不止會源于制程工藝的精進，也可能來自物理規(guī)律的重構(gòu)。

此次楊玉超團隊和宋志棠團隊等的研究依托相變憶阻器器件物理特性構(gòu)建可控存內(nèi)計算新架構(gòu)，為長期制約神經(jīng)動力學(xué)系統(tǒng)落地的延遲與能耗瓶頸提供了解決方案，同時完成了硬件原型流片和腦建模場景的實測驗證。

相關(guān)器件、算法、芯片協(xié)同設(shè)計思路，為后摩爾時代低時延、低功耗類腦計算硬件提供了可行的技術(shù)路線，同時給腦機接口、腦部疾病診療等領(lǐng)域的實時化應(yīng)用提供了硬件支撐。