近日,北京大學集成電路學院、人工智能研究院,集成電路高精尖創新中心研究團隊在Nature Communication雜志上在線發表了題為“An emergent attractor network in a passive resistive switching circuit”的研究論文。該工作首次揭示了無源憶阻器電路為一個循環神經網絡,是多個憶阻器件相互作用的涌現結果。研究團隊構建了相應的吸引子網絡模型和能量函數,并完成了實驗證明和聯想記憶應用的演示,通過理論和實驗兩個層面深入分析了憶阻器吸引子網絡相比經典Hopfield網絡在存儲容量、硬件實現和性能等多方面的優勢。
憶阻器(或稱電阻式存儲器件)具有豐富的動力學特性,利用它的阻變動力學或簡單的可編程電導屬性可實現狀態邏輯、時間信息處理和模擬矩陣計算等功能。得益于器件非易失性和交叉陣列架構,它常被用來加速許多算法中的矩陣向量乘法(MVM),特別是神經網絡方面的研究最受關注。吸引子網絡是一種使用交互式反饋的遞歸神經網絡(RNN)模型,其中Hopfield網絡是典型的代表,它與生物神經回路和記憶機制有很強的聯系,并在聯想記憶和組合優化中得到應用。
目前,已有一系列基于憶阻器陣列實現的Hopfield網絡硬件研究。在這些工作中,器件僅被用作靜態的可編程電阻,模仿高度簡化的突觸,神經元則通常由傳統的放大器電路實現,具有低的面積、時間和能量效率。此外,由于該架構僅執行MVM操作,算法迭代是離散進行的,這會導致額外的時延,特別是模擬計算的離散迭代需要模數轉換接口,進一步限制了計算效率。
研究團隊基于憶阻器自身的閾值、循環、非易失阻變特性,首次證明了由一列雙極性憶阻器組成的電路本質上是一個吸引子網絡。其中,憶阻器是一種特殊的人工神經元,它的非線性激活函數為雙向回滯型,不同于常見的非線性函數,外部施加的電壓定義了一個反對稱權重矩陣,器件之間的相互作用實現網絡的遞歸。這樣的概念還可以擴展到其它器件種類,如單極性或閾值阻變器件,從而用于開發新的吸引子網絡模型和硬件解決方案。
圖1. 無源憶阻器陣列的RNN模型
研究團隊進行了相應的實驗驗證和聯想記憶應用的演示。在經典Hopfield網絡模型中,吸引子的存儲容量非常有限,僅隨神經元數量線性增加,因此網絡只能同時記憶少量的狀態。盡管可以通過使用不同的非線性激活函數或提供不同的權重配置來增加存儲容量,但它們僅在算法層次驗證,缺少硬件實現。相比之下,憶阻器是雙向的非易失性神經元,它可以在電路中存儲更多的穩定狀態,大大提升了聯想記憶的存儲容量。最后,研究團隊分析了憶阻器網絡的概率模型。網絡能量依賴于憶阻器的阻變閾值電壓和高低電導態的電導值,它們固有的概率分布屬性,使得網絡能量和狀態同樣服從概率分布,形成類似于玻爾茲曼機的網絡。
圖2. 神經元電路的聯想記憶應用
論文的第一作者是北京大學集成電路學院、人工智能研究院2023級博士研究生李永祥,通訊作者是北京大學孫仲研究員,共同作者包括北京大學博士研究生王識清、楊可(已畢業)和楊玉超教授。這項研究工作獲得國家重點研發計劃、國家自然科學基金、北京市自然科學基金、111計劃、集成電路高精尖創新中心等項目支持。