圖 1. 通過不斷引入不同的類腦機(jī)制提升脈沖神經(jīng)網(wǎng)絡(luò)的正確率

圖 2. 兩種抑制性神經(jīng)元及其比例對模式識別類任務(wù)正確率的影響

酶聯(lián)檢測試劑盒-齊一生物

*近，中國科學(xué)院自動化研究所類腦智能研究中心研究員曾毅與團(tuán)隊(duì)成員在一項(xiàng)研究中總結(jié)歸納了七條受腦啟發(fā)的學(xué)習(xí)準(zhǔn)則，并成功應(yīng)用于改善脈沖神經(jīng)網(wǎng)絡(luò)。通過組合不同的受腦啟發(fā)的規(guī)則，實(shí)驗(yàn)研究驗(yàn)證了：隨著越來越多的、經(jīng)過仔細(xì)選擇的、受腦啟發(fā)的規(guī)則的引入，深層脈沖神經(jīng)網(wǎng)絡(luò)能夠得到越來越好的分類性能。

雖然相比傳統(tǒng)的人工神經(jīng)元而言，脈沖神經(jīng)元已具備更扎實(shí)的生物真實(shí)性，然而傳統(tǒng)的脈沖神經(jīng)網(wǎng)絡(luò)模型僅僅抓住了腦信息處理過程中初步的局部學(xué)習(xí)訓(xùn)練法則。由于生物腦在學(xué)習(xí)過程中協(xié)同了若干個法則，因此不能奢望僅僅采用較少的法則設(shè)計(jì)的類腦脈沖神經(jīng)網(wǎng)絡(luò)模型就能夠達(dá)到甚至超越生物腦的各種學(xué)習(xí)能力。

研究團(tuán)隊(duì)提出的 7 條學(xué)習(xí)準(zhǔn)則都來源于對生物腦的實(shí)驗(yàn)研究，并各自從不同的側(cè)面反映了生物網(wǎng)絡(luò)的學(xué)習(xí)特性，如神經(jīng)元的動態(tài)分配、突觸的自適應(yīng)生長和消亡機(jī)制、不同的突觸可塑性學(xué)習(xí)機(jī)制（如不同類型的時序依賴突觸可塑性）、網(wǎng)絡(luò)背景噪聲對學(xué)習(xí)的調(diào)控機(jī)制、興奮性和抑制性神經(jīng)元的比例對學(xué)習(xí)的調(diào)節(jié)機(jī)制等。

在這些學(xué)習(xí)準(zhǔn)則中，神經(jīng)元的動態(tài)分配、突觸的生成與消亡、可塑性模型等被認(rèn)為是腦神經(jīng)網(wǎng)絡(luò)處理信息的重要特性。研究團(tuán)隊(duì)將上述受腦啟發(fā)的規(guī)則引入脈沖神經(jīng)網(wǎng)絡(luò)模型，希望提升傳統(tǒng)脈沖神經(jīng)網(wǎng)絡(luò)的效率。

研究團(tuán)隊(duì)所提出的脈沖神經(jīng)網(wǎng)絡(luò)模型主要包含三部分：脈沖生成層、隱層、輸出層。在脈沖生成層中，靜態(tài)圖像輸入被轉(zhuǎn)化為脈沖序列。在隱層中，神經(jīng)元的動態(tài)分配 （R1, R2）、突觸的生長消亡（R3, R4）、不同類型的背景噪聲（R5）、不同類型的脈沖時序依賴可塑性模型（R6）、興奮和抑制性神經(jīng)元（R7） 被作為類腦的重要機(jī)制引入。在輸出層，興奮性神經(jīng)元負(fù)責(zé)進(jìn)行分類，抑制性神經(jīng)元實(shí)現(xiàn)贏者通吃的機(jī)制（WTA）。實(shí)驗(yàn)驗(yàn)證方面，研究采用了手寫數(shù)數(shù)據(jù)集 MNIST。

實(shí)驗(yàn)表明，當(dāng)引入精心選擇的類腦機(jī)制后，模型的正確率會逐步提升