脈衝神經網絡模式探測裝置和模式探測方法

2023-08-05 20:57:56

專利名稱：脈衝神經網絡模式探測裝置和模式探測方法
技術領域：
本發明涉及神經網絡，特別是一種脈衝神經網絡模式探測裝置和模式探測方法。
背景技術：
1894年,西班牙神經學家Santiago Ramon y Cajal首次闡述了大腦記憶形成的原理，自1983年W. B. Levy和O. Steward兩名科學家通過實驗發現哺乳動物大腦的可塑性原理之後，眾多神經科學家和腦科學家開始常年探索大腦內的學習方式和工作原理，1992年由Y. Dan和M. Poo兩位科學家發現了大腦的一種認知機理，即脈衝時間依賴可塑性學習方式，之後Bert Sakmann實驗室的Henry Markram更加精確地描述了 STDP效應,這種基於神經元工作原理的神經網絡也稱為脈衝神經網絡模式探測裝置，它被譽為第三代神經網絡。該網絡的基本組成單元為神經元，是利用其觸發的脈衝時序進行信息的處理，目前大部分的研究工作集中在理論和算法等方面。所述的單神經元脈衝神經網絡模式探測裝置的構 建及模式識別的實現方法詳細闡述了神經網絡的構建和進行周期性模式識別的步驟。神經網絡的應用範圍非常廣泛，其應用範圍主要包括生物信號的檢測與自動分析、醫學專家系統、計算機領域、數據挖掘、自動駕駛，甚至美國的郵件系統裡也應用了神經網絡。但是目前人工神經網絡在不同的背景噪聲中對模式的識別正確率是不同的，噪聲越大正確率越低，並且在大量數據輸入的情況下，識別速度相對較慢，其訓練方式是一些比較複雜的數學模型，收斂性的速度依賴於模型的好壞。

發明內容
本發明的目的在於提供一種脈衝神經網絡模式探測裝置和模式探測方法，該裝置可以探測淹沒在背景噪聲中模式的出現時刻，其探測正確率高於BP網絡，基本接近於100%，而且特別適合於大數據量的輸入，識別速度小於O. 7秒，相對其他神經網絡來說有很大提高，該裝置的脈衝神經網絡模式探測裝置訓練方式簡單，因而非常易於軟體實現，最重要的是可以實現神經網絡的線上學習。本發明的技術解決方案如下—種脈衝神經網絡模式探測裝置，該裝置完成的工作是找到淹沒在背景噪聲中模式出現的時刻，其特點在於該探測裝置由參數處理模塊、輸入判斷模塊、權重衰減模塊、權重增強模塊、輸出神經元膜電位計算模塊和脈衝處理模塊構成；上述模塊的連接關係如下脈衝輸入信號從所述的輸入判斷模塊的輸入端輸入，該輸入判斷模塊的輸出端分別與所述的權重衰減模塊的第一輸入端、所述的權重增強模塊的第一輸入端、所述的輸出神經兀膜電位計算模塊的第一輸入端和所述的脈衝處理模塊的第一輸入端相連；所述的參數處理模塊的第一輸出端與所述的權重衰減模塊的第二輸入端相連，所述的參數處理模塊的第二輸出端與所述的權重增強模塊的第三輸入端相連，所述的參數處理模塊的第三輸出端與所述的輸出神經元膜電位計算模塊的第三輸入端相連，所述的參數處理模塊的第四輸出端與所述的脈衝處理模塊的第四輸入端相連，該參數處理模塊的輸入端與所述的脈衝處理模塊的第一輸出端相連；所述的權重衰減模塊的第一輸出端與所述的脈衝處理模塊的第五輸入端相連，該權重衰減模塊的第二輸出端與所述的權重增強模塊的第二輸入端相連；所述的權重增強模塊的第一輸出端與所述的脈衝處理模塊的第二輸入端相連，該權重增強模塊的第二輸出端與所述的輸出神經元膜電位計算模塊的第二輸入端相連；所述的輸出神經元膜電位計算模塊的輸出端與所述的脈衝處理模塊的第三輸入端相連；所述的脈衝處理模塊的第二輸出端是本脈衝神經網絡模式探測裝置的輸出端。利用上述脈衝神經網絡模式探測裝置進行模式探測的方法，其特點在於，該方法 包括以下步驟I)所述的參數處理模塊對所述的脈衝神經網絡模式探測裝置的參數進行初始化權重最小值Wmin，初始化為零；權重最大值Wmax，初始化為I ;輸出神經元上一次脈衝時刻tj,單位毫秒，初始化為零；預測脈衝時刻片，單位毫秒，初始化為零；時間解析度r，初始化為I毫秒；細胞膜時間常量τ m，初始化為10毫秒；突觸時間常量τ s，初始化為2. 5毫秒；輸出神經元膜電位閾值h,初始化為500 ;間歇時間q,初始化為3毫秒；權重正向增益係數a+,初始化為O. 0312 ;權重負向衰減係數a'初始化為O. 0255 ;正向時間常數τ +,初始化為16. 8毫秒；負向時間常數τ -，初始化為33. 7毫秒；所述的參數處理模塊將所述的權重最大值Wmax、所述的輸出神經元上一次脈衝時刻#、所述的權重負向衰減係數a—和所述的負向時間常數τ_輸出給所述的權重衰減模塊；將所述的輸出神經元上一次脈衝時刻tj、所述的預測脈衝時刻f、所述的權重最小值Wmin、所述的權重正向增益係數a+和正向時間常數τ +輸出給所述的權重增強模塊；將所述的細胞膜時間常量τπ、所述的突觸時間常量Ts、所述的輸出神經元上一次脈衝時刻^和所述的輸出神經元膜電位閾值h輸出給所述的輸出神經元膜電位計算模塊；將時間解析度r和所述的輸出神經元膜電位閾值h輸出給所述的脈衝處理模塊；2)所述的輸入判斷模塊令時刻t = 1，即單位是毫秒，令i=l ；3)當第i個信號源在時刻t發出了信號，所述的輸入判斷模塊將該信號源的編號i和時刻t分別傳遞給所述的權重衰減模塊、權重增強模塊、輸出神經元膜電位計算模塊和脈衝處理模塊，之後進入步驟4);當第i個信號源在時刻t沒有發出信號，則轉到步驟16);4)當所述的權重衰減模塊接收到來自所述的輸入判斷模塊輸出的信號源的編號i和時刻t後，所述的權重衰減模塊再接收來自所述的參數處理模塊的參數所述的負向時間常數τ _、所述的權重負向衰減係數a_、所述的權重最大值Wmax和所述的輸出神經元上一次脈衝時刻g ;令所述的衰減權重矩陣wD的每一個元素等於所述的未更新權重矩陣W°的對應元素；5)所述的權重衰減模塊利用下列公式〈1>和公式〈2>計算並更新所述的衰減權重矩陣wD的第i個元素WDi :
權利要求
1.一種脈衝神經網絡模式探測裝置，該裝置完成的工作是找到淹沒在背景噪聲中模式出現的時刻，其特徵在於該探測裝置由參數處理模塊(I)、輸入判斷模塊(2)、權重衰減模塊(3)、權重增強模塊(4)、輸出神經元膜電位計算模塊(5)和脈衝處理模塊(6)構成；上述模塊的連接關係如下 脈衝輸入信號從所述的輸入判斷模塊(2)的輸入端輸入，該輸入判斷模塊(2)的輸出端分別與所述的權重衰減模塊(3)的第一輸入端、所述的權重增強模塊(4)的第一輸入端、所述的輸出神經元膜電位計算模塊(5)的第一輸入端和所述的脈衝處理模塊(6)的第一輸入端相連； 所述的參數處理模塊(I)的第一輸出端與所述的權重衰減模塊(3)的第二輸入端相連，所述的參數處理模塊(I)的第二輸出端與所述的權重增強模塊(4)的第三輸入端相連，所述的參數處理模塊(I)的第三輸出端與所述的輸出神經元膜電位計算模塊(5)的第三輸入端相連，所述的參數處理模塊(I)的第四輸出端與所述的脈衝處理模塊(6)的第四輸入端相連，該參數處理模塊(I)的輸入端與所述的脈衝處理模塊(6)的第一輸出端相連； 所述的權重衰減模塊(3)的第一輸出端與所述的脈衝處理模塊(6)的第五輸入端相連，該權重衰減模塊(3)的第二輸出端與所述的權重增強模塊(4)的第二輸入端相連； 所述的權重增強模塊(4)的第一輸出端與所述的脈衝處理模塊(6)的第二輸入端相連，該權重增強模塊(4)的第二輸出端與所述的輸出神經元膜電位計算模塊(5)的第二輸入端相連； 所述的輸出神經元膜電位計算模塊(5)的輸出端與所述的脈衝處理模塊(6)的第三輸入端相連； 所述的脈衝處理模塊(6)的第二輸出端是本脈衝神經網絡模式探測裝置的輸出端。
2.利用權利要求I所述的脈衝神經網絡模式探測裝置進行模式探測的方法，其特徵在於，該方法包括以下步驟 1)所述的參數處理模塊(I)對所述的脈衝神經網絡模式探測裝置的參數進行初始化權重最小值Wmin，初始化為零；權重最大值Wmax，初始化為I ;輸出神經元上一次脈衝時刻#，單位毫秒，初始化為零；預測脈衝時刻和公式〈2>計算並更新所述的衰減權重矩陣wD的第i個元素WDi :
全文摘要
一種脈衝神經網絡模式探測裝置和模式探測方法，該神經網絡模式探測裝置由參數處理模塊、輸入判斷模塊、權重衰減模塊、權重增強模塊、輸出神經元膜電位計算模塊和脈衝處理模塊構成。本發明可以探測淹沒在背景噪聲中模式的出現時刻，其探測正確率高於BP網絡，基本接近於100%，而且特別適合於大數據量的輸入，識別速度小於0.7秒，相對其他神經網絡來說識別速度有很大提高，所述的脈衝神經網絡模式探測裝置訓練方式簡單，因而非常易於軟體實現，最重要的是可以實現神經網絡的線上學習。
文檔編號G06N3/02GK102831476SQ20121030137
公開日2012年12月19日 申請日期2012年8月22日 優先權日2012年8月22日
發明者王昊, 阮昊, 夏知拓 申請人:中國科學院上海光學精密機械研究所