輸入權重拓展的神經元信息處理方法和系統與流程
2023-05-31 12:49:41 1
本發明涉及人工神經網絡技術領域,特別是涉及輸入權重拓展的神經元信息處理方法和系統。
背景技術:
如今的人工神經網絡研究絕大多數仍是在馮·諾依曼計算機軟體並搭配高性能GPGPU(General Purpose Graphic Processing Units通用圖形處理單元)平臺中實現的,整個過程的硬體開銷、能耗和信息處理速度都不容樂觀。為此,近幾年神經形態計算領域迅猛發展,即採用硬體電路直接構建神經網絡從而模擬大腦的功能,試圖實現大規模並行、低能耗、可支撐複雜模式學習的計算平臺。
然而,傳統的神經形態系統中,單個神經元權重存儲器的物理空間的數量有限,在單個神經元的輸入信號的數量大於所述物理空間的數量時,導致有的輸入信號對應的權重信息只能利用現有的權重,對於某些對於參數較為敏感的神經網絡來說,極大的影響了神經元的應用性能。
技術實現要素:
本發明的實施例提供一種輸入權重拓展的神經元信息處理方法和系統,可以擴展神經元的應用性能。
所述方法包括:
將預設數量的連續的神經元確定為協同組,將所述協同組中最後一個神經元確定為有效神經元,將所述協同組中除所述有效神經元外的神經元確定為協同神經元;
所述協同組中的第一個協同神經元,根據接收的前端神經元信息,獲取第一個協同神經元的橫向累加中間信息;
所述協同組中後續的各協同神經元,依次根據接收的前端神經元信息,和前端協同神經元的橫向累加中間信息,獲取所述各協同神經元的橫向累加中間信息,並將所述協同組中最後一個協同神經元的橫向累加中間信息確定為橫向累加信息;
所述有效神經元根據接收的前端神經元信息、讀取的所述有效神經元的當前神經元信息和所述橫向累加信息,獲取協同輸出信息;
所述有效神經元輸出所述協同輸出信息。
在其中一個實施例中,所述將所述協同組中最後一個神經元確定為有效神經元,將所述協同組中除所述有效神經元外的神經元確定為協同神經元,包括:
設置所述協同組內神經元的發放使能標識,所述發放使能標識包括允許發放數據或不允許發放數據,將所述有效神經元的發放使能標識設置為允許發放數據,並將所有所述協同神經元的發放使能標識設置為不允許發放數據。
在其中一個實施例中,所述前端神經元信息包括:前端神經元輸出信息、前端神經元與當前神經元的連接權重索引;
所述協同組中的第一個協同神經元,根據接收的前端神經元信息,獲取第一個協同神經元的橫向累加中間信息,包括:
協同組中的第一個協同神經元,根據所述前端神經元與當前神經元的連接權重索引,讀取前端神經元與當前神經元的連接權重;
根據所述前端神經元與當前神經元的連接權重、所述前端神經元信息,獲取第一個協同神經元的橫向累加中間信息;
所述協同組中後續的各協同神經元,依次根據接收的前端神經元信息,和前端協同神經元的橫向累加中間信息,獲取所述各協同神經元的橫向累加中間信息,包括:
所述協同組中的後續協同神經元,依次根據所述前端神經元與當前神經元的連接權重索引,讀取前端神經元與當前神經元的連接權重;
根據所述前端神經元與當前神經元的連接權重、所述前端神經元信息,和前端協同神經元的橫向累加中間信息,獲取所述各協同神經元的橫向累加中間信息。
在其中一個實施例中,所述將預設數量的連續的神經元確定為協同組,將所述協同組中最後一個神經元確定為有效神經元,將所述協同組中除所述有效神經元外的神經元確定為協同神經元,包括:
將預設數量的連續的人工神經元確定為人工協同組,將所述人工協同組中最後一個人工神經元確定為人工有效神經元,將所述人工協同組中除所述人工有效神經元外的人工神經元確定為人工協同神經元;或
將預設數量的連續的脈衝神經元確定為脈衝協同組,將所述脈衝協同組中最後一個脈衝神經元確定為脈衝有效神經元,將所述脈衝協同組中除所述脈衝有效神經元外的脈衝神經元確定為脈衝協同神經元。
在其中一個實施例中,當所述協同組為脈衝協同組時,所述當前神經元信息包括歷史膜電位信息;
在所述有效神經元輸出所述協同輸出信息的步驟之後,所述方法還包括:
更新所述脈衝有效神經元的所述歷史膜電位信息。
在其中一個實施例中,通過將預設數量的連續的神經元確定為協同組,只將所述協同組中的最後一個神經元的信息進行輸出,剩餘神經元只將信息進行累加後迭加至後端的神經元,將協同組內的所有神經元等效於一個有效的節點,多個輸入對應一個有效輸出,可以充分利用所述多個輸入的權重信息,打破了現有的神經元輸入權重類型有限的缺點,提高了神經網絡的信息處理能力。
在其中一個實施例中,通過設置發放使能標識,將神經元設置為允許發放數據或不允許發放數據,將預設數量的連續的神經元組成一個協同組,可根據需求靈活的組成協同組。
在其中一個實施例中,通過接收的前端神經元信息中的前端神經元與當前神經元的連接權重索引,讀取前端神經元與當前神經元的連接權重後,用於計算橫向累加中間信息,將一個協同組中的各協同神經元的權重信息進行了充分利用,並在有效神經元輸出的協同輸出信息中,將各協同神經元的權重信息進行了體現,相當於將有效神經元的權重信息進行了擴展,從而提高了神經網絡的信息處理能力。
在其中一個實施例中,將預設數量的連續的人工神經元確定為人工協同組,或將預設數量的連續的脈衝神經元確定為脈衝協同組,在人工神經網絡或脈衝神經網絡中,都可以確定協同組,進行單個神經元輸入權重的擴展,提高人工神經網絡或脈衝神經網絡的信息處理能力。
在其中一個實施例中,在脈衝協同組中,脈衝有效神經元輸出協同輸出信息後,將所述脈衝有效神經元的歷史膜電位信息進行更新,以便整個協同組完成後續的信息處理,而脈衝協同神經元不更新歷史膜電位信息,在後續的信息處理中,完成權重拓展的功能,通過脈衝協同組,提高整個脈衝神經網絡的信息處理能力。
本發明還提供一種輸入權重拓展的神經元信息處理系統,包括:
協同組確定模塊,用於將預設數量的連續的神經元確定為協同組,將所述協同組中最後一個神經元確定為有效神經元,將所述協同組中除所述有效神經元外的神經元確定為協同神經元;
橫向累加信息獲取模塊,用於所述協同組中後續的各協同神經元,依次根據接收的前端神經元信息,和前端協同神經元的橫向累加中間信息,獲取所述各協同神經元的橫向累加中間信息,並將所述協同組中最後一個協同神經元的橫向累加中間信息確定為橫向累加信息;
協同輸出信息獲取模塊,用於所述有效神經元根據接收的前端神經元信息、讀取的所述有效神經元的當前神經元信息和所述橫向累加信息,獲取協同輸出信息;
協同輸出信息輸出模塊,用於所述有效神經元輸出所述協同輸出信息。
在其中一個實施例中,所述協同組確定模塊,用於設置所述協同組內神經元的發放使能標識,所述發放使能標識包括允許發放數據或不允許發放數據,將所述有效神經元的發放使能標識設置為允許發放數據,並將所有所述協同神經元的發放使能標識設置為不允許發放數據。
在其中一個實施例中,所述前端神經元信息包括:前端神經元輸出信息、前端神經元與當前神經元的連接權重索引;
所述橫向累加信息獲取模塊,用於協同組中的第一個協同神經元,根據所述前端神經元與當前神經元的連接權重索引,讀取前端神經元與當前神經元的連接權重;根據所述前端神經元與當前神經元的連接權重、所述前端神經元信息,獲取第一個協同神經元的橫向累加中間信息;所述協同組中的後續協同神經元,依次根據所述前端神經元與當前神經元的連接權重索引,讀取前端神經元與當前神經元的連接權重;根據所述前端神經元與當前神經元的連接權重、所述前端神經元信息,和前端協同神經元的橫向累加中間信息,獲取所述各協同神經元的橫向累加中間信息。
在其中一個實施例中,所述協同組確定模塊,包括:
人工神經元確定單元,用於將預設數量的連續的人工神經元確定為人工協同組,將所述人工協同組中最後一個人工神經元確定為人工有效神經元,將所述人工協同組中除所述人工有效神經元外的人工神經元確定為人工協同神經元;或
脈衝神經元確定單元,用於將預設數量的連續的脈衝神經元確定為脈衝協同組,將所述脈衝協同組中最後一個脈衝神經元確定為脈衝有效神經元,將所述脈衝協同組中除所述脈衝有效神經元外的脈衝神經元確定為脈衝協同神經元。
在其中一個實施例中,當所述協同組為脈衝協同組時,所述當前神經元信息包括歷史膜電位信息;所述系統還包括:歷史膜電位更新模塊,用於更新所述脈衝有效神經元的所述歷史膜電位信息。
在其中一個實施例中,通過將預設數量的連續的神經元確定為協同組,只將所述協同組中的最後一個神經元的信息進行輸出,剩餘神經元只將信息進行累加後迭加至後端的神經元,將協同組內的所有神經元等效於一個有效的節點,多個輸入對應一個有效輸出,可以充分利用所述多個輸入的權重信息,打破了現有的神經元輸入權重類型有限的缺點,提高了神經網絡的信息處理能力。
在其中一個實施例中,通過設置發放使能標識,將神經元設置為允許發放數據或不允許發放數據,將預設數量的連續的神經元組成一個協同組,可根據需求靈活的組成協同組。
在其中一個實施例中,通過接收的前端神經元信息中的前端神經元與當前神經元的連接權重索引,讀取前端神經元與當前神經元的連接權重後,用於計算橫向累加中間信息,將一個協同組中的各協同神經元的權重信息進行了充分利用,並在有效神經元輸出的協同輸出信息中,將各協同神經元的權重信息進行了體現,相當於將有效神經元的權重信息進行了擴展,從而提高了神經網絡的信息處理能力。
在其中一個實施例中,將預設數量的連續的人工神經元確定為人工協同組,或將預設數量的連續的脈衝神經元確定為脈衝協同組,在人工神經網絡或脈衝神經網絡中,都可以確定協同組,進行單個神經元輸入權重的擴展,提高人工神經網絡或脈衝神經網絡的信息處理能力。
在其中一個實施例中,在脈衝協同組中,脈衝有效神經元輸出協同輸出信息後,將所述脈衝有效神經元的歷史膜電位信息進行更新,以便整個協同組完成後續的信息處理,而脈衝協同神經元不更新歷史膜電位信息,在後續的信息處理中,完成權重拓展的功能,通過脈衝協同組,提高整個脈衝神經網絡的信息處理能力。
附圖說明
圖1為一個實施例的輸入權重拓展的神經元信息處理方法的流程示意圖;
圖2為另一個實施例的輸入權重拓展的神經元信息處理方法的流程示意圖;
圖3為一個實施例的輸入權重拓展的神經元信息處理系統的結構示意圖;
圖4為另一個實施例的輸入權重拓展的神經元信息處理系統的結構示意圖。
具體實施方式
為了使本發明的目的、技術方案及優點更加清楚明白,以下結合附圖及實施例對本發明進行進一步詳細說明。應當理解,此處所描述的具體實施例僅用以解釋本發明,並不用於限定本發明。
圖1為一個實施例的輸入權重拓展的神經元信息處理方法的流程示意圖,如圖1所示的輸入權重拓展的神經元信息處理方法包括:
步驟S100,將預設數量的連續的神經元確定為協同組,將所述協同組中最後一個神經元確定為有效神經元,將所述協同組中除所述有效神經元外的神經元確定為協同神經元。
具體的,所述預設數量,可以根據權重股拓展的需求靈活的設定。在設定好一個協同組後,整個協同組等效為一個有效的節點,協同組內連續的神經元中,只有最後一個神經元可以輸出信息,所以將最後一個神經元確定為有效神經元,剩餘的神經元用於協同工作,進行權重信息的拓展,而不進行數據的輸出,所以確定為協同神經元,協同最後一個有效神經元進行信息的處理。
步驟S200,所述協同組中的第一個協同神經元,根據接收的前端神經元信息,獲取第一個協同神經元的橫向累加中間信息。
具體的,所述協同組中的第一個協同神經元,根據接收到的前端神經元信息獲取到用於後續神經元累加的橫向累加中間信息,不再讀取自身的神經元信息,以及不再進行輸出信息的計算。
步驟S300,所述協同組中後續的各協同神經元,依次根據接收的前端神經元信息,和前端協同神經元的橫向累加中間信息,獲取所述各協同神經元的橫向累加中間信息,並將所述協同組中最後一個協同神經元的橫向累加中間信息確定為橫向累加信息。
具體的,後續的協同神經元,在對接收到的前端神經元信息進行處理後,和前端協同神經元的橫向累加中間信息一起,獲取當前協同神經元的橫向累加中間信息,即,協同組內的協同神經元,只對其接收到的前端神經元信息進行處理,並與協同組內的其它協同神經元的橫向累加中間信息進行進一步的累加,直至最後一個協同神經元,最後一個協同神經元獲取的橫向累加中間信息確定為橫向累加信息,用於後續的有效神經元的計算。
步驟S400,所述有效神經元根據接收的前端神經元信息、讀取的所述有效神經元的當前神經元信息和所述橫向累加信息,獲取協同輸出信息。
具體的,所述有效神經元,對接收到的前端神經元信息、讀取當前神經元信息,和前端的所有的協同神經元計算得出的橫向累加信息,進行計算後,獲取最終用於輸出的協同輸出信息。
步驟S500,所述有效神經元輸出所述協同輸出信息。
在本實施例中,通過將預設數量的連續的神經元確定為協同組,只將所述協同組中的最後一個神經元的信息進行輸出,剩餘神經元只將信息進行累加後迭加至後端的神經元,將協同組內的所有神經元等效於一個有效的節點,多個輸入組對應一個有效輸出,可以充分利用所述多個輸入組的權重信息,打破了現有單個神經元輸入權重類型有限的缺點,提高了神經網絡的信息處理能力。
在其中一個實施例中,設置所述協同組內神經元的發放使能標識,所述發放使能標識包括允許發放數據或不允許發放數據,將所述有效神經元的發放使能標識設置為允許發放數據,並將所有所述協同神經元的發放使能標識設置為不允許發放數據。
具體的,所述設置發放使能標識,用於將確定好的預設數量的連續的神經元設定為一個協同組,設定只有最後一個神經元可以輸出信息。
在其中一個實施例中,通過設置發放使能標識,將神經元設置為允許發放數據或不允許發放數據,將預設數量的連續的神經元組成一個協同組,可根據需求靈活的組成協同組。
在其中一個實施例中,將預設數量的連續的人工神經元確定為人工協同組,將所述人工協同組中最後一個人工神經元確定為人工有效神經元,將所述人工協同組中除所述人工有效神經元外的人工神經元確定為人工協同神經元;或將預設數量的連續的脈衝神經元確定為脈衝協同組,將所述脈衝協同組中最後一個脈衝神經元確定為脈衝有效神經元,將所述脈衝協同組中除所述脈衝有效神經元外的脈衝神經元確定為脈衝協同神經元。
在本實施例中,將預設數量的連續的人工神經元確定為人工協同組,或將預設數量的連續的脈衝神經元確定為脈衝協同組,在人工神經網絡或脈衝神經網絡中,都可以確定協同組,進行單個神經元輸入權重的擴展,提高人工神經網絡或脈衝神經網絡的信息處理能力。
當所述協同組為脈衝協同組時,所述當前神經元信息包括歷史膜電位信息;在所述有效神經元輸出所述協同輸出信息的步驟之後,所述方法還包括:更新所述脈衝有效神經元的所述歷史膜電位信息。
在本實施例中,在脈衝協同組中,脈衝有效神經元輸出協同輸出信息後,將所述脈衝有效神經元的歷史膜電位信息進行更新,以便整個協同組完成後續的信息處理,而脈衝協同神經元不更新歷史膜電位信息,在後續的信息處理中,完成權重拓展的功能,通過脈衝協同組,提高整個脈衝神經網絡的信息處理能力。
圖2為另一個實施例的輸入權重拓展的神經元信息處理方法的流程示意圖,如圖2所示的輸入權重拓展的神經元信息處理方法包括:
所述前端神經元信息包括:前端神經元輸出信息、前端神經元與當前神經元的連接權重索引。
對於人工協同組,所述前端神經元信息包括:為前端人工神經元輸出的膜電位信息,前端人工神經元與當前人工神經元的連接權重索引。
對於脈衝協同組,所述前端神經元信息包括:為前端脈衝神經元輸出的脈衝尖端信息,前端脈衝神經元與當前脈衝神經元的連接權重索引。
步驟S100a,將預設數量的連續的神經元確定為協同組,將所述協同組中最後一個神經元確定為有效神經元,將所述協同組中除所述有效神經元外的神經元確定為協同神經元。
具體的,同步驟S100。
步驟S200a,協同組中的第一個協同神經元,根據所述前端神經元與當前神經元的連接權重索引,讀取前端神經元與當前神經元的連接權重;根據所述前端神經元與當前神經元的連接權重、所述前端神經元信息,獲取第一個協同神經元的橫向累加中間信息。
具體的,所述前端人工神經元與當前人工神經元的連接權重索引,是一個地址信息,當前神經元根據接收到的所述前端人工神經元與當前人工神經元的連接權重索引,在當前神經元內的存儲器中,讀取到前端人工神經元與當前人工神經元的連接權重,根據所述的連接權重信息,可以將前端神經元的輸出信息,在參與當前神經元輸出信息的計算過程中,更準確的反應出前端神經元的輸出信息的權重。
當協同組為人工協同組時,所述前端神經元信息包括前端人工神經元輸出的膜電位信息,根據所述前端人工神經元輸出的膜電位信息,和讀取到的前端神經元與當前神經元的連接權重,進行相乘後,獲取第一個人工協同神經元的橫向累加中間信息,並放入累加器中。
當協同組為脈衝協同組時,所述前端神經元信息包括前端脈衝神經元輸出的脈衝尖端信息,根據所述前端脈衝神經元輸出的脈衝尖端信息,和讀取到的前端神經元與當前神經元的連接權重,進行相乘後,獲取第一個脈衝協同神經元的橫向累加中間信息,並放入累加器中。
步驟S300a,所述協同組中的後續協同神經元,依次根據所述前端神經元與當前神經元的連接權重索引,讀取前端神經元與當前神經元的連接權重;根據所述前端神經元與當前神經元的連接權重、所述前端神經元信息,和前端協同神經元的橫向累加中間信息,獲取所述各協同神經元的橫向累加中間信息,並將所述協同組中最後一個協同神經元的橫向累加中間信息確定為橫向累加信息。
具體的,協同組中的後續的協同神經元,分別將接收到的前端神經元輸出信息和讀取到的前端神經元與當前神經元的連接權重,按照預設的神經元模式進行計算,如進行相乘後,再與與之相連的前端的協同神經元的橫向累加中間信息進行累加,獲取當前協同神經元的橫向累加中間信息。直至最後一個協同神經元獲取到橫向累加中間信息後,確認為橫向累加信息。
步驟S400a,所述有效神經元根據接收的前端神經元信息、讀取的所述有效神經元的當前神經元信息和所述橫向累加信息,獲取協同輸出信息。
具體的,當協同組為人工協同組時,所述當前神經元信息包括當前人工神經元偏置信息。所述有效神經元根據接收的前端神經元信息、讀取的所述有效神經元的當前神經元信息和所述橫向累加信息,獲取協同輸出信息,包括:根據所述前端人工神經元輸出的膜電位信息、所述前端神經元與當前神經元的連接權重、所述當前人工神經元偏置信息,通過預設的人工神經元激活函數,計算所述人工有效神經元的協同輸出信息。
當協同組為脈衝神經元時,所述當前神經元信息包括歷史膜電位信息和膜電位洩漏信息。所述有效神經元根據接收的前端神經元信息、讀取的所述有效神經元的當前神經元信息和所述橫向累加信息,獲取協同輸出信息,包括:根據所述前端脈衝神經元輸出的脈衝尖端信息、所述前端神經元與當前神經元的連接權重、所述歷史膜電位信息、所述膜電位洩露信息,通過脈衝神經元計算模型,計算所述脈衝有效神經元的協同輸出信息。
步驟S500a,所述有效神經元輸出所述協同輸出信息。
在本實施例中,通過接收的前端神經元信息中的前端神經元與當前神經元的連接權重索引,讀取前端神經元與當前神經元的連接權重後,用於計算橫向累加中間信息,將一個協同組中的各協同神經元的權重信息進行了充分利用,並在有效神經元輸出的協同輸出信息中,將各協同神經元的權重信息進行了體現,相當於將有效神經元的權重信息進行了擴展,從而提高了神經網絡的信息處理能力。
圖3為一個實施例的輸入權重拓展的神經元信息處理系統的結構示意圖,如圖3所示的輸入權重拓展的神經元信息處理系統,包括:
協同組確定模塊100,用於將預設數量的連續的神經元確定為協同組,將所述協同組中最後一個神經元確定為有效神經元,將所述協同組中除所述有效神經元外的神經元確定為協同神經元;用於設置所述協同組內神經元的發放使能標識,所述發放使能標識包括允許發放數據或不允許發放數據,將所述有效神經元的發放使能標識設置為允許發放數據,並將所有所述協同神經元的發放使能標識設置為不允許發放數據。包括:人工神經元確定單元,用於將預設數量的連續的人工神經元確定為人工協同組,將所述人工協同組中最後一個人工神經元確定為人工有效神經元,將所述人工協同組中除所述人工有效神經元外的人工神經元確定為人工協同神經元;或脈衝神經元確定單元,用於將預設數量的連續的脈衝神經元確定為脈衝協同組,將所述脈衝協同組中最後一個脈衝神經元確定為脈衝有效神經元,將所述脈衝協同組中除所述脈衝有效神經元外的脈衝神經元確定為脈衝協同神經元。
橫向累加信息獲取模塊200,用於所述協同組中的第一個協同神經元,根據接收的前端神經元信息,獲取第一個協同神經元的橫向累加中間信息;所述協同組中後續的各協同神經元,依次根據接收的前端神經元信息,和前端協同神經元的橫向累加中間信息,獲取所述各協同神經元的橫向累加中間信息,並將所述協同組中最後一個協同神經元的橫向累加中間信息確定為橫向累加信息,並將所述協同組中最後一個協同神經元的橫向累加中間信息確定為橫向累加信息;所述前端神經元信息包括:前端神經元輸出信息、前端神經元與當前神經元的連接權重索引;所述橫向累加信息獲取模塊200,用於協同組中的第一個協同神經元,根據所述前端神經元與當前神經元的連接權重索引,讀取前端神經元與當前神經元的連接權重;根據所述前端神經元與當前神經元的連接權重、所述前端神經元信息,獲取第一個協同神經元的橫向累加中間信息;所述協同組中的後續協同神經元,依次根據所述前端神經元與當前神經元的連接權重索引,讀取前端神經元與當前神經元的連接權重;根據所述前端神經元與當前神經元的連接權重、所述前端神經元信息,和前端協同神經元的橫向累加中間信息,獲取所述各協同神經元的橫向累加中間信息。當所述協同組為脈衝協同組時,所述當前神經元信息包括歷史膜電位信息。
具體的,所述橫向累加信息獲取模塊200,在利用具體的元器件進行硬體電路的實現時,所述協同組內的各協同神經元生成的橫向累加中間信息,通過共享寄存器傳遞給下一個協同神經元或有效神經元用於膜電位累加,這種反饋加法的方式可用累加器實現。更具體的,協同神經元獲取前端協同神經元的橫向累加中間信息,是通過讀取共享寄存器實現的。有效神經元輸出信息之後,需要將共享寄存器清0,以等待下一次或下一個協同組正常工作。在進行神經網絡電路設計時,為簡化電路結構,可對協同組內的各協同神經元與最後的有效神經元的輸入電路電路結構相同,即,與有效神經元相同,各協同神經元,也具有讀取當前神經元信息的輸入電路,在利用軟體的設計方式,設置各協同神經元的當前神經元輸入信息輸入為0即可。
協同輸出信息獲取模塊300,用於所述有效神經元根據接收的前端神經元信息、讀取的所述有效神經元的當前神經元信息和所述橫向累加信息,獲取協同輸出信息。
協同輸出信息輸出模塊400,用於所述有效神經元輸出所述協同輸出信息。
在本實施例中,通過將預設數量的連續的神經元確定為協同組,只將所述協同組中的最後一個神經元的信息進行輸出,剩餘神經元只將信息進行累加後迭加至後端的神經元,將協同組內的所有神經元等效於一個有效的節點,多個輸入對應一個有效輸出,可以充分利用所述多個輸入的權重信息,打破了現有的神經元輸入權重類型有限的缺點,提高了神經網絡的信息處理能力。通過設置發放使能標識,將神經元設置為允許發放數據或不允許發放數據,將預設數量的連續的神經元組成一個協同組,可根據需求靈活的組成協同組。通過接收的前端神經元信息中的前端神經元與當前神經元的連接權重索引,讀取前端神經元與當前神經元的連接權重後,用於計算橫向累加中間信息,將一個協同組中的各協同神經元的權重信息進行了充分利用,並在有效神經元輸出的協同輸出信息中,將各協同神經元的權重信息進行了體現,相當於將有效神經元的權重信息進行了擴展,從而提高了神經網絡的信息處理能力。將預設數量的連續的人工神經元確定為人工協同組,或將預設數量的連續的脈衝神經元確定為脈衝協同組,在人工神經網絡或脈衝神經網絡中,都可以確定協同組,進行單個神經元輸入權重的擴展,提高人工神經網絡或脈衝神經網絡的信息處理能力。
圖4為另一個實施例的輸入權重拓展的神經元信息處理系統的結構示意圖,如圖4所示的輸入權重拓展的神經元信息處理系統,包括:
協同組確定模塊100,用於將預設數量的連續的神經元確定為協同組,將所述協同組中最後一個神經元確定為有效神經元,將所述協同組中除所述有效神經元外的神經元確定為協同神經元。
橫向累加信息獲取模塊200,用於所述協同組中的第一個協同神經元,根據接收的前端神經元信息,獲取第一個協同神經元的橫向累加中間信息;所述協同組中後續的各協同神經元,依次根據接收的前端神經元信息,和前端協同神經元的橫向累加中間信息,獲取所述各協同神經元的橫向累加中間信息,並將所述協同組中最後一個協同神經元的橫向累加中間信息確定為橫向累加信息。
協同輸出信息獲取模塊300,用於所述有效神經元根據接收的前端神經元信息、讀取的所述有效神經元的當前神經元信息和所述橫向累加信息,獲取協同輸出信息。
協同輸出信息輸出模塊400,用於所述有效神經元輸出所述協同輸出信息。
歷史膜電位更新模塊500,用於更新所述脈衝有效神經元的所述歷史膜電位信息。
在本實施例中,在脈衝協同組中,脈衝有效神經元輸出協同輸出信息後,將所述脈衝有效神經元的歷史膜電位信息進行更新,以便整個協同組完成後續的信息處理,而脈衝協同神經元不更新歷史膜電位信息,在後續的信息處理中,完成權重拓展的功能,通過脈衝協同組,提高整個脈衝神經網絡的信息處理能力。
以上所述實施例的各技術特徵可以進行任意的組合,為使描述簡潔,未對上述實施例中的各個技術特徵所有可能的組合都進行描述,然而,只要這些技術特徵的組合不存在矛盾,都應當認為是本說明書記載的範圍。
以上所述實施例僅表達了本發明的幾種實施方式,其描述較為具體和詳細,但並不能因此而理解為對發明專利範圍的限制。應當指出的是,對於本領域的普通技術人員來說,在不脫離本發明構思的前提下,還可以做出若干變形和改進,這些都屬於本發明的保護範圍。因此,本發明專利的保護範圍應以所附權利要求為準。