基於改進殘差網絡的輸電線路雷擊過電壓識別方法
2024-04-15 10:29:05 1
1.本發明屬於圖像識別技術領域，特別涉及一種基於改進殘差網絡的輸電線路雷擊過電壓識別方法。
背景技術：
2.電力系統當中，高壓輸電系統是最重要的結構之一，在電力系統中擔任傳輸電能的角色。然而翻山越嶺的輸電線路很有可能會受到風吹雨打，並且沿途的惡劣天氣也加大了輸電線路遭受雷擊的可能，很容易使輸電線路發生故障，進而影響電力系統的穩定運行。在工程實踐中，要是能快速識別出輸電線路雷擊過電壓的類型，就能有效降低故障導致的時間和經濟的損失。
3.近年來，深度學習已經成為了眾多科學領域的應用熱點之一，隨著人工智慧的發展，許多相關的研究方法也已經應用到了雷擊波形的識別領域，並且取得了一定的成果。但就目前而言，機器學習在電力系統方面的應用明顯比深度學習更為廣泛。而大量研究和實驗表明，更深層的神經網絡較淺層的神經網絡對於複雜數據處理的能力明顯更有優勢。現有的方法中，缺乏一種深層的卷積神經網絡對雷擊過電壓的識別方法。
技術實現要素：
4.鑑於背景技術所存在的技術問題，本發明所提供的基於改進殘差網絡的輸電線路雷擊過電壓識別方法，取得了最高97.25％的識別準確率，應用前景廣泛，適合廣泛推廣。
5.為了解決上述技術問題，本發明採取了如下技術方案來實現：
6.步驟1，通過pscad仿真得到各種不同類型的雷擊過電壓的故障樣本，將樣本數據進行預處理並分組建立訓練集樣本和測試集樣本；
7.步驟2，構建殘差網絡模型：通過建立層多層卷積、池化層以及殘差塊，共同組成深層次的殘差網絡模型；
8.由卷積層對圖片進行特徵提取，再經過全連接層和輸出層進行特徵分類，對輸入的圖像進行卷積運算並完成特徵提取，卷積層特徵圖：
[0009][0010]
其中：l代表當前層；代表當前層的第j個特徵圖；代表l-1層中的第個特徵圖；f(
·
)代表激活函數；
『
*』代表卷積運算；代表卷積核；kj代表輸入層的感受野；b是輸出的偏置項；
[0011]
本步驟中，將原有的7
×
7卷積核替換為3個3
×
3卷積核；感受野大小不變，網絡深度增加，網絡非線性提高，更擬合雷擊過電壓圖像特徵集中的特性；
[0012]
激活函數為relu-softplus激活函數，避免了輸入為小於0時保留負軸的值；relu-softplus激活函數用於替換現有resnet-50網絡的relu激活函數；
[0013]
對resnet-50網絡的順序進行調整：保留恆等映射部分，並強化批標準化的作用；
將繞擊、反擊、感應雷擊過電壓波形圖像代入改進後的resnet-50網絡模型，即改後的進殘差網絡模型
[0014]
步驟3，對網絡初始化設定後，將訓練集輸入改進後的殘差網絡模型，利用多層卷積和池化運算實現對原始信號抽象化表徵；
[0015]
步驟4，將故障數據輸入模型，對其進行抽象化表徵與網絡訓練，在網絡模型末端集成softmax分類器，實現對兩類雷擊過電壓樣本的分類識別；最終達到快速準確識別輸電線路雷擊過電壓類型的目的。
[0016]
優選地，池化層處理卷積層輸出的維度過大的特徵，降低輸入圖片的解析度，減少參數，提高效率，減少數據量，防止過擬合，最大池化函數：
[0017][0018]
其中：down(
·
)代表池化操作；是l層上的第j個特徵圖；θ分別對應了每個輸入的特徵圖；b為偏置項。
[0019]
優選地，連接層實現特徵的降維，轉二維信號為一維信號，進一步進行特徵表示，全連接層輸出：
[0020]
yi＝f(ωjx+bj) (3)
[0021]
其中：yj表示全連接層的輸出結果；x表示輸入的特徵向量；ωj表示第j個權重行向量。
[0022]
優選地，替換首層原有的一個7
×
7大卷積核為三個3
×
3的較小卷積核，通過更小的感受野，提取更細微的特徵，感受野：
[0023][0024]
其中：fi表示第i層卷積核的大小，stridei表示步長(本文取1)，r
i-1
表示第i-1層感受野大小。
[0025]
優選地，將softplus函數與relu函數結合，即relu-softplus函數，保留負軸的值，進而解決了神經元壞死的問題，relu-softplus函數：
[0026]
f(x)＝max{ln(1+e
x
)-ln(2),x}
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(5)
[0027]
relu-softplus函數在x＜0時使用了softplus函數，將原始的函數圖像往下平移ln(2)長度，使兩種激活函數在x＝0處銜接，保留了負值，解決了神經元「死亡」的問題，並於正半軸利用relu函數收斂速度快的優勢。
[0028]
優選地，批標準化的步驟包括：
[0029]
利用批標準化解決在訓練過程中，每一層數據分布變化的問題，將輸入的數據分布變換為均值為0方差為1的正態分布，改善輸入數據分布變化的問題，批標準化的步驟如下：
[0030]
1)求均值：
[0031][0032]
2)求方差：
[0033]
[0034]
3)歸一化：
[0035][0036]
4)尺度變換和偏移：
[0037]
yi＝γi·
x+βiꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(9)
[0038]
其中，xi代表輸入向量x的一個樣本，n為批量大小，μb為平均值，σ為方差，ε用於應對σ＝0的情況，yi為網絡最終的輸出，γ是尺度因子，β是偏移因子，使輸入不局限於正態分布，網絡非線性表達能力提高，以便學習更多的分布。
[0039]
優選地，對resnet-50的網絡結構順序進行微調，使改進後的各層結構順序變化為批標準化、激活函數、卷積層，使模型在保留原有恆等映射部分，並最大限度地利用批標準化。
[0040]
優選地，將仿真所得的繞擊過電壓波形圖、反擊過電壓波形圖以及感應過電壓波形圖數據集代入改進後的殘差網絡模型，完成訓練後輸出測試集準確率：
[0041][0042]
以及測試誤差：
[0043][0044]
其中，k為測試集中分類正確的樣本，f為測試集中分類錯誤的樣本，m＝k+f為輸電線路過電壓測試集樣本總數，fi為預測輸出值，yi為最終輸出值。
[0045]
本專利可達到以下有益效果：
[0046]
本發明提供了一種基於殘差網絡的雷擊過電壓識別方法，此方法可用於電氣領域圖像識別系統、防雷作業系統，具體是電子設備利用圖像識別技術對設備採集到的各種雷擊波形進行收集圖像並輸入改進的神經網絡，通過已經過大量訓練的改進殘差網絡對各個雷擊波形圖像進行分類。
[0047]
本發明將雷擊過電壓波形的識別轉化為神經網絡圖像識別，即利用參數已經經過遷移學習在imagenet大量數據中訓練完成的模型對未知的雷擊波形圖進行識別，就可以確定雷擊過電壓波形的種類。此外，本發明通過對雷擊波形圖像的關鍵部分進行多尺度下採樣，採集到各個特徵含量最豐富區間的特徵，通過對各個採樣圖像中的圖像特徵進行數據處理，從而確定待識別的雷擊過電壓圖片的種類，有效地提高了待識別雷擊過電壓波形分類的準確性。因此，本發明所提供的一種基於改進殘差網絡的雷擊過電壓識別方法可以用於輸電線路的防雷系統。
附圖說明
[0048]
下面結合附圖和實施例對本發明作進一步說明：
[0049]
圖1為本發明流程圖；
[0050]
圖2為本發明改進傳統resnet-50網絡方法的流程圖；
[0051]
圖3為本發明應用的損失率；
[0052]
圖4為本發明應用的準確率結果圖。
具體實施方式
[0053]
優選的方案如圖1至圖4所示，一種基於改進殘差網絡的輸電線路雷擊過電壓識別方法，步驟為：
[0054]
步驟1，通過pscad仿真得到各種不同類型的雷擊過電壓的故障樣本，將樣本數據進行預處理並分組建立訓練集樣本和測試集樣本；
[0055]
步驟2，構建殘差網絡模型：通過建立層多層卷積、池化層以及殘差塊，共同組成深層次的殘差網絡模型；
[0056]
由卷積層對圖片進行特徵提取，再經過全連接層和輸出層進行特徵分類，對輸入的圖像進行卷積運算並完成特徵提取，卷積層特徵圖：
[0057][0058]
其中：l代表當前層；代表當前層的第j個特徵圖；代表l-1層中的第個特徵圖；f(
·
)代表激活函數；
『
*』代表卷積運算；代表卷積核；kj代表輸入層的感受野；b是輸出的偏置項；
[0059]
本步驟中，將原有的7
×
7卷積核替換為3個3
×
3卷積核；感受野大小不變，網絡深度增加，網絡非線性提高，更擬合雷擊過電壓圖像特徵集中的特性；
[0060]
激活函數為relu-softplus激活函數，避免了輸入為小於0時保留負軸的值；relu-softplus激活函數用於替換現有resnet-50網絡的relu激活函數；
[0061]
對resnet-50網絡的順序進行調整：保留恆等映射部分，並強化批標準化的作用；將繞擊、反擊、感應雷擊過電壓波形圖像代入改進後的resnet-50網絡模型，即改後的進殘差網絡模型
[0062]
步驟3，對網絡初始化設定後，將訓練集輸入改進後的殘差網絡模型，利用多層卷積和池化運算實現對原始信號抽象化表徵；
[0063]
步驟4，將故障數據輸入模型，對其進行抽象化表徵與網絡訓練，在網絡模型末端集成softmax分類器，實現對兩類雷擊過電壓樣本的分類識別；最終達到快速準確識別輸電線路雷擊過電壓類型的目的。
[0064]
進一步地，池化層處理卷積層輸出的維度過大的特徵，降低輸入圖片的解析度，減少參數，提高效率，減少數據量，防止過擬合，最大池化函數：
[0065][0066]
其中：down(
·
)代表池化操作；是l層上的第j個特徵圖；θ分別對應了每個輸入的特徵圖；b為偏置項。
[0067]
進一步地，連接層實現特徵的降維，轉二維信號為一維信號，進一步進行特徵表示，全連接層輸出：
[0068]
yi＝f(ωjx+bj)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(14)
[0069]
其中：yj表示全連接層的輸出結果；x表示輸入的特徵向量；ωj表示第j個權重行向量。
[0070]
進一步地，針對圖像數據輸入卷積神經網絡後，首先經過卷積層，resnet-50網絡的7
×
7卷積核用於提取大範圍的信息，輸電線路雷擊波形圖像形狀複雜多樣，關鍵部分集
中且短暫，其他部分的差別不大。進而替換首層7
×
7大卷積核替換為三個3
×
3小卷積核。
[0071]
替換首層原有的一個7
×
7大卷積核為三個3
×
3的較小卷積核，通過更小的感受野，提取更細微的特徵，感受野：
[0072][0073]
其中：fi表示第i層卷積核的大小，stridei表示步長(本文取1)，r
i-1
表示第i-1層感受野大小。
[0074]
進一步地，對於7
×
7卷積核，其輸出的特徵圖大小(感受野)：
[0075]
r1＝r1+(7-1)＝7
[0076]
用三個3
×
3卷積核替換原有的一個7
×
7卷積核之後感受野：
[0077]
r1＝1+(3-1)＝3
[0078]
r2＝3+(7-1)＝5
[0079]
r3＝5+(3-1)＝7
[0080]
替換卷積層之後的resnet-50網絡能保證感受野大小不變，且網絡深度增加，網絡非線性激活函數增加，網絡的非線性提高。
[0081]
進一步地，resnet-50網絡中的relu激活函數，其輸出中有一段是0，降低了參數之間的依賴性，但當某個神經元的輸入為負時，計算的輸出全為0，導致該神經「壞死」。結合softplus函數與relu函數，收斂速度快且保留負值，進而解決了神經元壞死的問題，relu-softplus函數：
[0082]
f(x)＝max{ln(1+e
x
)-ln(2),x}
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(16)
[0083]
resnet-50網絡中的relu激活函數，其輸出中有一段是0，降低了參數之間的依賴性，但當某個神經元的輸入為負時，計算的輸出全為0，導致該神經「壞死」。結合softplus函數與relu函數，收斂速度快且保留負值，進而解決了神經元壞死的問題，relu-softplus函數：
[0084]
批標準化的步驟包括：
[0085]
1)根據輸入向量求均值；
[0086]
2)根據均值與向量求方差；
[0087]
3)對均值以及向量對其進行歸一化處理；
[0088]
4)完成尺度變換和偏移。
[0089]
進一步地，利用批標準化解決在訓練過程中，每一層數據分布變化的問題，將輸入的數據分布變換為均值為0方差為1的正態分布，改善輸入數據分布變化的問題，批標準化的步驟如下：
[0090]
5)求均值：
[0091][0092]
6)求方差：
[0093][0094]
7)歸一化：
[0095][0096]
8)尺度變換和偏移：
[0097]
yi＝γi·
x+βiꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(20)
[0098]
其中，xi代表輸入向量x的一個樣本，n為批量大小，μb為平均值，σ為方差，ε用於應對σ＝0的情況，yi為網絡最終的輸出，γ是尺度因子，β是偏移因子，使輸入不局限於正態分布，網絡非線性表達能力提高，以便學習更多的分布。
[0099]
進一步地，對resnet-50的網絡結構順序進行微調，使改進後的各層結構順序變化為批標準化、激活函數、卷積層，使模型在保留原有恆等映射部分，並最大限度地利用批標準化。
[0100]
進一步地，將仿真所得的繞擊過電壓波形圖、反擊過電壓波形圖以及感應過電壓波形圖數據集代入改進後的殘差網絡模型，完成訓練後輸出測試集準確率：
[0101][0102]
以及測試誤差：
[0103][0104]
其中，k為測試集中分類正確的樣本，f為測試集中分類錯誤的樣本，m＝k+f為輸電線路過電壓測試集樣本總數，fi為預測輸出值，yi為最終輸出值。
[0105]
使用雙指數函數作為雷電流的模型，通過改變雷電流幅值、波形、故障點與母線的距離以及初始相位角得到共1200組雷擊波形圖像；通過改變短路類型、短路故障點距離、過度電阻得到400組短路故障波形圖像。
[0106]
經過100個epoch的訓練，得到訓練、測試集的損失函數變化圖、訓練、測試集的準確率變化圖；
[0107]
根據四種常用模型運行得到不同網絡模型實驗結果對比圖；
[0108]
根據三種改進方法中的某一種分別進行實驗，得到不同改進方法實驗結果對比圖。
[0109]
實施例1：
[0110]
本發明的主要應用場景為：通過對檢測設備提取到的雷擊波形數據進行收集，以圖像的形式輸入改進後的殘差網絡，完成簡單高效的雷擊過電壓種類識別。
[0111]
請參閱圖1，其示出了本發明一個實例提供的一種基於改進殘差網絡的雷擊過電壓識別方法流程圖，該方法包括以下步驟：
[0112]
步驟一：
[0113]
原resnet-50網絡的卷積核的大小為7
×
7，屬於較大的卷積核，用於提取大範圍的信息，對於輸電線路雷擊波形圖像形狀複雜多樣、且波形關鍵部分十分集中且短暫、其他部分的差別不大的特點，從卷積核大小和數量的角度出發，將首層原有的一個7
×
7大卷積核替換為三個3
×
3的較小卷積核以完成對輸電線路雷擊波形更多細微的特徵的提取。
[0114]
進一步的，卷積神經網絡內部某個神經元對應圖像的大小被稱為感受野。感受野越大，其對應的原始圖像範圍就越大，即覆蓋範圍更全面；感受野越小，其包含的特徵就更
細緻。第i層感受野大小：
[0115][0116]
其中：fi表示第i層卷積核的大小，stridei表示步長(本文取1)，r
i-1
表示第i-1層感受野大小。
[0117]
替換卷積層之後的resnet-50網絡在保證感受野大小不變的同時，增加了網絡的深度。並且卷積層的增多也使改進後的網絡相比之前擁有了跟多的非線性激活函數，進而提高了網絡的非線性，使決策函數更具有判別性。
[0118]
步驟二：
[0119]
resnet-50網絡中的激活函數為relu函數，其優點是方便優化，而且在其輸出中有一段是0，降低了參數之間的依賴性，可以有效防止過擬合。但是當某個神經元的輸入為負時，計算的輸出全為0，這就導致這個神經元無法被激活。
[0120]
進一步的，為了改善這樣的情況，將softplus函數與relu函數結合，即relu-softplus函數，既利用了relu函數收斂速度快的優點，又可以在輸入小於0時保留負軸的值，進而解決了神經元無法被激活的問題。relu-softplus函數：
[0121]
f(x)＝max{ln(1+e
x
)-ln(2),x} (24)
[0122]
relu-softplus函數在x＜0時使用了softplus函數，並將原始的函數圖像往下平移了ln(2)的長度，使得兩種激活函數在x＝0處銜接。與傳統的relu函數相比保留了輸入小於0的值，解決了神經元無法被激活的問題，也在正半軸利用了relu函數收斂速度快的優勢。
[0123]
步驟三：
[0124]
為了解決在訓練過程中，每一層數據分布變化的問題，將輸入的數據分布變換為均值為0方差為1的正態分布，即批標準化：
[0125]
1)求均值：
[0126][0127]
2)求方差：
[0128][0129]
3)歸一化：
[0130][0131]
4)尺度變換和偏移：
[0132]
yi＝γi·
x+βiꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(28)
[0133]
其中，xi代表輸入向量x的一個樣本，n為批量大小，μb為平均值，σ為方差，ε用於應對σ＝0的情況。yi為網絡最終的輸出，γ是尺度因子，β是偏移因子。如此操作可以使輸入不再局限於正態分布，補償了網絡的非線性表達能力，讓網絡學習更多的分布。
[0134]
進一步的，對resnet-50的網絡結構順序進行微調，使改進後的各層結構順序變化為批標準化、激活函數、卷積層，改進的resnet-50模型在保留原有的恆等映射部分的同時
最大限度地利用批標準化。
[0135]
步驟四：
[0136]
實驗的數據集共1600組，按8:2的比例劃分訓練集和測試集。批量大小設置為16，學習率設置為0.0001，優化器為adam，損失函數選擇crossentropyloss函數。整個網絡訓練的epoch設置為100。
[0137]
在訓練完成之後，本文需要對所有使用過的網絡模型進行測試，測試其對四種過電壓樣本的識別效果，其測試準確率：
[0138][0139]
測試誤差ε的表達式為：
[0140][0141]
其中，r為測試集中分類正確的樣本，f為測試集中分類錯誤的樣本，m＝r+f為輸電線路過電壓測試集樣本總數，fi為預測輸出值，yi為最終輸出值。
[0142]
在經過100個epoch的訓練後，本發明的改進模型取得了最高97.25％的識別準確率。訓練完成後得到了訓練集和測試集的損失函數變化曲線，訓練集和測試集的準確率變化曲線。在經過第40-45個epoch之後，該網絡模型就已經基本收斂。並且測試集10個epoch以內就已經達到了90％以上的識別準確率，損失值也下降到了1.5％以內。
[0143]
進一步的，採用了4種常用的模型：alexnet、googlenet、vgg、resnet-50以及resnet-50網絡在不同改進策略下實驗結果作為對比模型。採用不同的網絡模型進行訓練，其測試集準確率、訓練時間以及模型訓練參數差別較大。通過對比數據可以得知，對於輸電線路過電壓特徵的提取，resnet-50網絡在改進前就有著相對更高的準確率。其中vgg-16、vgg-19網絡模型分別也取得了較高的準確率，但模型訓練時間過長；alexnet和googlenet的模型訓練時間短，但準確率相對較低。
[0144]
進一步的，對原始模型以及不同的改進方法分別進行了實驗，得到其測試集準確率以及測試集損失值，使用三個3
×
3卷積核替代首層7
×
7卷積核，利用relu-softplus激活函數取代relu激活函數和更改網絡結構這三種方法都能不同程度地提升網絡模型識別的準確率，並且結合三種改進方法之後得了最高的測試集準確率和最低的測試集損失值。
[0145]
最終本發明的一種基於改進殘差網絡的雷擊過電壓識別的方法模型取得了最高97.25％的識別準確率。實驗結果對比表如下：
[0146][0147]
表1對比表
[0148]
本發明屬於圖像識別領域，是一種基於改進殘差網絡的雷擊過電壓方法，應用前景廣泛，適合廣泛推廣。
[0149]
上述的實施例僅為本發明的優選技術方案，而不應視為對於本發明的限制，本發明的保護範圍應以權利要求記載的技術方案，包括權利要求記載的技術方案中技術特徵的等同替換方案為保護範圍。即在此範圍內的等同替換改進，也在本發明的保護範圍之內。