一種基於網絡流量自適應預測的動態負載均衡方法

2023-11-10 04:31:37

專利名稱：一種基於網絡流量自適應預測的動態負載均衡方法
技術領域：
本發明涉及一種計算機應用技術，具體的說就是一種伺服器集群的網絡負載均衡方法。
背景技術：
當前，在各個網絡的核心部分，其數據流量和計算強度之大，使得單一設備根本無法承擔，而如何在完成同樣功能的多個網絡設備之間實現合理的業務量分配，使之不至於出現一臺設備過忙、而別的設備卻未充分發揮處理能力的情況，就成了一個問題，負載均衡機制也因此應運而生。 負載均衡建立在現有網絡結構之上，它提供了一種廉價有效的方法擴展伺服器帶寬和增加吞吐量，加強網絡數據處理能力，提高網絡的靈活性和可用性。它主要完成以下任務解決網絡擁塞問題，服務就近提供，實現地理位置無關性；為用戶提供更好的訪問質量；提高伺服器響應速度；提高伺服器及其他資源的利用效率；避免網絡關鍵部位出現單點失效等等。 現在所說的負載均衡，多指的是對訪問伺服器的負載進行均衡(或者說分擔)措施。 在現在的負載均衡應用中，基本都是滯後調節，僅僅是對當前負載的觀測值進行調節，在做出調節的同時事實上負載已經變化了，這樣容易造成反應滯後，調節效果不明顯，有時甚至起到相反作用的效果。

發明內容
本發明的目的是提供一種基於網絡流量預測的伺服器集群的動態負載均衡方法，
可使網絡負載得到預先調節，避免了滯後效應，時時使網絡負載保持在比較均衡的狀態。
本發明的目的是按以下方式實現的由網絡負載的一定時間周期的歷史數據得到
自適應算法的參數值，形成預測程序的公式，將當前時刻的負載觀測值和上述參數值代入
公式，得到對下一時刻的網絡負載的預測值，從而使負載均衡軟體根據該預測值預先調整
後端的調度算法的權值，實現負載均衡。
具體步驟如下 首先由基於SNMP協議的負載均衡器本身作業系統的網絡流量監控軟體或負載均
衡軟體的網絡流量監控記錄，包括流入負載均衡交換機或交換軟體的網絡流量在一定時間
周期的歷史數據，代入預測程序中自適應算法的計算公式，得到自適應算法的參數，在進行
預測時，把當前時刻的負載觀測值代入公式來預測下一時刻的負載數值，並取代當前時刻
的負載觀測值輸入負載均衡軟體的負載均衡模塊來對後端伺服器進行流量分配； 自適應算法為三層BP神經網絡算法，當前時刻的下一時刻的網絡流量負載的預
測公式為
formula see original document page 4 其中INPUTji = 0，1，2，3， n_l)是當前時刻的網絡流量、距當前時刻前一時
間間隔、前兩個時間間隔、前三個時間間隔、……前n-1個時間間隔的網絡流量負載，Xi則是通過自適應算法得到的權值，通過上面加權自回歸公式的計算，得到對下一時間間隔的網絡流量INPUTn的預測值，Xi的計算過程參照神經網絡介紹，n值的選定，和時間間隔的大小根據該網絡負載變化的時間周期而定；
具體算法描述如下formula see original document page 4，為輸入向量，隱層r^個神經元，formula see original document page 4輸出神經元yGlT，y二 (y。，yi，， ym—》t，輸入層與隱層之間的權值為Wik，閾值為9i，隱層與輸出層間的權值為Wkj，閾值為^，那麼隱層神經元的輸出滿足formula see original document page 4 輸出層神經元的輸出滿足乂 formula see original document page 4[ooi6]網絡關於第p個樣本的誤差測度formula see original document page 4
三層BP神經網絡算法的過程是由模式的正向傳播和誤差反向傳播所組成，在正向傳播過程中，輸入信息經隱層神經元逐層處理並傳向輸出層，輸出層不能得到所期望的輸出，則轉入反向傳播過程，將實際值與網絡輸出之間的誤差按原來的聯結通路返回，通過修改各層神經元間的權重使誤差減小，然後再轉入正向傳播過程，如此反覆計算，直到誤差小於設定值為止。 本發明的異效果是具備較強的自學習能力，其參數可隨歷史數據的不斷變化而變化，預測程序的公式也隨之變化，從而保證預測值在任何情況下都具有較高的準確性。通過自適應算法的預測程序來預測下一時刻流入負載均衡交換機或交換軟體的網絡負載，在負載變化具有時間周期性變化特點的場合，能夠較準確地根據該時間周期內的網絡負載變化趨勢進行流量預測和預先進行調節。


圖1基於網絡流量預測的伺服器集群的動態負載均衡方法的原理 圖2三層BP神經網絡算法原理圖。
具體實施例方式
參照說明書附圖作詳細說明 將基於自適應算法的流量預測模塊接在負載均衡策略前，用對下一時刻的網絡負
載預測值傳遞給負載均衡策略，而不是當前的網絡負載觀測值。
舉例說明 可以把基於自適應算法(神經網絡)的網絡流量預測模塊看作一個黑盒子，有輸入和輸出。比如說把某天18點的負載流量作為輸出，把某天當天17點30分，17點40分，17點50分的負載流量作為輸入，那麼可以得到由輸入計算輸出的神經網絡的一組參數。在 對今天18點的負載流量進行預測時，把已經觀測到的今天17點30分，17點40分，17點50 分的負載流量輸入神經網絡，由前面得到的參數值就可以對18點的負載流量進行預測。當 然僅僅根據一天的歷史數據得到的參數值並不足夠精確，需要進行大量的測試得到較多參 數值，再簡單平均或者加權平均得到比較精確和有效的參數。 其他自適應學習算法的學習過程類似。使用哪種自適應學習算法並不重要，它只 是一個黑盒子，能夠得到輸出就可以了。 當前時刻的下一時刻的網絡流量負載的預測公式為
鮮LT〃 二Zx,/A,屍〖/7: 其中INPUTji = 0，1，2，3， n_l)是當前時刻的網絡流量、距當前時刻前一時
間間隔、前兩個時間間隔、前三個時間間隔、……前n-l個時間間隔的網絡流量負載，Xi則
是通過自適應算法得到的權值，通過上面加權自回歸公式的計算，得到對下一時間間隔的
網絡流量INPUTn的預測值。Xi的計算過程參照神經網絡介紹。n值的選定，和時間間隔的
大小根據該網絡負載變化的時間周期而定。 以三層BP神經網絡為例，實現過程如附圖2所示 三層BP網絡的自適應算法如圖2所示，x二 (x。，Xl， ...xn—》t，這裡n = 6，分別代 表某天當天17點30分(x。) ， 17點35分(Xl)……17點55分(xn—》的網絡負載流量，隱層
個神經元，X' GRn，X' = (x' 。，x'"…，x' n—》t，輸出神經元y G lT，y = (y。，y"…， ym—》t，這裡m二 1，代表18點的網絡負載流量，輸入層與隱層之間的權值為Wik，閾值為9j， ( 一般取0)，隱層與輸出層間的權值為wkj，閾值為9 i，那麼隱層神經元的輸出滿足 ^/(Zm^x,-A) 輸出層神經元的輸出滿足 乃二/(5]、x;-《) 網絡關於第p個樣本的誤差測度 - )2
z產i 這裡把以往觀測到的17點30分，17點35分……17點55分的負載流量代入x =
/'一
(Xo，Xl，'"xn—》t，把18點的負載流量代入y = (y。，yp…，y『》t，分別解4 =/(!]沐,^,—
和7/ =/(2>;^-《)，得到參數值^和Wkj，從而，當隱含層數目取1時，可以得到公式 ，C/T,, :^'，^，' ,= 公式中的參數值Xi = wikXwkj。這樣就可以把今大的17點30分，17點35分
17點55分網絡負載觀測值代入公式，從而得到今天的18點的網絡流量預測值。 如圖1所示，去掉虛線框裡的步驟就是一般的負載均衡，當前網絡流量的觀測值直接交給後端的調度算法進行負載均衡，而我們的基於預測的動態負載均衡則是先進行虛 線框中的步驟得到對下一時刻的網絡流量的預測值，再把這個預測值送給後端的調度算法 進行負載均衡。 這裡"一定量的歷史數據"即一定時間段內的網絡負載流量記錄，通過對這些記錄 的學習和辨識，神經網絡可以得到一組參數，該參數可以用於進行預測。得到參數以後，將 當前時刻的負載觀測值作為輸入，用神經網絡算法進行模擬，可以得到對下一時刻的負載 流量的預測值。將預測值作為負載均衡器的輸入，就相當於預先對網絡流量進行調整，在負 載具有一定時間周期規律的情況下，結果具有較高的準確程度。
權利要求
一種基於網絡流量自適應預測的動態負載均衡方法，其特徵在於，由網絡負載的一定時間周期的歷史數據得到自適應算法的參數值，形成預測程序的公式，將當前時刻的負載觀測值和上述參數值代入公式，得到對下一時刻的網絡負載的預測值，從而使負載均衡軟體根據該預測值預先調整後端的調度算法的權值，實現負載均衡，具體步驟如下首先由基於SNMP協議的負載均衡器本身作業系統的網絡流量監控軟體或負載均衡軟體的網絡流量監控記錄，包括流入負載均衡交換機或交換軟體的網絡流量在一定時間周期的歷史數據，代入預測程序中自適應算法的計算公式，得到自適應算法的參數，在進行預測時，把當前時刻的負載觀測值代入公式來預測下一時刻的負載數值，並取代當前時刻的負載觀測值輸入負載均衡軟體的負載均衡模塊來對後端伺服器進行流量分配；自適應算法為三層BP神經網絡算法，當前時刻的下一時刻的網絡流量負載的預測公式為 INPUT n= i=0 n-1 x iINPU T i 其中INPUTi(i＝0，1，2，3，……n-1)是當前時刻的網絡流量、距當前時刻前一時間間隔、前兩個時間間隔、前三個時間間隔、……前n-1個時間間隔的網絡流量負載，xi則是通過自適應算法得到的權值，通過上面加權自回歸公式的計算，得到對下一時間間隔的網絡流量INPUTn的預測值，xi的計算過程參照神經網絡介紹，n值的選定，和時間間隔的大小根據該網絡負載變化的時間周期而定；具體算法描述如下x＝(x0，x1，…xn-1)T，x∈Rn，為輸入向量，隱層n1個神經元，x′∈Rn，x′＝(x′0，x′1，…，x′n-1)T，輸出神經元y∈Rm，y＝(y0，y1，…，ym-1)T，輸入層與隱層之間的權值為wik，閾值為θj，隱層與輸出層間的權值為wkj，閾值為θl，那麼隱層神經元的輸出滿足輸出層神經元的輸出滿足網絡關於第p個樣本的誤差測度三層BP神經網絡算法的過程是由模式的正向傳播和誤差反向傳播所組成，在正向傳播過程中，輸入信息經隱層神經元逐層處理並傳向輸出層，輸出層不能得到所期望的輸出，則轉入反向傳播過程，將實際值與網絡輸出之間的誤差按原來的聯結通路返回，通過修改各層神經元間的權重使誤差減小，然後再轉入正向傳播過程，如此反覆計算，直到誤差小於設定值為止。
全文摘要
本發明提供一種基於網絡流量自適應預測的動態負載均衡方案。該方案通過觀察流入負載均衡交換機或交換軟體的網絡負載在一定時間周期的歷史數據規律，得到預測程序中自適應算法的參數值，形成計算公式，之後把當前時刻的負載觀測值代入公式來預測下一時刻的負載數值，根據預測值來實時對後端伺服器進行流量分配，使網絡負載得到預先調節，避免了滯後效應，時時使網絡負載保持在比較均衡的狀態，適合負載流量具有一定時間周期性規律的網絡，例如定期網絡備份等場合，大大增強了網絡對負載的自適應自調節能力。
文檔編號H04L12/26GK101695050SQ20091022941
公開日2010年4月14日 申請日期2009年10月19日 優先權日2009年10月19日
發明者王守昊, 王渭巍 申請人:浪潮電子信息產業股份有限公司;