一種用於雲計算系統的負載均衡方法
2023-05-14 10:42:16 1
專利名稱：一種用於雲計算系統的負載均衡方法
技術領域：
本發明一般地涉及計算機技術領域，更具體地來說，涉及加密卡負載均衡的實現方法。
背景技術：
隨著網絡技術的不斷發展，雲計算越來越成為當今世界的熱點，然而，雲環境下的數據加密問題成為雲計算中眾多問題的重中之中。本文提出了一種雲環境下基於刀片伺服器的網絡加密機系統,把數據加密的操作全部放到加密卡內來進行,進一步加強數據的安全性。加密卡速度快，利用密鑰加密方式進行工作，所以解密時需要本加密卡進行解密，如果利用其它加密卡進行解密，則需要本加密卡與其它加密卡之間的密鑰就交換，因此，加密卡的安全性非常高。然而，隨著雲計算系統的發展，在數據流量越來越大的同時，越來越多的數據流量需要進行加密保護，在需要時將加密保護的數據流量進行解碼，然後傳送給用戶或者雲計算中心。但是，單個加密卡的計算速度很難滿足大量數據流量的請求，因此提出將多個加密卡並行連接來解決單個加密卡計算速度問題。然而，在雲計算系統中，通過多個加密卡進行加密和/解密計算期間，多個加密卡的數據流量通常是隨機分配的，會導致負載不均衡，即，某些加密卡會處於超載狀態，而其他加密卡處於輕載狀態或者無負載狀態，因此，會對整個雲計算系統速度產生不利影響，從而造成系統資源的浪費。
發明內容
針對現有技術中的負載不均衡，會對整個雲計算系統的速度產生不利影響，從而造成系統資源浪費的缺陷，本發明提出了能夠解決上述缺陷的負載均衡方法。根據本發明的一方面，本發明提供了一種負載均衡方法，包括監測加密卡，以獲取加密卡的數據流量；將數據流量與數據流量閾值進行比較；以及當數據流量超出數據流量閾值時，判定加密卡處於超載狀態，並且將超出數據流量閾值的超載數據流量轉移給未處於超載狀態的加密卡，以進行數據處理。優選地，處於超載狀態的加密卡和未處於超載狀態的加密卡與相同次級伺服器連接，或者處於超載狀態的加密卡和未處於超載狀態的加密卡與不同次級伺服器連接。優選地，當處於超載狀態的加密卡和未處於超載狀態的加密卡與相同次級伺服器連接時，局部負載均衡裝置執行加密卡之間的超載數據流量轉移。優選地，超載數據流量通過PCIE總線進行轉移。優選地，當處於超載狀態的加密卡和未處於超載狀態的加密卡與不同的次級伺服器連接時，全局負載均衡裝置執行加密卡之間的超載數據流量轉移。優選地，負載均衡方法進一步包括在數據處理完成以後，將經過處理的超載數據流量轉移回處於超載狀態的加密卡。
優選地，超載數據流量通過光纖、電纜或雙絞線進行轉移。優選地，局部負載均衡裝置位於次級伺服器中，全局負載均衡裝置位於不同次級伺服器共同連接的主伺服器中。優選地，將超出數據流量閾值的超載數據流量轉移給未處於超載狀態的加密卡包括將未處於超載狀態的加密卡的數據流量進行比較；根據數據流量從小到大的順序，順序地向未處於超載狀態的加密卡分配超載數據流量，直至超載數據流量都被分配完；以及將要轉移的超載數據流量的剩餘數據流量轉移至其他次級伺服器。優選地，數據處理是對超載數據流量進行加密和/或解密。利用本發明的負載均衡方法，在雲計算系統中，在通過多個加密卡進行加密和/或解密計算期間，將超載數據流量轉移給未處於超載狀態的加密卡來均衡多個加密卡之間的數據流量，從而大幅提高了整個雲計算系統的速度，提高了加密卡的利用率，適當設置加密卡的數量，能夠充分利用系統資源，因此降低了整個雲計算系統的成本。本發明的其它特徵和優點將在隨後的說明書中闡述，並且，部分地從說明書中變得顯而易見，或者通過實施本發明而了解。本發明的目的和其他優點可通過在所寫的說明書、權利要求書、以及附圖
中所特別指出的結構來實現和獲得。
以下結合附圖對本發明的優選實施例進行說明，應當理解，此處所描述的優選實施例僅用於說明和解釋本發明，並不用於限定本發明。在附圖中圖I是根據本發明的實施例的多加密卡系統的實例；圖2是根據本發明的實施例的負載均衡方法的整體流程圖；圖3是根據本發明的實施例的負載均衡方法的具體流程圖；以及圖4是根據本發明的實施例的兩級負載均衡模型的結構圖。
具體實施例方式以下結合附圖對本發明的優選實施例進行說明，應當理解，此處所描述的優選實施例僅用於說明和解釋本發明，並不用於限定本發明。圖I是根據本發明的實施例的多加密卡系統的實例。由主伺服器控制次級伺服器，次級伺服器的主板高速PCIe總線與多個加密卡連接，加密卡通過交換機與客戶端連接。具體地，通過多加密卡系統在由高速PCIe總線連接起來的各個加密卡間平衡系統負載(下文中，也稱為數據流量)來提高多加密卡系統的性能。主伺服器和次級伺服器之間通過高速光纖連接，加密卡之間通過PCIe總線連接。靜態負載平衡易於實現。但是這種策略不考慮系統中各個節點(也稱為伺服器)的具體負載情況而進行負載的劃分和分配，使得系統性能較差。所以動態負載平衡根據系統中各個節點的負載狀態動態地做出負載的劃分和分配，相對於靜態負載平衡來說能更好地提高系統的資源利用率。下文中將對動態負載平衡方法進行詳細描述。圖2是根據本發明的實施例的負載均衡方法的整體流程圖。參照圖2，通過以下步驟來描述負載均衡方法200。在步驟202中，監測加密卡，以獲取加密卡的數據流量。在步驟204中，將數據流量與數據流量閾值進行比較。具體地，數據流量閾值是加密卡能夠即時進行加密和/或解密的最大數據流量。在步驟206中，當數據流量超出數據流量閾值時，判定加密卡處於超載狀態，並且將超出數據流量閾值的超載數據流量轉移給未處於超載狀態的加密卡，以進行數據處理。其中，未處於超載狀態的加密卡包括沒有數據流量的加密卡和數據流量小於數據流量閾值的加密卡，即，包括無負載加密卡和欠載加密卡。具體地，當數據流量大於數據流量閾值時，通過該加密卡進行加密和/解密的數據流量就不能及時進行處理，需要等待，如果超載數據流量太大，則會大幅增加等待時間，會拖慢了整個雲存儲系統的速度。所以將超載數據流量轉移給未處於超載狀態的加密卡，從而通過未處於超載狀態的加密卡對轉移來的超載數據流量進行處理。利用本發明的實施例的負載平衡方法，可以將超載加密卡的超載數據流量轉移至欠載加密卡或無負載加密卡，通過欠載加密卡或無負載加密卡進行數據處理，不僅避免或減少了等待時間，提高了加密卡的數據處理速度，而且提高了無負載和欠載加密卡的利用率，從而實現了資源有效共享，提高了多加密卡系統的資源利用率。圖3是根據本發明的實施例的負載均衡方法的具體流程圖。參照圖3，通過以下步驟詳細描述負載平衡方法300。在步驟302中，監測加密卡，以獲取加密卡的數據流量。在步驟304中，將數據流量與數據流量閾值進行比較。在步驟306中，當數據流量超出數據流量閾值時，判定加密卡處於超載狀態。在步驟308中，將未處於超載狀態的加密卡的數據流量進行比較。具體地，將作為超載數據流量的轉移目標的加密卡的數據流量進行比較，其中，目標加密卡為無負載加密卡和欠載加密卡。在步驟310中，根據數據流量從小到大的順序，順序地向未處於超載狀態的加密卡分配超載數據流量，直至超載數據流量都被分配完。具體地，根據在步驟308中的比較結果，通過數據流量從小到大的順序對目標加密卡進行排序，從而確定向目標加密卡轉移超載數據流量的順序。其中，首先將超載數據流量轉移至數據流量最小的加密卡，將剩餘的超載數據流量轉移至數據流量第二最小的加密卡，依次類推，直到所有的超載數據流量都被轉移至未處於超載狀態的加密卡。負載平衡方法300還可以包括其他步驟，例如，目標加密卡對超載數據流量進行數據處理；在數據處理完成以後，將經過處理的超載數據流量轉移回處於超載狀態的加密卡或將處理完的數據流量通過次級伺服器傳送至主伺服器或者通過交換機傳送至客戶端。具體地，數據處理是對所述超載數據流量進行加密和/或解密。在優選實施例中，處於超載狀態的加密卡和未處於超載狀態的加密卡與相同次級伺服器連接，或者處於超載狀態的加密卡和未處於超載狀態的加密卡與不同次級伺服器連接。一個次級伺服器(也稱為刀片節點或網段)往往對應一個公司或者一個部門的應用請求，不同公司或者部門申請的服務對應不同的節點。從一個網段發送的數據如果轉移到別的網段加密卡內進行加密和解密的話，是不能從別的網段發送出去的，因為考慮到安全性，默認的是各個網段是物理隔離的，因此，當在別的網段加密和解密完成後必須轉發回來，這就會造成資源的浪費。所以在一個網段內的任務儘量在一個網段內解決，以此來節約資源。所以有必要在一個網段內維護一個小型的資源池(也稱為多個加密卡數據流量的信息列表，其中，記錄了與同一次級伺服器連接的多個加密卡的數據流量的實時信息)，以此為基礎來實現一個局部的動態負載平衡策略。局部動態負載平衡是為了解決本網段內局部的負載不均衡情況下而設計的，但是局部的負載平衡不代表在全局範圍內負載的平衡。例如突發的網絡數據襲擊一個網段的時候，本網段的數據就會瞬間變大，而別的網段則空閒，如果不在全局範圍內實現一個全局的負載平衡的話，就會造成全局範圍內的負載不平衡，使單個的請求得不到響應，而全局的資源被浪費掉。基於以上兩方面的原因，在全局範圍內維護全局動態負載平衡則很有必要。第一個資源池為主伺服器資源池(也稱為主控制節點資源池)，第二個為各個網段內資源池。第一級資源池向全局動態負載均衡模塊提供信息，第二級資源池向本網段內的局部動態負載平衡模塊提供信息。具體地，主伺服器資源池也稱為與不同次級伺服器連接的多個加密卡數據流量的信息列表，其中，記錄了與不同次級伺服器連接的多個加密卡的數據流量的實時信息)。圖4是根據本發明的實施例的兩級負載均衡模型的結構圖。參照圖4，局部負載均衡裝置位於次級伺服器中，全局負載均衡裝置位於不同次級伺服器共同連接的主伺服器中。兩級負載平衡模型包括全局資源池和局部資源池，負載平衡實現所需要的數據流量信息(或負載信息)以及節點狀態的信息都是由兩級資源池來提供。一般情況下，全局資源池都是在一個主伺服器上實現，而局部資源池都是在多個次級伺服器上實現。主伺服器主要完成全局範圍內的資源調度，而局部範圍內的資源信息在每個具體的節點上都有維護，以方便各個次級伺服器調度自己的資源和負載狀況。當處於超載狀態的加密卡和未處於超載狀態的加密卡與相同次級伺服器連接時，局部負載均衡裝置執行加密卡之間的超載數據流量轉移。超載數據流量通過PCIE總線進行轉移。具體地，如圖I所示，即，每個次級伺服器(節點)可以都可以與一個或多個加密卡連接，其中，可以根據數據流量的需求來確定加密卡的數量。當與同一個次級伺服器連接的加密卡包括處於超載狀態的加密卡和處於未超載狀態的加密卡時，可以優先通過局部負載均衡裝置執行與同一次級伺服器連接的多個加密卡(可以被稱為一組加密卡)之間的超載數據流量轉移。這組加密卡通過PCIE總線連接，因此在這組加密卡之間進行數據流量轉移的速度非常快，從而提高了局部負載均衡裝置執行負載均衡的速度和效率。當處於超載狀態的加密卡和未處於超載狀態的加密卡與不同的次級伺服器連接時，全局負載均衡裝置執行加密卡之間的超載數據流量轉移。超載數據流量通過光纖、電纜或雙絞線進行轉移。具體地，如圖I所示，即，每個次級伺服器(節點)可以都可以與多個加密卡連接。如果與同一個次級伺服器連接的多個加密卡僅包括處於超載狀態的加密卡(也可以被稱為第一組加密卡)，而與另一個次級伺服器連接的多個加密卡包括處於未超載狀態的加密卡(也可以被稱為第二組加密卡)，則可以通過全局負載均衡裝置執行與不同次級伺服器連接的多個加密卡(即，第一組加密卡和第二組加密卡)之間的超載流量轉移。次級伺服器之間通過光纖、電纜或雙絞線連接，所以在全部複製均衡裝置通過光纖、電纜或雙絞線在次級伺服器之間轉移超載數據流量。優選地，超載數據流量通過光纖進行轉移。具體地，單個網段內動態負載平衡是基於局部資源列表的次級伺服器自治式動態負載平衡，在加密卡上實現，各結點維護本地局部資源列表，即，只收集本網段內的結點負載狀態信息。在負載被處理過程中根據節點狀態的變化動態的調節系統的負載平衡狀態，如果當前結點超載，就將目前正在處理的負載優先地局部轉移到負載最輕的節點繼續處理。局部負載平衡的局部負載平衡轉移策略。
全局動態負載平衡的流程涉及主節點、本地節點和目標節點。在具體的實現過程中還要涉及到密鑰信息的轉移，因為在實際應用中，公司的一個部門往往用的是一個網段，而不同網段內的密鑰信息是不同的，各個網段都有自己的密鑰信息。不但密鑰信息不同，在源節點把負載信息發送給目標節點之前，一定要和目標節點進行會話，因為在主節點做轉移決策前，很有可能網絡數據已經到達目標節點，這時候如果再把相應的負載發給目標節點的話，就會使得目標節點超載，同時還造成系統資源的浪費。利用本發明的負載均衡方法，通過多個加密卡進行加密和/或解密計算期間，將超載數據流量轉移給未處於超載狀態的加密卡來均衡多個加密卡之間的數據流量，相應地提高了加密卡的利用率；通過局部負載平衡裝置執行與相同次級伺服器連接多個加密卡的數據流量的局部負載平衡，提高加密卡的數據處理速度，進而提高了資源利用率；通過全部負載均衡裝置執行與不同次級伺服器連接的多個加密卡的數據流量的全部負載平衡，提高了雲存儲系統中的加密卡的速度，進而提高了資源利用率；以及適當設置加密卡的數量，避免的不必要的資源浪費，充分利用系統資源，因此降低了整個雲計算系統的成本。本發明的其它特徵和優點將在隨後的說明書中闡述，並且，部分地從說明書中變得顯而易見，或者通過實施本發明而了解。本發明的目的和其他優點可通過在所寫的說明書、權利要求書、以及附圖中所特別指出的結構來實現和獲得。
權利要求
1.一種負載均衡方法,其特徵在於,包括 監測加密卡，以獲取所述加密卡的數據流量； 將所述數據流量與數據流量閾值進行比較；以及 當所述數據流量超出所述數據流量閾值時，判定所述加密卡處於超載狀態，並且將超出所述數據流量閾值的超載數據流量轉移給未處於所述超載狀態的所述加密卡，以進行數據處理。
2.根據權利要求I所述的負載均衡方法，其特徵在於，處於超載狀態的所述加密卡和未處於超載狀態的所述加密卡與相同次級伺服器連接，或者處於超載狀態的所述加密卡和未處於超載狀態的所述加密卡與不同次級伺服器連接。
3.根據權利要求2所述的負載均衡方法，其特徵在於，當處於超載狀態的所述加密卡和未處於超載狀態的所述加密卡與相同次級伺服器連接時，局部負載均衡裝置執行所述加密卡之間的超載數據流量轉移。
4.根據權利要求3所述的負載均衡方法，其特徵在於，所述超載數據流量通過PCIE總線進行轉移。
5.根據權利要求2所述的負載均衡方法，其特徵在於，當處於超載狀態的所述加密卡和未處於超載狀態的所述加密卡與不同的次級伺服器連接時，全局負載均衡裝置執行所述加密卡之間的超載數據流量轉移。
6.根據權利要求5所述的負載均衡方法，其特徵在於，進一步包括在所述數據處理完成以後，將經過處理的所述超載數據流量轉移回處於超載狀態的所述加密卡。
7.根據權利要求6所述的負載均衡方法，其特徵在於，所述超載數據流量通過光纖、電纜或雙絞線進行轉移。
8.根據權利要求2或5所述的負載均衡方法，其特徵在於，所述局部負載均衡裝置位於所述次級伺服器中，所述全局負載均衡裝置位於所述不同次級伺服器共同連接的主伺服器中。
9.根據權利要求I所述的負載均衡方法，其特徵在於，將超出所述數據流量閾值的超載數據流量轉移給未處於所述超載狀態的所述加密卡包括 將未處於超載狀態的所述加密卡的數據流量進行比較； 根據所述數據流量從小到大的順序，順序地向未處於超載狀態的所述加密卡分配超載數據流量，直至所述超載數據流量都被分配完；以及 將要轉移的超載數據流量的剩餘數據流量轉移至其他次級伺服器。
10.根據權利要求I所述的負載均衡方法，其特徵在於，所述數據處理是對所述超載數據流量進行加密和/或解密。
全文摘要
本發明提供了一種負載均衡方法，包括監測加密卡，以獲取加密卡的數據流量；將數據流量與數據流量閾值進行比較；以及當數據流量超出數據流量閾值時，判定加密卡處於超載狀態，並且將超出數據流量閾值的超載數據流量轉移給未處於超載狀態的加密卡，以進行數據處理。在雲計算系統中，將超載數據流量轉移給未處於超載狀態的加密卡來均衡多個加密卡之間的數據流量，從而大幅提高了整個雲計算系統的速度，提高了加密卡的利用率，適當設置加密卡的數量，能夠充分利用系統資源，因此降低了整個雲計算系統的成本。
文檔編號H04L12/803GK102984080SQ201210590508
公開日2013年3月20日 申請日期2012年12月31日 優先權日2012年12月31日
發明者王健傑, 孫國忠, 孫徵 申請人:無錫城市雲計算中心有限公司