實現網絡長連接倒換的方法
2023-05-03 06:18:56 1
專利名稱：實現網絡長連接倒換的方法
技術領域：
本發明涉及網絡連接技術領域，具體涉及一種實現網絡長連接倒換的方法。
背景技術：
隨著網絡技術的發展，網絡建設及應用突飛猛進，網絡用戶不斷增加，網絡負載均衡設備也越來越多地應用在各行各業的網絡中，目前的負載均衡設備都實現了對於網絡流量的符合分擔，即利用多種算法將總的訪問流量平均分配到不同的伺服器上。而且還有相應的健康性檢測機制，如果某臺真實伺服器不可用了，則連接在這臺設備上的流量將被分擔到其它的伺服器上，當這臺伺服器又能正常運行之後負載均衡設備會把網絡流量重新分配到該伺服器上，但這些流量並非是伺服器不可用之前連接在該伺服器上的流量。在某些特殊領域裡(比如銀行、證券等)，客戶端會發出長連接到伺服器建立TCP(傳輸控制協議)連接之後不斷鏈，始終保持連接狀態。這些長連接要求分配到不同的伺服器上，如果一臺伺服器不可用了則客戶端軟體會重新發起連接，負載均衡設備會將這個連接分配到一個新的伺服器上，當原來不可用的伺服器恢復正常之後，要求將原先連接到該伺服器上、目前已分配到新伺服器上的連接斷鏈，然後重新連接到該伺服器上。
目前的負載均衡設備都只是實現了對於流量的符合分擔，當伺服器在可用-＞不可用-＞可用這兩個狀態之間變化之後，可以將一部分流量重新連接到恢復正常狀態的伺服器，保證各伺服器的負載均衡，但是卻無法做到將原來的流量重新連接到恢復正常狀態的伺服器上，這樣，一臺本來有負荷的伺服器失效後，負荷全部轉移到其他伺服器上，當失效的伺服器重新工作後，由於沒有新的長連接產生(因為都是長連接)，所以該伺服器就會一直處於沒有負荷的狀態中，如同虛設。這樣在某些應用領域就無法使用。
發明內容
本發明的目的是克服現有技術的上述缺點，提供一種實現網絡長連接倒換的方法，以使在伺服器出現狀態變遷時整體流量仍然能平均分配到不同的有效伺服器上。
一種實現網絡長連接倒換的方法，所述方法包括步驟A、建立至少一個虛服務，對應一個由具有相同服務功能的至少一個真實伺服器組成的伺服器組；B、為所述虛服務設定一個標識字，以標識對應的伺服器組中真實伺服器的變化；C、根據所述標識字判斷所述真實伺服器狀態是否發生變化；D、當所述真實伺服器狀態未發生變化時，由網絡負載均衡設備建立客戶與所述真實伺服器的連接；E、當所述真實伺服器狀態發生變化時，根據所述標識字實現長連接的倒換。
所述步驟D包括D1、在所述網絡負載均衡設備上配置所述虛服務的信息及所述真實伺服器的信息，並建立它們之間的對應關係；D2、根據所述建立的虛服務信息與真實伺服器信息的對應關係建立客戶與所述真實伺服器的連接。
所述步驟D1包括配置所述虛服務的信息包括虛服務的IP位址、埠號和協議號；配置所述真實伺服器的信息包括真實伺服器的IP位址、埠號和協議號。
所述步驟D2包括D21、所述客戶向所述虛服務發起訪問請求；D22、所述網絡負載均衡設備根據所述訪問請求找到對應的伺服器組，並按預定算法為所述客戶請求分配一個真實伺服器；D23、建立所述客戶與所述分配的真實伺服器的連接。
所述預定算法包括源IP位址Hash算法，目的IP位址Hash算法、源IP位址與目的IP位址Hash算法。
所述步驟D23包括D231、根據所述訪問請求中首包報文信息及所述分配的真實伺服器的信息為本次連接建立客戶與伺服器的對應關系列表；D232、根據所述建立的客戶與伺服器的對應關系列表連接所述客戶和所述分配的真實伺服器。
所述步驟D23l包括在建立所述客戶與伺服器的對應關系列表時，記錄當前所述標識字。
所述客戶與伺服器的對應關系列表包括客戶訪問的源/目的IP位址、源/目的埠號和客戶協議號，以及所述分配的真實伺服器的地址和埠號；分配的真實伺服器回應報文的源/目的IP位址、源/目的埠號和伺服器協議號，以及經過所述網絡負載均衡設備後所述回應報文需要替換的源IP位址和源埠號。
所述步驟E包括
E1、當所述虛服務中有真實伺服器由不可用變為可用或者新加入真實伺服器時，改變所述標識字；E2、所述網絡負載均衡設備收到客戶訪問虛服務的後續報文後，如果當前的標識字與所述客戶與伺服器的對應關系列表中記錄的標識字不同，則利用所述預定算法重新分配一個真實的伺服器。
所述步驟E2包括E21、如果分配結果與所述客戶與伺服器的對應關系列表中記錄的信息相同，則直接轉發所述後續報文給所述真實的伺服器；E22、如果分配結果與所述客戶與伺服器的對應關系列表中記錄的信息不同，則刪除所述建立的客戶與伺服器的對應關系列表；E23、當所述網絡負載均衡設備再次收到客戶的後續報文後，查不到對應的客戶與伺服器的對應關系列表，則給所述客戶回應RST(復位)報文，通知用戶重新建立連接。
提供一種實現網絡長連接倒換的方法，以使在伺服器出現狀態變遷時整體流量仍然能平均分配到不同的有效伺服器上。
利用本發明，不僅保證了伺服器在出現狀態變化時整體流量仍然能平均分配到不同的有效伺服器上，而且在伺服器恢復正常後，如果沒有新的伺服器加入該網絡，則由網絡負載均衡設備將原先對應於該伺服器的長連接倒換回該伺服器上，如果有新的伺服器加入該網絡時，則實現長連接的重新分配，保證負載的均衡；同時，本發明還使得網絡負載均衡設備支持長連接倒換功能，可靠實現了伺服器之間的備份，充分保證了長連接數據的安全。
圖1是正常情況下三個客戶機分別與兩個伺服器進行連接的示意圖；
圖2是圖1中一臺伺服器不可用之後所有客戶機都連接到另一臺伺服器上的情況示意圖；圖3是當圖2中不可用的伺服器恢復正常之後將原來的連接重新連接到該伺服器的情況示意圖；圖4是本發明方法中由網絡負載均衡設備建立客戶與伺服器連接的步驟的流程圖；圖5是圖4所示流程中建立客戶和分配的真實伺服器連接過程中信號的流程示意圖；圖6是本發明方法中由網絡負載均衡設備實現長連接倒換的步驟的流程圖。
具體實施例方式
為了使本技術領域的人員更好地理解本發明，下面結合附圖和實施方式對本發明作進一步的詳細說明。
參照圖1、圖2和圖3，本發明方法的實現思路為在正常情況下，使用預定算法來選擇真實伺服器，客戶機Client1連接到伺服器Server2，客戶機Client2和Client3連接到伺服器Server1，如圖1所示；當伺服器Server2由於某種原因不可用之後，客戶機Client1與伺服器Server2的連接就會斷開，然後客戶機Client1重新發起連接，由於伺服器Server2不可用所以連接到伺服器Server1，如圖2所示；當伺服器Server2恢復正常工作之後網絡負載均衡設備會主動將客戶機Client1與伺服器Server1的連接斷開，然後由客戶機Client1重新發起連接並最終與伺服器Server2建立連接。
本發明利用網絡負載均衡設備實現網絡長連接的倒換，在有伺服器發生故障時，將對應於該伺服器的長連接倒換到其它有效伺服器上，當該伺服器恢復正常後，再將原先對應於該伺服器的長連接倒換回該伺服器上。在有新伺服器加入所述網絡時，也要重新分配長連接對應的伺服器。在上述伺服器的所有變化過程中，始終保持網絡負載的均衡。
本發明方案包括以下部分(1)建立至少一個虛服務，對應一個由具有相同服務功能的至少一個真實伺服器組成的伺服器組。也就是說，以組的形式管理網絡中的真實伺服器，將一個或多個具有相同服務功能的真實伺服器組成一組，每個伺服器組對應一個虛服務。
(2)為虛服務設定一個標識字，以標識伺服器組中真實伺服器的變化。
(3)根據所述標識字判斷所述真實伺服器狀態是否發生變化。
(4)當真實伺服器狀態正常時，由網絡負載均衡設備建立客戶與真實伺服器的連接。
(5)當真實伺服器狀態發生變化時，根據所述標識字實現長連接的倒換。
下面結合附圖分別介紹真實伺服器狀態正常情況下由網絡負載均衡設備建立客戶與真實伺服器的連接的過程以及真實伺服器狀態發生變化後由該設備實現長連接倒換的過程。
參照圖4，圖4描述了由網絡負載均衡設備建立客戶與伺服器連接的步驟的流程圖。
步驟401在網絡負載均衡設備上配置虛服務的信息及真實伺服器的信息，並建立它們之間的對應關係。其中，虛服務的信息包括虛服務的IP位址、埠號和協議號；真實伺服器的信息包括真實伺服器的IP位址、埠號和協議號。
步驟402客戶向所述虛服務發起訪問請求。
步驟403網絡負載均衡設備根據訪問請求找到對應的伺服器組，並按預定算法為客戶請求分配一個真實伺服器。即網絡負載均衡設備收到客戶訪問虛服務的首包後，判斷報文中目的IP位址、目的埠號以及協議號是否匹配虛服務的相關配置，如果匹配，則按照預定的算法為本次連接在該虛服務對應的伺服器組中分配一個真實伺服器。比如，可以按照源IP位址Hash算法，目的IP位址Hash算法、源IP位址與目的IP位址Hash算法為本次連接在該虛服務對應的伺服器組中分配一個真實伺服器。
步驟404根據訪問請求中首包報文信息及分配的真實伺服器的信息為本次連接建立客戶與伺服器的對應關系列表，並在該表中記錄當前標識字。該表包括以下信息客戶訪問的源/目的IP位址、源/目的埠號和客戶協議號，以及所述分配的真實伺服器的地址和埠號；分配的真實伺服器回應報文的源/目的IP位址、源/目的埠號和伺服器協議號，以及經過所述網絡負載均衡設備後所述回應報文需要替換的源IP位址和源埠號。
步驟405根據建立的客戶與伺服器的對應關系列表連接客戶和分配的真實伺服器。即客戶側的後續報文到達網絡負載均衡設備後，網絡負載均衡設備根據後續報文中的信息匹配客戶與伺服器的對應關系列表，獲得對應的真實伺服器的地址和埠號；然後將後續報文中的目的IP位址和目的埠號替換為對應的真實伺服器的地址和埠號，並將替換後的報文轉發給對應的真實伺服器。同樣，真實伺服器將處理結果發送給網絡負載均衡設備後，網絡負載均衡設備根據回應報文中的信息匹配客戶與伺服器的對應關系列表，獲得對應的回應報文需要替換的源IP位址和源埠號，並將回應報文中的源IP位址和源埠號替換為對應的虛服務的IP位址和虛服務的埠號，並將替換後的報文轉發給所述客戶。這樣，客戶就無法知道伺服器的真實地址了，保證了伺服器的安全。
在上述步驟404中，也可以按照以下方法建立客戶與伺服器的對應關係，比如，根據訪問請求中首包報文信息及分配的真實伺服器的信息為本次連接建立一對Cache(高速緩存)客戶端Cache和伺服器端Cache。其中，客戶端Cache內容包括客戶訪問的源/目的IP位址、源/目的埠號和協議號，以及分配的真實伺服器的地址和埠號；伺服器端Cache內容包括分配的真實伺服器回應報文的源/目的IP位址、源/目的埠號和協議號，以及經過網絡負載均衡設備後回應報文需要替換的源IP位址和源埠號。
然後，根據建立的這對Cache連接客戶和分配的真實伺服器。即客戶側的後續報文到達網絡負載均衡設備後，網絡負載均衡設備根據後續報文中的信息匹配客戶端Cache，獲得對應的真實伺服器的地址和埠號；然後將後續報文中的目的IP位址和目的埠號替換為客戶端Cache中對應的真實伺服器的地址和埠號，並將替換後的報文轉發給對應的真實伺服器。同樣，真實伺服器將處理結果發送給網絡負載均衡設備後，網絡負載均衡設備根據回應報文中的信息匹配伺服器端Cache，獲得對應的回應報文需要替換的源IP位址和源埠號，並將回應報文中的源IP位址和源埠號替換為伺服器端Cache中對應的虛服務的IP位址和虛服務的埠號，並將替換後的報文轉發給所述客戶。
上述連接過程中信號流程如圖5所示。
再參照圖5，圖5描述了圖4中建立客戶和分配的真實伺服器連接過程中信號的流程1.客戶發送請求報文到網絡負載均衡設備；2.網絡負載均衡設備用真實伺服器IP位址和埠號替換虛服務IP位址和虛服務埠號，將客戶請求發往真實的伺服器；3.真實伺服器發送處理結果回應客戶；
4.網絡負載均衡設備用虛服務IP位址和埠號替換真實伺服器IP位址和埠號，將訪問結果發往訪問客戶。
上面詳細描述了真實伺服器狀態正常情況下由網絡負載均衡設備建立客戶與真實伺服器的連接的過程。
如果由於某種原因，使某臺真實伺服器不可用，則原來連接到該伺服器的上的客戶就會斷開，然後重新發起連接請求，網絡負載均衡設備會根據目前有效伺服器按預定算法為新的請求建立新的連接，保證整體流量仍然可以平均分配到不同伺服器上。具體過程是負載均衡器在檢測到伺服器故障後，會將與該伺服器相關的客戶與伺服器的對應關系列表全部刪除。收到客戶的後續報文後無法匹配到對應的客戶與伺服器的對應關系列表，負載均衡器發送RST(復位)報文給客戶，客戶收到RST報文後，會馬上重新發起連接請求。而不必等到發生故障的伺服器回應RST報文，或者客戶根據TCP協議重傳報文，直到超時再重建連接。提高了倒換效率。負載均衡設備為該請求重新分配有效的真實伺服器，按照圖4所示流程建立新的連接。如果網絡中同時有多個伺服器發生故障，處理也是一樣的，只要存在有效的伺服器，就會將負載均衡分配到所有有效伺服器上。
當不可用伺服器又恢復正常後，可由網絡負載均衡設備實現長連接倒換。具體包括如果沒有新伺服器加入該網絡，則會將原先對應於該伺服器的長連接倒換回該伺服器上，保證負載的均衡；如果有新伺服器加入該網絡，為了保證負載的均衡，要重新分配長連接對應的伺服器。
通過前面的介紹已經得知，網絡負載均衡設備對於真實伺服器的管理是以組的形式進行的，也就是說，一個虛服務中的所有真實伺服器被看作一組，並且為每個這樣的伺服器組建立一個全局變量，也就是前面提到的標識字，每次這個組中某臺真實伺服器由不可用變為可用或者有新的伺服器加入就將這個值加1。在收到客戶首包建立客戶與伺服器的對應關系列表的時候首先在該列表中記錄這個值，然後收到後續報文的時候每次都要檢查一下該列表中的這個值和當前系統的這個值是否相同。如果相同，則說明真實伺服器沒有狀態變遷，不進行處理，只需用真實伺服器IP位址和埠號替換虛服務IP位址和虛服務埠號後直接轉發該報文即可；如果不相同，則說明伺服器組中的真實伺服器狀態發生改變，有兩種情況或者是有新伺服器加入該組，或者是該組中有發生故障的伺服器又恢復正常。這時需要利用預定算法重新分配一臺真實伺服器。如果這次計算的結果和該列表中記錄的結果一樣，則說明分配結果相同，不需要進行處理，只需用真實伺服器IP位址和埠號替換虛服務IP位址和虛服務埠號後直接轉發該報文即可；如果這次計算的結果和該列表中記錄的結果不一樣，則對應於標識字發生改變的兩個條件同樣表明有兩種情況如果是有新伺服器加入該伺服器組，為了使負載均衡，需要重新分配當前的負載；如果是該組中有發生故障的伺服器又恢復正常，則需要將原來對應於該伺服器的長連接倒換回該伺服器上，同時保證負載的均衡分配。這時要主動刪除已建立的客戶與伺服器的對應關系列表。當再次收到客戶的後續報文時由於查不到相應的客戶與伺服器的對應關系列表同時又不是首包，所以會給客戶回應一個RST(復位)報文通知客戶重新建立連接。客戶收到RST報文後，會重新發起連接，這次的連接就會選擇以前使用的伺服器或者新加入的伺服器。這樣，既實現了長連接的倒換，又保證了流量的均衡。其詳細流程參見圖6。
圖6詳細描述了本發明方法中由網絡負載均衡設備實現長連接倒換的步驟的流程步驟601網絡負載均衡設備接收客戶的後續報文；步驟602判斷是否已有對應的客戶與伺服器的對應關系列表；
如果沒有，則進到步驟604給客戶回應RST報文，通知客戶重新建立連接；如果已有，則進到步驟603判斷標識字是否改變，也就是比較客戶與伺服器的對應關系列表中記錄的標識字與目前系統的伺服器組標識字是否相同；如果相同，則進到步驟607用真實伺服器IP位址和埠號替換虛服務IP位址和虛服務埠號後直接轉發後續報文；如果不相同，則進到步驟605按預定算法重新分配一個真實伺服器；然後，進到步驟606判斷分配結果與客戶與伺服器的對應關系列表中的記錄是否相同；如果相同，則進到步驟607用真實伺服器IP位址和埠號替換虛服務IP位址和虛服務埠號後直接轉發後續報文；如果不相同，則進到步驟608刪除已建立的客戶與伺服器的對應關系列表。
當再次收到客戶後續報文時由於查不到對應的客戶與伺服器的對應關系列表，同時又不是首包，則給客戶回應一個RST報文，客戶收到RST報文後會重新發起連接，負載均衡設備按照預定算法保證為這次連接分配以前使用的伺服器或者新加入的伺服器。
在上述描述中曾多次提到為客戶與真實伺服器建立連接時，需要由網絡負載均衡設備按照預定的算法分配一個真實伺服器。在本發明中，也利用該預定算法來保證同一客戶在伺服器恢復正常的情況下分配同一伺服器。下面舉例說明該算法的實現。以IP位址Hash算法為例假設有三臺真實伺服器A、B、C，那麼設定兩個閾值a1、a2，在收到客戶報文的時候將客戶的IP位址(可以是源IP位址、目的IP位址、源IP位址與目的IP位址)提取出來進行Hash運算得到一個值，算法保證同一地址計算得到的值唯一，然後用這個值與設定的兩個閾值a1、a2相比較，小於a1就選A，大於a1小於a2就選B，大於a2就選C。如果伺服器B不可用了就只剩下A和C，相應的閾值也只剩下一個a1，當伺服器B恢復正常之後還是將B放到A和C中間，同時恢復a1，a2兩個閾值，這樣就能保證在伺服器恢復正常情況後上次連接它的客戶還能選擇到該伺服器。
雖然通過實施例描繪了本發明，本領域普通技術人員知道，本發明有許多變形和變化而不脫離本發明的精神，希望所附的權利要求包括這些變形和變化而不脫離本發明的精神。
權利要求
1.一種實現網絡長連接倒換的方法，其特徵在於，所述方法包括步驟A、建立至少一個虛服務，對應一個由具有相同服務功能的至少一個真實伺服器組成的伺服器組；B、為所述虛服務設定一個標識字，以標識對應的伺服器組中真實伺服器的變化；C、根據所述標識字判斷所述真實伺服器狀態是否發生變化；D、當所述真實伺服器狀態未發生變化時，由網絡負載均衡設備建立客戶與所述真實伺服器的連接；E、當所述真實伺服器狀態發生變化時，根據所述標識字實現長連接的倒換。
2.如權利要求1所述的實現網絡長連接倒換的方法，其特徵在於，所述步驟D包括D1、在所述網絡負載均衡設備上配置所述虛服務的信息及所述真實伺服器的信息，並建立它們之間的對應關係；D2、根據所述建立的虛服務信息與真實伺服器信息的對應關係建立客戶與所述真實伺服器的連接。
3.如權利要求2所述的實現網絡長連接倒換的方法，其特徵在於，所述步驟D1包括配置所述虛服務的信息包括虛服務的IP位址、埠號和協議號；配置所述真實伺服器的信息包括真實伺服器的IP位址、埠號和協議號。
4.如權利要求2或3所述的實現網絡長連接倒換的方法，其特徵在於，所述步驟D2包括D21、所述客戶向所述虛服務發起訪問請求；D22、所述網絡負載均衡設備根據所述訪問請求找到對應的伺服器組，並按預定算法為所述客戶請求分配一個真實伺服器；D23、建立所述客戶與所述分配的真實伺服器的連接。
5.如權利要求4所述的實現網絡長連接倒換的方法，其特徵在於，所述預定算法包括源IP位址Hash算法，目的IP位址Hash算法、源IP位址與目的IP位址Hash算法。
6.如權利要求4所述的實現網絡長連接倒換的方法，其特徵在於，所述步驟D23包括D231、根據所述訪問請求中首包報文信息及所述分配的真實伺服器的信息為本次連接建立客戶與伺服器的對應關系列表；D232、根據所述建立的客戶與伺服器的對應關系列表連接所述客戶和所述分配的真實伺服器。
7.如權利要求6所述的實現網絡長連接倒換的方法，其特徵在於，所述步驟D231包括在建立所述客戶與伺服器的對應關系列表時，記錄當前所述標識字。
8.如權利要求6或7所述的實現網絡長連接倒換的方法，其特徵在於，所述客戶與伺服器的對應關系列表包括客戶訪問的源/目的IP位址、源/目的埠號和客戶協議號，以及所述分配的真實伺服器的地址和埠號；分配的真實伺服器回應報文的源/目的IP位址、源/目的埠號和伺服器協議號，以及經過所述網絡負載均衡設備後所述回應報文需要替換的源IP位址和源埠號。
9.如權利要求8所述的實現網絡長連接倒換的方法，其特徵在於，所述步驟E包括E1、當所述虛服務中有真實伺服器由不可用變為可用或者新加入真實伺服器時，改變所述標識字；E2、所述網絡負載均衡設備收到客戶訪問虛服務的後續報文後，如果當前的標識字與所述客戶與伺服器的對應關系列表中記錄的標識字不同，則利用所述預定算法重新分配一個真實的伺服器。
10.如權利要求9所述的實現網絡長連接倒換的方法，其特徵在於，所述步驟E2包括E21、如果分配結果與所述客戶與伺服器的對應關系列表中記錄的信息相同，則直接轉發所述後續報文給所述真實的伺服器；E22、如果分配結果與所述客戶與伺服器的對應關系列表中記錄的信息不同，則刪除所述建立的客戶與伺服器的對應關系列表；E23、當所述網絡負載均衡設備再次收到客戶的後續報文後，查不到對應的客戶與伺服器的對應關系列表，則給所述客戶回應RST(復位)報文，通知用戶重新建立連接。
全文摘要
本發明公開了一種實現網絡長連接倒換的方法，該方法包括建立至少一個虛服務，對應一個由具有相同服務功能的至少一個真實伺服器組成的伺服器組；為所述虛服務設定一個標識字，以標識伺服器組中真實伺服器的變化；根據所述標識字判斷所述真實伺服器狀態是否發生變化；當真實伺服器狀態正常時，建立客戶與真實伺服器的連接；當真實伺服器狀態發生變化時，根據標識字實現長連接的倒換。利用本發明，可以在伺服器出現狀態變遷時整體流量仍然能平均分配到不同伺服器上，而且保證在伺服器恢復正常後由網絡負載均衡設備實現長連接的倒換。
文檔編號H04L12/28GK1665206SQ20041000832
公開日2005年9月7日 申請日期2004年3月3日 優先權日2004年3月3日
發明者龔華, 錢劍, 蘭冰 申請人:華為技術有限公司