一種實現負載平衡與高可用性的系統及其方法
2023-04-27 14:57:01
專利名稱：一種實現負載平衡與高可用性的系統及其方法
技術領域：
本發明涉及一種實現負載平衡與高可用性的系統及其方法，尤其涉及一種利用心跳判斷是否代理另一伺服器，並依據閒置度判斷處理請求的伺服器，使兩伺服器實現負載平衡與高可用性的系統及其方法。
背景技術：
在網絡技術發展上，頻寬的增加速度遠遠領先伺服器整體效能的增加速度，在這樣的情況下，把若干臺伺服器集合在一起，對外看起來僅一臺伺服器提供服務，也就是叢集(Cluster)，成為一種必然的發展趨勢。
以下舉出目前常使用的兩類叢集高可用性(High Availability，HA)叢集、負載平衡(Load Balance)叢集。高可用性叢集以保障伺服器群對外提供穩定而連續的服務為目的，叢集中的每臺伺服器都能夠對外服務，彼此之間還通過被稱為心跳(Heart Beat)的特殊連接互相檢測狀態。HA的工作方式是主動式備援(Active/Standby，A/S)的模式，在一個時刻只有一臺伺服器(主伺服器)對外提供服務，其它伺服器只處於Standby的狀態，作為備份伺服器。當主伺服器出現故障時，備份伺服器通過心跳檢測到這一情況並通過一定的算法在所有備份伺服器中產生出新的對外提供服務的伺服器；一旦主伺服器恢復了，就需要通過手動或是軟體控制的方式重新讓主伺服器對外提供服務；負載平衡叢集通過算法平衡伺服器群中各個伺服器上的負載，以提高對外服務的總體效能。傳統的負載平衡叢集由一臺對外伺服器的前導伺服器(Director/Load Balancer)和若干臺節點(Node)的實體伺服器(RealServer)構成。其中前導伺服器充當一個負載調度器，所有對叢集的連接都是通過前導伺服器進行的，前導伺服器通過一定的算法把所有請求分發到各個節點上，然後由各個節點真正提供服務，並把處理結果響應給請求端。
如上述的叢集雖然常使用，但是在實用上還存在一些問題高可用性叢集保證伺服器群對外提供連續不中斷的服務，但在主伺服器沒有出現故障的時候，備份伺服器僅處於閒置狀態，在伺服器的使用率上是很大的浪費；而負載平衡叢集雖然平衡了各個伺服器的負載，使得對外提供服務的總體效能得到了提升，但是，建構一個負載平衡的系統需要三臺或三臺以上主機，而其中作為負載調度器的前導伺服器所起到的作用僅僅是分發請求，卻又是作為負載平衡叢集中不可缺少的一個組成部分，在一定程度上也構成了伺服器的浪費。
發明內容
本發明所要解決的技術問題在於提供一種實現負載平衡與高可用性的系統及其方法，利用數據傳輸信道連結兩伺服器，使兩伺服器可通過數據傳輸信道傳輸心跳、閒置度、與客戶端的請求，並依據心跳判斷是否代理另一伺服器，及依據閒置度判斷處理請求的伺服器，如此便可以提高伺服器的使用率，並實現負載平衡與高可用性的功效。
為實現上述目的，本發明所揭露的實現負載平衡與高可用性的系統，包括有第一閒置度檢測模塊、第一篩選模塊、第一服務模塊、第一心跳發送模塊、第一心跳接收模塊、第二閒置度檢測模塊、第二篩選模塊、第二服務模塊、第二修改模塊、第二心跳發送模塊、第二心跳接收模塊、數據傳輸模塊。
而且，為實現上述目的，本發明所提供的實現負載平衡與高可用性的方法包括有下列步驟第二伺服器接收第一伺服器的心跳，判斷該心跳與預期不符時，增加(bind)第一伺服器的網絡地址至第二伺服器上；及第一伺服器判斷第一與第二伺服器何者閒置度較高，並將請求由閒置度較高的伺服器處理。本發明所提的閒置度，為伺服器上的閒置資源的佔總資源的比例，例如未使用的內存與總內存、中央處理器未使用的百分率等，但不以此為限。
以下結合附圖和具體實施例對本發明進行詳細描述，但不作為對本發明的限定。
圖1為本發明所提的實現負載平衡與高可用性的系統架構圖；圖2A為本發明所提的實現負載平衡與高可用性的篩選方法流程圖；圖2B為本發明所提的實現負載平衡與高可用性的判斷採取操作的方法流程圖；
圖2C為本發明所提的實現負載平衡與高可用性的修改響應方法流程圖；圖2D為本發明所提的實現負載平衡與高可用性的代理方法流程圖。
其中，附圖標記100A第一伺服器 100B第二伺服器101數據傳輸模塊 102網絡110A篩選模塊110B篩選模塊120修改模塊 130服務模塊140閒置度檢測模塊 150心跳發送模塊160A心跳接收模塊160B心跳接收模塊步驟210接收請求步驟220請求是否來自數據傳輸信道步驟230判斷對請求採取的操作步驟231第二伺服器心跳是否符合預期步驟232兩伺服器是否均不可處理請求步驟233是否僅第一伺服器可處理請求步驟234是否僅第二伺服器可處理請求步驟235第二伺服器是否較閒置步驟240接受請求步驟250轉發請求步驟260拒絕請求步驟270接收響應步驟280修改來源地址步驟290發送回應步驟310第一伺服器心跳是否符合預期步驟320增加網絡地址步驟330接收請求步驟340接受請求步驟350拒絕請求步驟360刪除網絡地址
具體實施例方式
圖1為本發明的實現負載平衡與高可用性的系統架構圖，通過圖1來說明本發明的系統運作。在第一伺服器100A，包含有篩選模塊110A、修改模塊120、服務模塊130、閒置度檢測模塊140、心跳發送模塊150、心跳接收模塊160A、數據傳輸模塊101，第二伺服器100B中，各包含有篩選模塊110B、修改模塊120、服務模塊130、閒置度檢測模塊140、心跳發送模塊150、心跳接收模塊160B、數據傳輸模塊101。其中第一伺服器100A的篩選模塊110A負責接收請求，並將其中非第二伺服器100B的篩選模塊110B所傳來的請求，依據第一伺服器100A與第二伺服器100B的閒置度判斷對該請求採取接受、拒絕或轉發的操作；第二伺服器100B的篩選模塊110B負責接受第一伺服器100A的篩選模塊110A所傳來的請求或是在第一伺服器100A通過數據傳輸模塊101所傳來的心跳不為預期時，接收客戶端的請求；修改模塊120負責將服務模塊130產生的響應的來源地址修改為第一伺服器100A的網絡102地址，並把響應送回給客戶端；服務模塊130負責處理篩選模塊所接受的請求，並產生一個響應；閒置度檢測模塊140負責檢測所處的伺服器的閒置度，以提供給篩選模塊110A作為是否要轉發請求的依據；心跳發送模塊150負責通過數據傳輸模塊101傳送代表所處伺服器狀態的心跳至另一伺服器的心跳接收模塊；心跳接收模塊負責接收另一伺服器的心跳，且第二伺服器100B的心跳模塊160B還會判斷接收的心跳不為預期時，增加第一伺服器100A的網絡地址至第二伺服器100B上，並通知篩選模塊110B接收客戶端的請求；數據傳輸模塊101負責提供數據傳輸信道給第一伺服器與第二伺服器傳輸心跳、閒置度、與客戶端的請求。
接著以一個實施例來解說本發明的運作系統與方法，並請參照圖2A、圖2B、圖2C、圖2D的流程圖及圖1，有第一伺服器100A與第二伺服器100B構建本發明所述的叢集，第一伺服器可提供FTP服務、HTTP服務，第二伺服器提供資料庫服務、HTTP服務，並以未使用的內存佔總內存的百分比為閒置度。
在第一伺服器100A與第二伺服器100B的狀態均正常(即第一伺服器100A的心跳與第二伺服器100B的心跳均為預期的正常值)的第一時刻，第一計算機向第一伺服器100A發送第一請求，第一請求為HTTP服務的請求，第一伺服器100A的篩選模塊110A在接收第一請求之後(步驟210)，判斷發現第一請求並非來自數據傳輸信道(步驟220)，於是判斷應對第一請求採取何種操作(步驟230)，以下為步驟230的判斷過程，但判斷的方式不局限於此，首先判斷第二伺服器100B的心跳是否正常，若否，則接收第一請求，並交由服務模塊130處理，若是，則判斷是否兩伺服器均不可處理這一請求(步驟232)，若是，則拒絕第一請求，若否，則判斷是否只有第一伺服器100A可處理(步驟233)，若是，則接受第一請求，若否，則判斷是否只有第二伺服器100B可處理(步驟234)，若是，則轉發第一請求至第二伺服器100B處理，因兩伺服器都能夠處理第一請求，故步驟233、步驟234均不成立，所以進一步比較兩臺伺服器的閒置度(步驟235)，若第一伺服器100A的閒置度檢測模塊140發現第一伺服器100A使用了328/1024MB的內存，第二伺服器100B的閒置度檢測模塊140發現第二伺服器100B使用了83/512MB的內存，故本發明會使用閒置度高的第二伺服器100B來處理第一請求，於是第一伺服器100A的篩選模塊110A將第一請求轉發給第二伺服器100B的篩選模塊110B(步驟250)，第二伺服器100B便接收、接受並處理第一請求，並在服務模塊130處理完成產生第一響應後(步驟270)，修改模塊120修改第一響應的網絡地址為第一伺服器100A的網絡地址(步驟280)，並將第一響應送至網絡上給第一計算機(步驟290)；如果第二伺服器100B當時的內存使用量為164MB，則因為判斷兩伺服器的閒置度相同(步驟230)，則第一伺服器將自行接受並處理這一請求(步驟240)。
在第二時刻第二伺服器100B的心跳接收模塊160B沒有收到第一伺服器100A的心跳發送模塊150所傳出的心跳(步驟310)，第二伺服器100B會判斷第一伺服器100A發生故障，那麼第二伺服器100B將把第一伺服器100A的網絡地址增加到自己的網絡卡上(步驟320)，如此一來，第二伺服器100B的篩選模塊110B將可以接收到所有對第一伺服器100A的請求，若此時有請求HTTP服務的第二請求被第二伺服器100B的篩選模塊110B接收(步驟330)，因為第二伺服器100B能夠提供HTTP服務，於是第二伺服器100B將予以接受並由服務模塊130處理(步驟340)；但若有請求FTP服務的第三請求被第二伺服器接收，因為第二伺服器無法提供FTP服務，因此第三請求都被拒絕(步驟350)。
延續上一個實施例，在第三時刻第二伺服器100B接收到第一伺服器100A的正常心跳，則第二伺服器100B認為第一伺服器100A已恢復，於是將第一伺服器的網絡地址由自己的網絡卡上刪除(步驟360)，若此時有請求資料庫服務的第四請求被第二伺服器接收，則因為第一伺服器已正常運作，故第二伺服器100B的篩選模塊110B將拒絕第四請求(步驟350)，不提供資料庫服務來進行處理。
若在第一伺服器100A與第二伺服器100B正常工作的第四時刻，第一伺服器100A接收到請求FTP服務的第五請求，由於只有第一伺服器100A能夠提供FTP服務，所以第一伺服器100A直接接受該請求(步驟233)並由服務模塊130處理；若第五請求為資料庫服務的請求，由於只有第二伺服100B器能夠提供資料庫服務(步驟234)，所以第一伺服器100A的篩選模塊110A通過數據傳輸信道將第五請求轉發給第二伺服器100B的篩選模塊110B，篩選模塊110B判斷第五請求是由第一伺服器100A轉發而來，故第二伺服器100B的篩選模塊110B接受第五請求並交由服務模塊130處理，處理完畢後第二伺服器100B修改模塊120修改處理產生的響應的來源地址為第一伺服器的網絡地址，並將響應送回給客戶端；若第五請求為SMB服務的請求，第一伺服器判斷第一伺服器和第二伺服器都不提供SMB服務(步驟232)，所以第一伺服器將拒絕第五請求(步驟260)。
繼續延續上一個實施例，但閒置度改以中央處理器(CPU)的負載為衡量基準，在第五時刻，第二伺服器內存發生錯誤，因此發出的心跳有一位(bit)由0變為1，則第一伺服器接收到第二伺服器發出的心跳後，認定第二伺服器發生故障(步驟231)，若此時接收到請求有HTTP服務的第六請求，則第一伺服器不再比較自己與第二伺服器的CPU負載何者較低，將直接接受並處理第六請求，若第六請求為資料庫服務的請求，則第一伺服器將直接拒絕第六請求，直到第二伺服器的心跳回復正常狀態。
當然，本發明還可有其它多種實施例，在不背離本發明精神及其實質的情況下，熟悉本領域的技術人員當可根據本發明作出各種相應的改變和變形，但這些相應的改變和變形都應屬於本發明所附的權利要求的保護範圍。
權利要求
1.一種實現負載平衡與高可用性的系統，利用具有第一網絡卡的第一伺服器，與具有第二網絡卡的第二伺服器以實現該系統，其中該第一網絡卡具有第一網絡地址，其特徵在於，該系統包含第一閒置度檢測模塊，作用於該第一伺服器上，用以檢測該第一伺服器並產生第一閒置度；第二閒置度檢測模塊，作用於該第二伺服器上，用以檢測該第二伺服器並產生第二閒置度；第一篩選模塊，作用於第一伺服器上，用以接收一客戶端的一第一請求，並將該第一請求採取接受、或轉發的操作其中之一，其中轉發的操作發生於判斷該第二閒置度高於該第一閒置度之時；第一服務模塊，作用於第一伺服器上，用以處理該第一請求，在該請求處理完成後產生第一響應，並將該第一響應送回給該客戶端；第一心跳發送模塊，作用於第一伺服器上，用以於間隔一固定時間時，產生代表該第一伺服器狀態的一第一心跳，並將該第一心跳送往該第二伺服器；第二篩選模塊，作用於該第二伺服器上，用以接收一第二請求，並將該第二請求採取接受的操作；第二服務模塊，作用於該第二伺服器上，用以處理該第二請求，在該第二請求處理完成後產生第二響應；第二修改模塊，作用於該第二伺服器上，用以修改該第二響應的來源地址為第一網絡地址，並在修改完成之後將該第二響應送回該客戶端；第二心跳發送模塊，作用於該第二伺服器上，用以檢測該第一心跳，檢測該第一心跳為非預期時，將該第一網絡地址增加至該第二網絡卡上；及一數據傳輸模塊，連接第一伺服器與第二伺服器，用以傳送該第一心跳、該第一伺服器轉發的第一請求。
2.根據權利要求1所述的實現負載平衡與高可用性的系統，其特徵在於，該第一篩選模塊還包含判斷該第一請求僅第一伺服器可處理時，採取接受的操作，其中該判斷發生在轉發該第一請求至第二伺服器之前。
3.根據權利要求1所述的實現負載平衡與高可用性的系統，其特徵在於，該第一篩選模塊還包含判斷該第一請求僅第二伺服器可處理時，採取轉發至第二伺服器的操作。
4.根據權利要求1所述的實現負載平衡與高可用性的系統，其特徵在於，該第一篩選模塊還包含判斷該第一伺服器與該第二伺服器均無法處理該第一請求時，採取拒絕該第一請求的操作。
5.根據權利要求1所述的實現負載平衡與高可用性的系統，其特徵在於，該第二篩選模塊還包含採取轉發第二請求至第一伺服器的操作，該操作發生在判斷該第二伺服器無法處理該一請求之時。
6.根據權利要求1所述的實現負載平衡與高可用性的系統，其特徵在於，該第二篩選模塊還包含判斷該第二伺服器無法處理該第二請求且該第一心跳為非預期時，採取拒絕該第二請求的操作。
7.根據權利要求1所述的實現負載平衡與高可用性的系統，其特徵在於，該第二篩選模塊還包含判斷該第一心跳為預期時，採取拒絕該第二請求的操作。
8.根據權利要求1所述的實現負載平衡與高可用性的系統，其特徵在於，該第一伺服器還包含一第一修改模塊，用以接收該第一服務模塊所產生的第一響應，並將該第一響應送回該客戶端。
9.根據權利要求1所述的實現負載平衡與高可用性的系統，其特徵在於，該第二心跳檢測模塊再次檢測第一心跳如預期時，將第一網絡地址由第二網絡卡上移除。
10.根據權利要求1所述的實現負載平衡與高可用性的系統，其特徵在於，該數據傳輸模塊可以實體連接或是無線通信的方式傳輸數據。
11.根據權利要求1所述的實現負載平衡與高可用性的系統，其特徵在於，還包含第二心跳發送模塊，作用於第二伺服器上，用以在間隔一固定時間時，產生代表該第二伺服器狀態的一第二心跳，並將該第二心跳通過該數據傳輸模塊送往該第一伺服器；及第一心跳接收模塊，作用一第一伺服器上，用以接收該第二心跳，當該第二心跳與預期不同時，停止轉發該第一請求至該第二伺服器。
12.一種實現負載平衡與高可用性的方法，利用具有第一網絡卡的第一伺服器，與具有第二網絡卡的第二伺服器以實現該方法，其中該第一網絡卡具有第一網絡地址，其特徵在於，該方法包含下列步驟a.該第二伺服器接收該第一伺服器每隔一固定時間所傳來的代表該第一伺服器狀態的一心跳，判斷該心跳與預期不符時，增加該第一網絡地址至該第二網絡卡上；及b.該第一伺服器接收一請求，並判斷該第二伺服器檢測該第二伺服器產生的第二閒置度高於該第一伺服器檢測該第一伺服器產生的第一閒置度時，轉發該請求至第二伺服器。
13.根據權利要求12所述的實現負載平衡與高可用性的方法，其特徵在於，該步驟a與該步驟b的先後順序可替換。
14.根據權利要求12所述的實現負載平衡與高可用性的方法，其特徵在於，該步驟a之後還包含一步驟c，檢測該心跳為預期時，在第二網絡卡上刪除該第一網絡地址。
15.根據權利要求12所述的實現負載平衡與高可用性的方法，其特徵在於，該步驟a之前還包含一步驟a1，該第二伺服器檢測該心跳為預期時，拒絕非該第一伺服器轉送的所有請求。
16.根據權利要求12所述的實現負載平衡與高可用性的方法，其特徵在於，該步驟b還包含一步驟，該第一伺服器判斷該請求僅該第一伺服器可處理時，接受並處理該請求。
17.根據權利要求12所述的實現負載平衡與高可用性的方法，其特徵在於，該步驟b還包含一步驟，該第一伺服器判斷該請求為該第一伺服器與該第二伺服器均不可處理時，拒絕該請求。
18.根據權利要求12所述的實現負載平衡與高可用性的方法，其特徵在於，該步驟b還包含下列步驟b1.該第一伺服器判斷該請求僅該第二伺服器可處理時，轉發該請求至該第二伺服器處理；b2.該第二伺服器判斷該第二伺服器是否可處理該請求，若是，則接受並處理該請求；及b3.該第二伺服器處理完該請求後，產生一響應，並修改該響應的來源地址為第一網絡地址。
19.根據權利要求18所述的實現負載平衡與高可用性的方法，其特徵在於，該步驟b2判斷該請求非該第二伺服器可處理時，轉發該請求至該第一伺服器。
20.根據權利要求12所述的實現負載平衡與高可用性的方法，其特徵在於，該步驟a之前還包含一步驟，建立第一伺服器與第二伺服器之間的一數據傳輸信道。
21.根據權利要求20所述的實現負載平衡與高可用性的方法，其特徵在於，該數據傳輸信道可以實體連接或無線通信的方式建立。
22.根據權利要求12所述的實現負載平衡與高可用性的方法，其特徵在於，還包含一步驟d，該第一伺服器接收該第二伺服器每隔一固定時間所傳來的代表該第二伺服器狀態的一心跳，判斷代表該第二伺服器狀態的該心跳與預期不符時，該第一伺服器不轉發該請求至第二伺服器，直至該代表第二伺服器狀態的該心跳符合預期。
全文摘要
本發明公開了一種實現負載平衡與高可用性的系統及其方法，利用數據傳輸信道使兩伺服器傳輸心跳、閒置度、與客戶端的請求，並依據心跳判斷是否代理另一伺服器，及依據閒置度判斷處理請求的伺服器，得以提高伺服器的使用率，並實現負載平衡與高可用性的功效。
文檔編號H04L29/06GK101060424SQ20061007449
公開日2007年10月24日 申請日期2006年4月21日 優先權日2006年4月21日
發明者莊欽平, 陳玄同, 劉文涵 申請人:英業達股份有限公司