任務分配方法和系統與流程
2023-06-28 21:09:11 3
本發明涉及計算機集群技術領域，特別涉及任務分配方法和系統。
背景技術：
集群由多個伺服器或處理單元組成，屬於同一集群的伺服器或處理單元通常由統一的系統管理，通過網絡聯繫起來，並進行同一種服務。負載均衡技術是集群技術的關鍵技術之一，其能夠將請求分攤到多個處理單元上執行，充分利用各處理單元，從而提升系統整體處理能力。目前業界通常採用的任務分配方法包括輪詢、加權輪詢、ip負載均衡、最小連接數等方法。
然而，採用現有的任務分配方法，在訪問量增加、複雜請求增加的情況下，網絡系統仍存在整體吞吐量低，部分請求任務長時間得不到響應的問題。
技術實現要素：
本發明提出一種任務分配方法和系統，可提高整體伺服器的吞吐量和請求響應速度。
本發明一方面提供了一種任務分配方法，所述方法包括：
當接收到待分配任務的任務請求時，獲取所述待分配任務的任務類型；
在獲取所述任務類型後，從伺服器列表中選擇可用伺服器；
獲取每個所述可用伺服器上對具有所述任務類型的任務的資源供需比；
獲取每個所述可用伺服器上當前執行的具有所述任務類型的任務的數量；
根據每個所述可用伺服器上對具有所述任務類型的任務的資源供需比以及當前執行的具有所述任務類型的任務的數量，在所有所述可用伺服器中選取待分配伺服器；
將所述待分配任務分配到所述待分配伺服器去執行。
作為更優選地，所述獲取每個所述可用伺服器上對具有所述任務類型的任務的資源供需比，包括：
獲取可用伺服器si上第c種資源的資源空閒率hc(si)；
計算可用伺服器si上第c種資源的資源空閒率hc(si)與具有所述任務類型的任務對第c種資源的需求值rc的比值，作為具有所述任務類型的任務對第c種資源的資源供需比分量hc(si)/rc；其中，具有所述任務類型的任務對第c種資源的需求值rc為預設值；
將具有所述任務類型的任務對各種資源的資源供需比分量進行求和，以得到可用伺服器si上對具有所述任務類型的任務的資源供需比；
其中，所述可用伺服器si為所有可用伺服器中的任意一個伺服器。
在所述方法的一個實施方式中，所述對於可用伺服器si，獲取可用伺服器si上第c種資源的資源空閒率hc(si)，包括：
獲取可用伺服器si上第c種資源的資源空閒量vc(si)；
獲取可用伺服器si上第c種資源的資源總量uc(si)；
計算可用伺服器si上第c種資源的資源空閒量vc(si)與可用伺服器si上第c種資源的資源總量uc(si)的比值，作為可用伺服器si上第c種資源的資源空閒率hc(si)。
在所述方法的一個實施方式中，所述獲取可用伺服器si上第c種資源的資源空閒量vc(si)，包括：
從本地資料庫獲取可用伺服器si上第c種資源的資源空閒量vc(si)；其中，所述本地資料庫中存儲了可用伺服器si上第c種資源的資源空閒量vc(si)；
判斷可用伺服器si上第c種資源的資源空閒量vc(si)在本地資料庫中的生存時間是否超過預設的時長閾值；
當超過所述時長閾值時，向可用伺服器si發送指令以重新獲取可用伺服器si上第c種資源的資源空閒量vc(si)並更新到所述本地資料庫中。
在所述方法的一個實施方式中，所述根據每個所述可用伺服器上對具有所述任務類型的任務的資源供需比以及當前執行的具有所述任務類型的任務的數量，在所有所述可用伺服器中選取待分配伺服器，包括：
計算每個所述可用伺服器上當前執行的具有所述任務類型的任務的數量與對應的所述資源供需比的比值，作為每個所述可用伺服器的資源壓力係數，並在所述可用伺服器選取具有最小的所述資源壓力係數的待分配伺服器。
本發明另一方面還提供了一種任務分配系統，所述系統包括：
獲取任務類型模塊，用於當接收到待分配任務的任務請求時，獲取所述待分配任務的任務類型；
選擇可用伺服器模塊，用於在獲取所述任務類型後，從伺服器列表中選擇可用伺服器；
獲取資源供需比模塊，用於獲取每個所述可用伺服器上對具有所述任務類型的任務的資源供需比；
獲取連接數量模塊，用於獲取每個所述可用伺服器上當前執行的具有所述任務類型的任務的數量；
選取待分配伺服器模塊，用於根據每個所述可用伺服器上對具有所述任務類型的任務的資源供需比以及當前執行的具有所述任務類型的任務的數量，在所有所述可用伺服器中選取待分配伺服器；
分配任務模塊，用於將所述待分配任務分配到所述待分配伺服器去執行。
作為更優選地，所述獲取資源供需比模塊包括：
資源空閒率獲取單元，用於獲取可用伺服器si上第c種資源的資源空閒率hc(si)；
資源供需比分量計算單元，用於計算可用伺服器si上第c種資源的資源空閒率hc(si)與具有所述任務類型的任務對第c種資源的需求值rc的比值，作為具有所述任務類型的任務對第c種資源的資源供需比分量hc(si)/rc；其中，具有所述任務類型的任務對第c種資源的需求值rc為預設值；
資源供需比求和單元，用於將具有所述任務類型的任務對各種資源的資源供需比分量進行求和，以得到可用伺服器si上對具有所述任務類型的任務的資源供需比；
其中，所述可用伺服器si為所有可用伺服器中的任意一個伺服器。
在所述系統的一個實施方式中，所述資源空閒率獲取單元包括：
資源空閒量獲取單元，用於獲取可用伺服器si上第c種資源的資源空閒量vc(si)；
資源總量獲取單元，用於獲取可用伺服器si上第c種資源的資源總量uc(si)；
資源空閒率計算單元，用於計算可用伺服器si上第c種資源的資源空閒量vc(si)與可用伺服器si上第c種資源的資源總量uc(si)的比值，作為可用伺服器si上第c種資源的資源空閒率hc(si)。
在所述系統的一個實施方式中，所述資源空閒量獲取單元包括：
第一獲取單元，用於從本地資料庫獲取可用伺服器si上第c種資源的資源空閒量vc(si)；其中，所述本地資料庫中存儲了可用伺服器si上第c種資源的的資源空閒量vc(si)；
生存時間判斷單元，用於判斷可用伺服器si上第c種資源的資源空閒量vc(si)在本地資料庫中的生存時間是否超過預設的時長閾值；
資源空閒量更新單元，用於當超過所述時長閾值時，向可用伺服器si發送指令以重新獲取可用伺服器si上第c種資源的資源空閒量vc(si)並更新到所述本地資料庫中。
在所述系統的一個實施方式中，所述選取待分配伺服器模塊包括：
選取單元，用於計算每個所述可用伺服器上當前執行的具有所述任務類型的任務的數量與對應的所述資源供需比的比值，作為每個所述可用伺服器的資源壓力係數，並在所述可用伺服器選取具有最小的所述資源壓力係數的待分配伺服器。
相對於現有技術，本發明具有如下突出的有益效果：本發明提供了一種任務分配方法與系統，其中任務分配方法包括：當接收到待分配任務的任務請求時，獲取所述待分配任務的任務類型；在獲取所述任務類型後，從伺服器列表中選擇可用伺服器；獲取每個所述可用伺服器上對具有所述任務類型的任務的資源供需比；獲取每個所述可用伺服器上當前執行的具有所述任務類型的任務的數量；根據每個所述可用伺服器上對具有所述任務類型的任務的資源供需比以及當前執行的具有所述任務類型的任務的數量，在所有所述可用伺服器中選取待分配伺服器；將所述待分配任務分配到所述待分配伺服器去執行。本發明提供的任務分配方法與系統，通過在分配任務時充分考慮伺服器的資源供需比、當前執行的任務數量和任務類型來選取待分配伺服器，實現伺服器資源的充分利用，提升了整體的伺服器吞吐量，增強了待分配伺服器的選取的準確性，進而提高了網絡系統的請求響應速度，防止了在大訪問量、複雜請求的情況下部分請求任務長時間得不到響應的情況。
附圖說明
圖1是本發明提供的任務分配方法的第一實施例的流程示意圖；
圖2是本發明提供的任務分配系統的第一實施例的結構示意圖。
具體實施方式
下面將結合本發明實施例中的附圖，對本發明實施例中的技術方案進行清楚、完整地描述，顯然，所描述的實施例僅僅是本發明一部分實施例，而不是全部的實施例。基於本發明中的實施例，本領域普通技術人員在沒有作出創造性勞動前提下所獲得的所有其他實施例，都屬於本發明保護的範圍。
參見圖1，是本發明提供的任務分配方法的第一實施例的流程示意圖，所述方法包括：
s101，當接收到待分配任務的任務請求時，獲取所述待分配任務的任務類型；
s102，在獲取所述任務類型後，從伺服器列表中選擇可用伺服器；
s103，獲取每個所述可用伺服器上對具有所述任務類型的任務的資源供需比；
s104，獲取每個所述可用伺服器上當前執行的具有所述任務類型的任務的數量；
s105，根據每個所述可用伺服器上對具有所述任務類型的任務的資源供需比以及當前執行的具有所述任務類型的任務的數量，在所有所述可用伺服器中選取待分配伺服器；
s106，將所述待分配任務分配到所述待分配伺服器去執行。
在一種可選的實施方式中，所述從伺服器列表中選擇可用伺服器，包括：
向所述伺服器列表中的伺服器發送在線確認包；
判斷是否收到所述伺服器在收到所述在線確認包後發送的反饋消息；
當收到所述反饋消息時，判定所述伺服器為可用伺服器；
當沒有收到所述反饋消息時，判定所述伺服器為不可用伺服器。
即通過判斷是否收到伺服器在收到在線確認包後發送的反饋消息，快速可靠地將不可用伺服器排除在選取範圍內，提高了可用伺服器的選取的效率。
在一種可選的實施方式中，所述方法還包括：
從伺服器列表中選擇可用伺服器時，若所述伺服器列表沒有可用的伺服器，則返回錯誤信息。
即通過返回錯誤信息及時反饋伺服器狀態，防止了在所述伺服器列表沒有可用的伺服器時仍繼續選取可用伺服器所造成的處理資源的浪費。
需要說明的是，所述任務類型包括但不限於cpu密集型、io密集型、內存密集型、gpu密集型、資料庫寫類型、資料庫讀類型、會話相關型和會話無關型。所述資源供需比包括但不限於cpu資源供需比、內存資源供需比和硬碟讀寫資源供需比。
即通過在分配任務時充分考慮伺服器的資源供需比、當前執行的任務數量和任務類型來選取待分配伺服器，實現伺服器資源的充分利用，提升了整體的伺服器吞吐量，增強了待分配伺服器的選取的準確性，進而提高了網絡系統的請求響應速度，防止了在大訪問量、複雜請求的情況下部分請求任務長時間得不到響應的情況。
作為更優選地，所述獲取每個所述可用伺服器上對具有所述任務類型的任務的資源供需比，包括：
獲取可用伺服器si上第c種資源的資源空閒率hc(si)；
計算可用伺服器si上第c種資源的資源空閒率hc(si)與具有所述任務類型的任務對第c種資源的需求值rc的比值，作為具有所述任務類型的任務對第c種資源的資源供需比分量hc(si)/rc；其中，具有所述任務類型的任務對第c種資源的需求值rc為預設值；
將具有所述任務類型的任務對各種資源的資源供需比分量進行求和，以得到可用伺服器si上對具有所述任務類型的任務的資源供需比；
其中，所述可用伺服器si為所有可用伺服器中的任意一個伺服器。
例如，將所述任務類型分為m類，若在所述伺服器列表中選取的所述可用伺服器的總數為n，則用si∈{s1,s2,…,sn}表示所述可用伺服器的集合；若獲取的所述待分配任務的任務類型為m種任務類型中的第j類，則將第j類任務對各種資源的資源供需比分量hc(si)/rc進行求和，得到的可用伺服器si上對第j類任務的資源供需比為
對於所述資源供需比分量hc(si)/rc，若hc(si)越大，rc越小，則說明可用伺服器si上第c種資源的供給滿足第j類任務對第c種資源的需求。將第j類任務對各種資源的資源供需比分量hc(si)/rc進行求和，即考慮了待分配任務對每種資源的需求和伺服器對每種資源的供給情況，從而尋找出對待分配任務能提供資源最充足的伺服器，降低了伺服器資源被閒置的概率，進一步提升了整體的伺服器吞吐量。
本發明還提供了一種任務分配方法的第二實施例，所述方法包括上述任務分配方法的第一實施例中的步驟s101-s106，還進一步限定了所述對於可用伺服器si，獲取可用伺服器si上第c種資源的資源空閒率hc(si)，包括：
獲取可用伺服器si上第c種資源的資源空閒量vc(si)；
獲取可用伺服器si上第c種資源的資源總量uc(si)；
計算可用伺服器si上第c種資源的資源空閒量vc(si)與可用伺服器si上第c種資源的資源總量uc(si)的比值，作為可用伺服器si上第c種資源的資源空閒率hc(si)。
在本實施例中，在可用伺服器si上第c種資源的資源總量uc(si)由可用伺服器si的硬體決定，因此，在任務分配過程中，資源總量uc(si)通常不會發生變化，故可用伺服器si上第c種資源的資源空閒量vc(si)越大，則資源空閒率hc(si)越大，即通過影響資源空閒率的最主要因素來計算資源空閒率，實現了計算過程的簡單化，從而提高了系統的處理效率。
本發明還提供了一種任務分配方法的第三實施例，所述方法包括上述任務分配方法的第一實施例中的步驟s101-s106，還進一步限定了所述獲取可用伺服器si上第c種資源的資源空閒量vc(si)，包括：
從本地資料庫獲取可用伺服器si上第c種資源的資源空閒量vc(si)；其中，所述本地資料庫中存儲了可用伺服器si上第c種資源的資源空閒量vc(si)；
判斷可用伺服器si上第c種資源的資源空閒量vc(si)在本地資料庫中的生存時間是否超過預設的時長閾值；
當超過所述時長閾值時，向可用伺服器si發送指令以重新獲取可用伺服器si上第c種資源的資源空閒量vc(si)並更新到所述本地資料庫中。
即通過本地資料庫對資源空閒量vc(si)的存儲，便於系統在資源空閒量vc(si)的生存時間未超過所述時長閾值時根據需求從本地資料庫獲取資源空閒量vc(si)，而無需直接向所述可用伺服器發送指令來獲取資源空閒量vc(si)，從而提高了系統的處理速度，且減少了所述可用伺服器對所述指令的處理次數，進而緩解了所述可用伺服器的壓力；通過判斷資源空閒量vc(si)在本地資料庫中的生存時間是否超過預設的時長閾值來決定是否在本地資料庫中更新資源空閒量vc(si)，從而獲得實時的資源空閒量vc(si)，動態考慮了伺服器狀態，進一步提高了待分配伺服器的選取的準確性。
本發明還提供了一種任務分配方法的第四實施例，所述方法包括上述任務分配方法的第一實施例中的步驟s101-s106，還進一步限定了所述根據每個所述可用伺服器上對具有所述任務類型的任務的資源供需比以及當前執行的具有所述任務類型的任務的數量，在所有所述可用伺服器中選取待分配伺服器，包括：
計算每個所述可用伺服器上當前執行的具有所述任務類型的任務的數量與對應的所述資源供需比的比值，作為每個所述可用伺服器的資源壓力係數，並在所述可用伺服器選取具有最小的所述資源壓力係數的待分配伺服器。
在本實施例中，對於所述資源壓力係數，所述可用伺服器上當前執行的具有所述任務類型的任務的數量越少，每個所述可用伺服器上所述資源供需比越大，則所述資源壓力係數越小。所述可用伺服器上當前執行的具有所述任務類型的任務的數量越少，說明對應的可用伺服器的空閒程度越高；每個所述可用伺服器上所述資源供需比越大，說明對應的可用伺服器提供的資源最充足；通過選取具有最小的所述比值的待分配伺服器，使得所述待分配伺服器同時符合伺服器的空閒程度高以及提供的資源最充足的特點，從而提高了待分配伺服器的選取的準確性。
本發明還提供了一種任務分配系統的第一實施例。參見圖2，是本發明提供的任務分配系統的第一實施例的結構示意圖，所述系統包括：
獲取任務類型模塊201，用於當接收到待分配任務的任務請求時，獲取所述待分配任務的任務類型；
選擇可用伺服器模塊202，用於在獲取所述任務類型後，從伺服器列表中選擇可用伺服器；
獲取資源供需比模塊203，用於獲取每個所述可用伺服器上對具有所述任務類型的任務的資源供需比；
獲取連接數量模塊204，用於獲取每個所述可用伺服器上當前執行的具有所述任務類型的任務的數量；
選取待分配伺服器模塊205，用於選取待分配伺服器模塊，用於根據每個所述可用伺服器上對具有所述任務類型的任務的資源供需比以及當前執行的具有所述任務類型的任務的數量，在所有所述可用伺服器中選取待分配伺服器；
分配任務模塊206，用於將所述待分配任務分配到所述待分配伺服器去執行。
在一種可選的實施方式中，所述選擇可用伺服器模塊包括：
詢問單元，用於向所述伺服器列表中的伺服器發送在線確認包；
反饋判斷單元，用於判斷是否收到所述伺服器在收到所述在線確認包後發送的反饋消息；
第一判定單元，用於當收到所述反饋消息時，判定所述伺服器為可用伺服器；
第二判定單元，用於當沒有收到所述反饋消息時，判定所述伺服器為不可用伺服器。
即通過判斷是否收到伺服器在收到在線確認包後發送的反饋消息，快速可靠地將不可用伺服器排除在選取範圍內，提高了可用伺服器的選取的效率。
在一種可選的實施方式中，所述系統還包括：
錯誤信息模塊，用於從伺服器列表中選擇可用伺服器時，若所述伺服器列表沒有可用的伺服器，則返回錯誤信息。
即通過返回錯誤信息及時反饋伺服器狀態，防止了在所述伺服器列表沒有可用的伺服器時仍繼續選取可用伺服器所造成的處理資源的浪費。
需要說明的是，所述任務類型包括但不限於cpu密集型、io密集型、內存密集型、gpu密集型、資料庫寫類型、資料庫讀類型、會話相關型和會話無關型。所述資源供需比包括但不限於cpu資源供需比、內存資源供需比和硬碟讀寫資源供需比。
即通過在分配任務時充分考慮伺服器的資源供需比、當前執行的任務數量和任務類型來選取待分配伺服器，實現伺服器資源的充分利用，提升了整體的伺服器吞吐量，增強了待分配伺服器的選取的準確性，進而提高了網絡系統的請求響應速度，防止了在大訪問量、複雜請求的情況下部分請求任務長時間得不到響應的情況。
作為更優選地，所述獲取資源供需比模塊包括：
資源空閒率獲取單元，用於獲取可用伺服器si上第c種資源的資源空閒率hc(si)；
資源供需比分量計算單元，用於計算可用伺服器si上第c種資源的資源空閒率hc(si)與具有所述任務類型的任務對第c種資源的需求值rc的比值，作為具有所述任務類型的任務對第c種資源的資源供需比分量hc(si)/rc；其中，具有所述任務類型的任務對第c種資源的需求值rc為預設值；
資源供需比求和單元，用於將具有所述任務類型的任務對各種資源的資源供需比分量進行求和，以得到可用伺服器si上對具有所述任務類型的任務的資源供需比；
其中，所述可用伺服器si為所有可用伺服器中的任意一個伺服器。
例如，將所述任務類型分為m類，若在所述伺服器列表中選取的所述可用伺服器的總數為n，則用si∈{s1,s2,…,sn}表示所述可用伺服器的集合；若獲取的所述待分配任務的任務類型為m種任務類型中的第j類，則將第j類任務對各種資源的資源供需比分量hc(si)/rc進行求和，得到的可用伺服器si上對第j類任務的資源供需比為
對於所述資源供需比分量hc(si)/rc，若hc(si)越大，rc越小，則說明可用伺服器si上第c種資源的供給滿足第j類任務對第c種資源的需求。將第j類任務對各種資源的資源供需比分量hc(si)/rc進行求和，即考慮了待分配任務對每種資源的需求和伺服器對每種資源的供給情況，從而尋找出對待分配任務能提供資源最充足的伺服器，降低了伺服器資源被閒置的概率，進一步提升了整體的伺服器吞吐量。
本發明還提供了一種任務分配系統的第二實施例，其包括上述任務分配系統的第一實施例的獲取任務類型模塊201、選擇可用伺服器模塊202、獲取資源供需比模塊203、獲取連接數量模塊204、選取待分配伺服器模塊205、分配任務模塊206，還進一步限定了所述資源空閒率獲取單元包括：
資源空閒量獲取單元，用於獲取可用伺服器si上第c種資源的資源空閒量vc(si)；
資源總量獲取單元，用於獲取可用伺服器si上第c種資源的資源總量uc(si)；
資源空閒率計算單元，用於計算可用伺服器si上第c種資源的資源空閒量vc(si)與可用伺服器si上第c種資源的資源總量uc(si)的比值，作為可用伺服器si上第c種資源的資源空閒率hc(si)。
在本實施例中，伺服器響應時間閾值為預設值；具有所述任務類型的任務在不同可用伺服器上的請求響應時間可能小於伺服器響應時間閾值、可能大於伺服器響應時間閾值，也可能等於伺服器響應時間閾值。
在本實施例中，在可用伺服器si上第c種資源的資源總量uc(si)由可用伺服器si的硬體決定，因此，在任務分配過程中，資源總量uc(si)通常不會發生變化，故可用伺服器si上第c種資源的資源空閒量vc(si)越大，則資源空閒率hc(si)越大，即通過影響資源空閒率的最主要因素來計算資源空閒率，實現了計算過程的簡單化，從而提高了系統的處理效率。
本發明還提供了一種任務分配系統的第三實施例，其包括上述任務分配系統的第一實施例的獲取任務類型模塊201、選擇可用伺服器模塊202、獲取資源供需比模塊203、獲取連接數量模塊204、選取待分配伺服器模塊205、分配任務模塊206，還進一步限定了所述資源空閒量獲取單元包括：
第一獲取單元，用於從本地資料庫獲取可用伺服器si上第c種資源的資源空閒量vc(si)；其中，所述本地資料庫中存儲了可用伺服器si上第c種資源的的資源空閒量vc(si)；
生存時間判斷單元，用於對於判斷可用伺服器si上第c種資源的資源空閒量vc(si)在本地資料庫中的生存時間是否超過預設的時長閾值；
資源空閒量更新單元，用於當超過所述時長閾值時，向可用伺服器si發送指令以重新獲取可用伺服器si上第c種資源的資源空閒量vc(si)並更新到所述本地資料庫中。
即通過本地資料庫對資源空閒量vc(si)的存儲，便於系統在資源空閒量vc(si)的生存時間未超過所述時長閾值時根據需求從本地資料庫獲取資源空閒量vc(si)，而無需直接向所述可用伺服器發送指令來獲取資源空閒量vc(si)，從而提高了系統的處理速度，且減少了所述可用伺服器對所述指令的處理次數，進而緩解了所述可用伺服器的壓力；通過判斷資源空閒量vc(si)在本地資料庫中的生存時間是否超過預設的時長閾值來決定是否在本地資料庫中更新資源空閒量vc(si)，從而獲得實時的資源空閒量vc(si)，動態考慮了伺服器狀態，進一步提高了待分配伺服器的選取的準確性。
本發明還提供了一種任務分配系統的第四實施例，其包括上述任務分配系統的第一實施例的獲取任務類型模塊201、選擇可用伺服器模塊202、獲取資源供需比模塊203、獲取連接數量模塊204、選取待分配伺服器模塊205、分配任務模塊206，還進一步限定了所述選取待分配伺服器模塊包括：
選取單元，用於計算每個所述可用伺服器上當前執行的具有所述任務類型的任務的數量與對應的所述資源供需比的比值，作為每個所述可用伺服器的資源壓力係數，並在所述可用伺服器選取具有最小的所述資源壓力係數的待分配伺服器。
在本實施例中，對於所述資源壓力係數，所述可用伺服器上當前執行的具有所述任務類型的任務的數量越少，每個所述可用伺服器上所述資源供需比越大，則所述資源壓力係數越小。所述可用伺服器上當前執行的具有所述任務類型的任務的數量越少，說明對應的可用伺服器的空閒程度越高；每個所述可用伺服器上所述資源供需比越大，說明對應的可用伺服器提供的資源最充足；通過選取具有最小的所述比值的待分配伺服器，使得所述待分配伺服器同時符合伺服器的空閒程度高以及提供的資源最充足的特點，從而提高了待分配伺服器的選取的準確性。
本發明提供的任務分配方法與系統，通過在分配任務時充分考慮伺服器的資源供需比、當前執行的任務數量和任務類型來選取待分配伺服器，實現伺服器資源的充分利用，提升了整體的伺服器吞吐量，增強了待分配伺服器的選取的準確性，進而提高了網絡系統的請求響應速度，防止了在大訪問量、複雜請求的情況下部分請求任務長時間得不到響應的情況。
本領域普通技術人員可以理解實現上述實施例方法中的全部或部分流程，是可以通過電腦程式來指令相關的硬體來完成，所述的程序可存儲於一計算機可讀取存儲介質中，該程序在執行時，可包括如上述各方法的實施例的流程。其中，所述的存儲介質可為磁碟、光碟、只讀存儲記憶體(read-onlymemory，rom)或隨機存儲記憶體(randomaccessmemory，ram)等。
以上所述是本發明的優選實施方式，應當指出，對於本技術領域的普通技術人員來說，在不脫離本發明原理的前提下，還可以做出若干改進和潤飾，這些改進和潤飾也視為本發明的保護範圍。