自動監測伺服器狀態並自適應調整服務的方法及其裝置製造方法
2023-06-15 04:54:11 1
自動監測伺服器狀態並自適應調整服務的方法及其裝置製造方法
【專利摘要】本發明公開了一種自動監測伺服器狀態並自適應調整服務的方法及其裝置。所述方法包括：預先確定服務的多種服務等級；利用至少一個探針監測所述伺服器狀態用以得到至少一個探針值，組合所述至少一個探針值，用以計算所述伺服器的當前服務負載值；依據所述當前服務負載值確定所述伺服器當前應採取的服務等級；以及依據所述確定的服務等級調整所述伺服器的服務操作。利用本發明提供的方法及其裝置無需人工幹預的情況下，自動判定伺服器當前的服務負載，當服務的請求量突然爆發時，可自適應地進行服務等級調整以降低服務負載，從而保障了服務的正常運行，而當服務的請求量恢復正常之後，又可自適應地進行服務等級調整以自動恢復正常服務。
【專利說明】自動監測伺服器狀態並自適應調整服務的方法及其裝置
【技術領域】
[0001] 本發明涉及網際網路的服務管理，更具體地，涉及一種自動監測伺服器狀態並自適 應調整服務的方法及其裝置。
【背景技術】
[0002] 在當今信息呈爆發式增長的時代，越來越多的用戶通過網際網路來獲取信息。但互 聯網網絡服務通常會有流量不穩定的情況發生。比如在周末、節假日網際網路的訪問人數會 顯著增加，又比如出現突發事件的情況下訪問人數也會顯著增加，訪問人數的增加往往會 導致某些服務(例如查詢服務、檢索服務或者打開網頁等操作）的請求量飆升(例如，對提供 該服務的伺服器的請求量迅速飈升)，飈升的請求量使得該服務響應速度降低甚至出現服 務得不到響應的狀況。當用戶面對這種情況時，往往是在客戶端不斷進行重試(例如，用戶 看到網頁沒有響應，則不斷刷新頁面)。這種服務請求的不斷重試反過來進一步加重伺服器 的壓力，造成雪崩效應，從而導致服務崩潰且無法恢復。
[0003] 目前現有技術解決上述問題的辦法通常為兩種。一種是通過增加伺服器達到防 止服務崩潰的目的。另一種是關閉某些服務(例如，關閉某些地區的服務、關閉某些網段的 服務、關閉一些非必要業務等）來達到防止服務崩潰的目的。但增加伺服器的方式成本較 高，此外如果服務請求量不是常態增加而是突發增加的，所增加的伺服器在非繁忙時只能 閒置，造成資源浪費。而關閉某些服務的方式實際上是通過硬性關閉的方式降低伺服器的 請求量，導致摒棄部分用戶的需求，使得這些用戶的體驗度非常不好。除此之外，這兩種現 有方式都需要人工的參與，而人力維護不僅成本較高，而且對操作人的經驗要求較高。
[0004] 因此，需要一種新的方法以解決上述問題。
【發明內容】
[0005] 有鑑於此，本發明提供一種自動監測伺服器狀態並自適應調整服務的方法及其裝 置以解決上述問題。
[0006] 本發明提供一種自動監測伺服器狀態並自適應調整服務的方法，其特徵在於，包 括： 預先確定服務的多種服務等級； 利用至少一個探針監測所述伺服器狀態用以得到至少一個探針值，組合所述至少一個 探針值，用以計算所述伺服器的當前服務負載值； 依據所述當前服務負載值確定所述伺服器當前應採取的服務等級；以及 依據所述確定的服務等級調整所述伺服器的服務操作。
[0007] 優選地，其中，依據服務負載預先確定所述多種服務等級，其中，所述服務負載為 所述伺服器的資源消耗量。
[0008] 優選地，其中，所述服務為查詢服務、下載服務、在線播放服務、信息推送服務。
[0009] 優選地，其中，所述服務為信息推送服務時，所述信息推送服務可讀取個性化數 據、讀取最近訪問記錄、讀取索引信息、綜合計算。
[0010] 優選地，其中，所述多個探針包括探針1、探針2、探針3、探針4、探針5及其組合， 其中，所述探針1用以監測服務線程數，所述探針2用以監測平均響應時間，所述探針3用 以監測處理器使用率，所述探針4用以監測內存回收頻率，所述探針5用以監測後臺讀寫次 數。
[0011] 優選地，其中，所述利用至少一個探針監測所述伺服器狀態用以得到至少一個探 針值，組合所述至少一個探針值，用以計算所述伺服器的當前服務負載值的步驟包括： 利用預定公式組合所述至少一個探針值來計算所述伺服器的當前服務負載值。
[0012] 優選地，其中，所述預定公式為： 當前服務負載=l〇g (pl*hl+p2*h2+p3*h3+*"pn*hn) /log (2)，其中，pn 表示第 n 個探針 值，hl~hn分別為探針值pl~pn的加權係數，n為大於等於1的正整數。
[0013] 優選地，其中，所述利用至少一個探針監測所述伺服器狀態用以得到至少一個探 針值，組合所述至少一個探針值，用以計算所述伺服器的當前服務負載值的步驟包括： 依據探針值的不同，可將所述多個探針對應的負載預先分為多個負載等級，每個負載 等級預先對應所述至少一個探針值的一個區間； 組合所述多個負載等級；以及 依據組合後的負載等級計算所述伺服器的當前服務負載值。
[0014] 優選地，其中，所述依據所述當前服務負載值確定所述伺服器當前應採取的服務 等級的步驟包括： 預先設定所述服務負載值所對應的服務等級，其中不同的服務負載值區間對應不同的 服務等級，依據所述的當前服務負載值確定所述伺服器當前應採取的服務等級。
[0015] 本發明還提供了一種自動監測伺服器狀態並自適應調整服務的裝置，其特徵在 於，包括： 多個探針，用以監測所述伺服器狀態以得到至少一個探針值； 計算模塊，耦接所述多個探針，用以定期讀取所述至少一個探針值，利用所讀取的探針 值計算所述伺服器的當前服務負載值； 確定模塊，耦接所述計算模塊，用以依據所述當前服務負載值確定所述伺服器當前應 採取的服務等級；以及 執行模塊，耦接所述確定模塊和伺服器，用以依據所述確定的服務等級調整所述服務 器的服務操作。
[0016] 本發明提出的自動監測伺服器狀態並自適應調整服務的方法及其裝置，具有以下 優點： 1) 無需人工幹預的情況下，自動判定伺服器當前的服務負載； 2) 當服務的請求量突然爆發時，可自適應地進行服務等級調整以降低服務負載，從而 保障了服務的正常運行； 3 )而當服務的請求量恢復正常之後，又可自適應地進行服務等級調整以自動恢復正常 服務。
[0017] 當然，實施本發明的任一產品必不一定需要同時達到以上所述的所有技術效果。
[0018]
【專利附圖】
【附圖說明】
[0019] 此處所說明的附圖用來提供對本發明的進一步理解，構成本發明的一部分，本發 明的示意性實施例及其說明用於解釋本發明，並不構成對本發明的不當限定。在附圖中： 圖1為依據本發明一實施例的自動監測伺服器狀態並自適應調整服務的方法。
[0020] 圖2為依據本發明一實施例的自動監測伺服器狀態並自適應調整服務的裝置。
[0021]
【具體實施方式】
[0022] 如在說明書及權利要求當中使用了某些詞彙來指稱特定組件。本領域技術人員 應可理解，硬體製造商可能會用不同名詞來稱呼同一個組件。本說明書及權利要求並不以 名稱的差異來作為區分組件的方式，而是以組件在功能上的差異來作為區分的準則。如在 通篇說明書及權利要求當中所提及的"包含"為一開放式用語，故應解釋成"包含但不限定 於"。說明書後續描述為實施本發明的較佳實施方式，然所述描述乃以說明本發明的一般原 則為目的，並非用以限定本發明的範圍。本發明的保護範圍當視所附權利要求所界定者為 準。
[0023] 圖1為依據本發明一實施例的自動監測伺服器狀態並自適應調整服務的方法，該 方法可以實現於服務提供商的伺服器終端。需要說明的是，本發明並不限於服務的種類，例 如，可以是查詢服務、下載服務、在線播放服務、信息推送服務等。另外，本發明也並不限於 伺服器終端的具體形式和具體功能，例如當服務是查詢服務時，伺服器終端可以是遠程的 查詢伺服器；當服務是在線播放服務時，伺服器可以是本地的播放伺服器；當服務是下載 服務時，伺服器可以是遠程的下載伺服器；當服務是信息推送服務時，伺服器可以是本地的 信息推送伺服器。如圖1所示，自動監測服務健康狀態並自適應調整服務的方法包括以下 步驟。
[0024] 步驟101，依據服務負載預先確定服務的多種服務等級。
[0025] 以信息推送服務提供商提供的信息推送服務為例，該信息推送服務的計算需要讀 取個性化數據、讀取最近訪問記錄、讀取索引信息（當前上下文)、綜合計算等。依據信息推 送服務所對應的伺服器的服務負載可預先將該信息推送服務分為若干種服務等級。在本發 明的一實施例中，綜合計算是指將多個計算子結果進行組合，其中組合的方法可以是多種， 然後依據組合操作得到最終結果。
[0026] 在本發明的一實施例中，服務負載可為伺服器的資源消耗量，可依據資源消耗量 來確定該服務等級。例如，依據信息推送服務的內容以及各內容對應的資源消耗量，可預先 將信息推送服務按照資源消耗量從高到低的分為多種服務等級。需要說明的是，本發明並 不限定服務等級的數量，本領域技術人員可依據設計需求靈活設定。例如，按照讀取個性化 數據、讀取最近訪問記錄、讀取索引信息（當前上下文)、綜合計算這四種服務內容以及其分 別對應的資源消耗量，將信息推送服務按照資源消耗量從高到低分為四種服務等級，分別 為等級1、等級2、等級3和等級4,這四種服務等級的定義如下： 等級1 :正常服務流程(讀取個性化數據(長期興趣)、讀取最近訪問記錄(短期興趣)、讀 取索引信息（當前上下文）和綜合計算）； 等級2:不關注短期興趣(讀取個性化數據(長期興趣)、讀取索引信息（當前上下文)和 綜合計算）； 等級3:無個性化數據(讀取索引信息（當前上下文）和綜合計算）； 等級4:熱點填充(填充熱點數據)。
[0027] 從上述定義中可見，等級數越大，其消耗的資源量越少，則其對應的服務質量越低 (例如不關注短期興趣則信息推送的準確度會降低、不考慮個性化數據則信息推送的準確 度會進一步降低)。需要說明的是，在本實施例中，等級數越高服務質量越低，但並不以此為 限，也可設置為等級數越低服務質量越低。
[0028] 步驟102,利用至少一個探針監測伺服器的狀態用以得到至少一個探針值，組合該 至少一個探針值，用以計算伺服器的當前服務負載值。
[0029] 在本發明的一個實施例中，使用以下探針：探針1，用以監測服務線程數；探針2， 用以監測平均響應時間；探針3,用以監測處理器使用率；探針4,用以監測內存回收頻率； 探針5,用以監測後臺（資料庫，緩存）讀寫次數等。需要說明的是，本發明並不限制探針的 具體數目，可對多個探針進行自由組合使用，推薦使用5種以上的探針。通過上述探針，可 以監測到伺服器的狀態，並得到相應的探針值(表示對應服務的負載)。在本發明的一實施 例中，定期自動讀取上述探針值，例如每隔幾秒鐘(例如2秒）就讀取探針值1次。讀取探 針值之後，對探針值進行組合，用以計算伺服器的當前服務負載值。在本發明的一個實施例 中，可利用預定公式組合各探針值來計算伺服器的當前服務負載值。
[0030] 在本發明的一實施例中，該預定公式為如下的公式（1)
【權利要求】
1. 一種自動監測伺服器狀態並自適應調整服務的方法，其特徵在於，包括： 預先確定服務的多種服務等級； 利用至少一個探針監測所述伺服器狀態用以得到至少一個探針值，組合所述至少一個 探針值，用以計算所述伺服器的當前服務負載值； 依據所述當前服務負載值確定所述伺服器當前應採取的服務等級；以及 依據所述確定的服務等級調整所述伺服器的服務操作。
2. 如權利要求1所述的自動監測伺服器狀態並自適應調整服務的方法，其特徵在於， 依據服務負載預先確定所述多種服務等級，其中，所述服務負載為所述伺服器的資源消耗 量。
3. 如權利要求1所述的自動監測伺服器狀態並自適應調整服務的方法，其特徵在於， 所述服務為查詢服務、下載服務、在線播放服務、信息推送服務。
4. 如權利要求3所述的自動監測伺服器狀態並自適應調整服務的方法，其特徵在於， 所述服務為信息推送服務時，所述信息推送服務可讀取個性化數據、讀取最近訪問記錄、讀 取索引信息、綜合計算。
5. 如權利要求1所述的自動監測伺服器狀態並自適應調整服務的方法，其特徵在於， 所述多個探針包括探針1、探針2、探針3、探針4、探針5及其組合，其中，所述探針1用以監 測服務線程數，所述探針2用以監測平均響應時間，所述探針3用以監測處理器使用率，所 述探針4用以監測內存回收頻率，所述探針5用以監測後臺讀寫次數。
6. 如權利要求3所述的自動監測伺服器狀態並自適應調整服務的方法，其特徵在於， 所述利用至少一個探針監測所述伺服器狀態用以得到至少一個探針值，組合所述至少一個 探針值，用以計算所述伺服器的當前服務負載值的步驟包括： 利用預定公式組合所述至少一個探針值來計算所述伺服器的當前服務負載值。
7. 如權利要求6所述的自動監測伺服器狀態並自適應調整服務的方法，其特徵在於， 所述預定公式為： 當前服務負載=l〇g (pl*hl+p2*h2+p3*h3+*"pn*hn) /log (2)，其中，pn 表示第 n 個探針 值，hl~hn分別為探針值pl~pn的加權係數，n為大於等於1的正整數。
8. 如權利要求3所述的自動監測伺服器狀態並自適應調整服務的方法，其特徵在於， 所述利用至少一個探針監測所述伺服器狀態用以得到至少一個探針值，組合所述至少一個 探針值，用以計算所述伺服器的當前服務負載值的步驟包括： 依據探針值的不同，可將所述多個探針對應的負載預先分為多個負載等級，每個負載 等級預先對應所述至少一個探針值的一個區間； 組合所述多個負載等級；以及 依據組合後的負載等級計算所述伺服器的當前服務負載值。
9. 如權利要求1所述的自動監測伺服器狀態並自適應調整服務的方法，其特徵在於， 所述依據所述當前服務負載值確定所述伺服器當前應採取的服務等級的步驟包括： 預先設定所述服務負載值所對應的服務等級，其中不同的服務負載值區間對應不同的 服務等級，依據所述的當前服務負載值確定所述伺服器當前應採取的服務等級。
10. -種自動監測伺服器狀態並自適應調整服務的裝置，其特徵在於，包括： 多個探針，用以監測所述伺服器狀態以得到至少一個探針值； 計算模塊，耦接所述多個探針，用以定期讀取所述至少一個探針值，利用所讀取的探針 值計算所述伺服器的當前服務負載值； 確定模塊，耦接所述計算模塊，用以依據所述當前服務負載值確定所述伺服器當前應 採取的服務等級；以及 執行模塊，耦接所述確定模塊和伺服器，用以依據所述確定的服務等級調整所述服務 器的服務操作。
【文檔編號】H04L12/26GK104506609SQ201410800779
【公開日】2015年4月8日 申請日期:2014年12月22日 優先權日:2014年12月22日
【發明者】單明輝, 盧學裕, 姚鍵, 潘柏宇, 盧述奇 申請人:合一網絡技術(北京)有限公司