一種多流伺服器間共享內存Cache的系統和方法
2023-10-06 12:52:09
專利名稱：一種多流伺服器間共享內存Cache的系統和方法
技術領域：
本發明涉及網絡通信技術領域，尤其涉及一種多流伺服器間共享內存Cache(緩衝)的系統和方法。
背景技術：
流伺服器是為流服務客戶端用戶提供邊接收節目流、邊觀看服務的系統端設備，其是VOD點播、網絡電視、數位電視、Internet流服務等流服務業務的關鍵設備。隨著寬帶網絡基礎設施的改善，基於流伺服器的應用會迅猛增長。流服務設備的大量部署後，服務提供商會越來越關心後期的維護成本。在流伺服器中，外存儲設備一般佔到系統設備總硬體成本的20％至40％，當前一般採用硬碟作為存儲介質。考慮到時移電視，也就是在觀看電視的過程中，用戶可以暫停、倒退、快進廣播的節目等流服務業務，外存儲設備可能需要進行高強度長時間的數據讀寫操作，所以對於硬碟來說，耗損周期比在普通業務中使用要短得多。根據類似行業的統計，硬碟錄像機進行24小時監控錄像，耗損周期為半年到一年。這就意味著對於運營商來說，每過半年到一年，就要付出相當大的維護成本來更換這些易損件。
如圖1所示，現在比較常見的流服務實現技術是每臺流伺服器進行獨立地運作。安裝在一臺硬體設備上的流服務軟體負責控制本機的所有硬體資源。為了減少硬碟的訪問頻率，會採用一定方式的內存技術對節目內容進行Cache。
現有技術主要存在以下兩方面的問題首先單臺硬體設備的資源有限，無法形成非常有效的Cache技術。以2Mb帶寬的數字節目源來計算，一小時的節目內容就將近1G。單臺主機設備的內存容量無法實現非常有效的流服務業務級內存能力。比如，在網絡電視中需要做時移電視的支持，從統計規律上來說，半小時內的節目最可能被用戶重新回退到。從業務優化的角度，這半小時的節目最好被保存在內存中。再比如，一些熱播的節目由於在線觀看人數比較多，節目內容最好也被保存在內存中。但由於單臺硬體設備資源限制，資源衝突的可能性加劇。單設備範圍內進行資源調劑的能力也會比較弱。
各自為政的硬體管理方式，帶來資源的浪費。這個道理也非常淺顯，各個流伺服器各自為政進行各類資源的管理，必定會帶來「重複建設」的問題。有可能一個節目在多個流伺服器上都有內存。結果是在資源緊張的情況下，寶貴的資源又被白白浪費了。
發明內容
本發明的目的在於提供一種多流伺服器間共享內存Cache的系統和方法，旨在於增加內存資源的總量，提高內存Cache的效能，減少磁碟的訪問頻率，降低磁碟耗損率和維護成本，同時減少現有技術中各自為政帶來的資源浪費。
本發明的目的是通過以下技術方案實現的本發明提供一種多流伺服器間共享內存Cache的系統，包括多個流伺服器，所述的流伺服器為用戶終端提供流服務，還包括調度伺服器，所述的調度伺服器對所述的流伺服器進行資源優化調度，以實現所述的流伺服器間共享內存Cache。
所述的調度伺服器設置一個資源使用表，所述的資源使用表包括的資源為網絡吞吐能力、內存容量和外存儲容量。
所述的調度伺服器包括登記處理模塊，將所述的流伺服器的資源登記處理並放入所述資源使用表中；業務統計模塊，根據所述資源使用表的資源形成業務統計信息；優化調度模塊，根據所述業務統計信息進行資源優化調度；資源變更信息收集模塊，持續收集資源變更信息。
所述的資源優化調度為特定內存鎖定、改變特定內存的優先級和/或在特定內存中複製特定流服務業務。
所述的調度流伺服器分派流伺服器為用戶終端提供流服務。
所述調度伺服器在不同的時間段內分派多個流伺服器為用戶終端提供流服務。
本發明還提供一種多流伺服器間共享內存Cache的方法，包括A、調度伺服器統一管理多個流伺服器的資源；B、調度伺服器根據所述的資源對多個流伺服器進行資源優化調度，以使所述的流伺服器共享內存。
所述的步驟A包括A1、所述的流伺服器向所述的調度伺服器上報所述的流伺服器的資源；A2、所述調度伺服器將所述的流伺服器的資源放入資源使用表中；A3、所述調度伺服器根據所述資源使用表中的資源形成業務統計信息。
所述的步驟A還包括所述調度伺服器持續收集所述流伺服器的資源變更信息，並更新所述的資源使用表。
所述的資源優化調度包括特定內存鎖定、改變特定內存的優先級和/或在特定內存中複製特定流服務業務。
所述的方法還包括所述的調度流伺服器分派流伺服器為用戶終端提供流服務。
所述的方法還包括所述調度伺服器在不同的時間段內分派多個流伺服器為用戶終端提供流服務。
所述的資源為網絡吞吐能力、內存容量和外存儲容量。
由本發明提供的技術方案可以看出，本發明通過調度伺服器對流伺服器的調度，實現了多個流伺服器之間的關聯，通過資源共享方式，增加了內存資源的總量，提高了內存Cache的效能；通過內存有效的Cache，減少了磁碟的訪問頻率，降低了磁碟耗損率和維護成本；同時減少了現有技術中各自為政帶來的資源浪費。
圖1為現有技術之獨立的流服務設備示意圖；圖2為本發明的一個實施例的示意圖；圖3為本發明的又一個實施例的示意圖；圖4為本發明的再一個實施例的示意圖；圖5為本發明之調度伺服器內部的數據流圖。
具體實施例方式
本發明的核心思想是提供一種多流伺服器間共享內存Cache的系統和方法，通過調度伺服器對流伺服器的調度，建立多個流伺服器之間的關聯，通過資源共享，增加內存資源的總量，提高內存Cache的效能，減少磁碟的訪問頻率，降低磁碟耗損率和維護成本，同時減少現有技術中各自為政帶來的資源浪費。
本發明提供一種多流伺服器間共享內存Cache的系統，本發明所述系統包括流伺服器和調度伺服器。
所述流伺服器為用戶終端提供流服務，其主要的三類資源包括網絡吞吐能力，內存容量和外存儲容量。
所述調度伺服器，主要完成以下功能統一管理各個獨立流伺服器的各類資源，每個獨立流伺服器都會將所述三類資源報告給所述調度伺服器。在運行過程中，所述調度伺服器會詳細紀錄各個資源的使用信息，比如佔用此資源的節目ID、關聯的流服務會話ID...等；根據業務情況，做出資源優化調度決策，並對資源的使用作出適當的資源優化調度操作。所述的資源優化調度包括但不限於特定內存鎖定、改變特定內存的優先級和/或在特定內存中複製特定流業務。
下面通過具體的實施例對所述的資源優化調度加以表述。
如圖2所示，某節目發布後，處於零星點播的狀態，這時候節目內容在內存中的狀況可能如圖2所示之初始場景，節目在各流伺服器上進行分布式存儲，隨著點播熱度的上升，調度伺服器做出內存搬移到單臺伺服器並鎖定的資源優化調度操作，搬移歸併後可以減少流伺服器的切換頻度。隨著節目熱度的持續上升，單臺伺服器無法為大量用戶服務，調度伺服器又可以做出內存複製的資源優化調度操作；再比如提高某一正在被使用內存塊的優先級別，從而降低該內存塊被釋放重新利用的風險，原因是這塊內存中保存了預期即將被收看的節目內容，內存被使用完後，最先被釋放的是最低優先級別的內存塊。
在進行資源優化調度的基礎上，所述的調度伺服器可以根據用戶終端的流服務請求，分派合適的流伺服器為用戶終端提供流服務，如圖3所示，用戶終端點播節目獲得流服務時，首先會發送流服務請求，所述調度伺服器得知所述的流服務請求後，會根據資源的使用情況調度合適的流伺服器為終端提供服務。為了提高資源的使用效率，在一次流服務的過程中，所述調度伺服器可以在不同的時間段調度多個流伺服器為用戶終端提供服務。如圖4所示，即為單節目的多流伺服器切換。用戶終端發出服務請求後，調度伺服器根據各個流伺服器的資源使用狀況，調度一個流伺服器為用戶提供服務，調度伺服器給流伺服器的調度命令帶有服務相關的參數，比如服務的節目ID、服務的時間長度等。流伺服器按調度伺服器的要求提供完服務後，會向調度伺服器發送服務結束的通知消息，調度伺服器會根據節目的當前服務狀態分配下一個流伺服器為用戶提供服務或中止服務；如圖5所示，所述調度伺服器具體包括登記處理模塊、業務統計模塊、優化調度模塊和資源變更信息收集模塊。
所述登記處理模塊，用於將原始的流伺服器資源登記處理放入資源使用表中，其中包括了內存、網絡吞吐能力和外存儲設備；所述業務統計模塊，用於形成業務統計信息；所述優化調度模塊，對資源的使用做出適當的優化調度操作。調度伺服器的優化調度模塊周期性的會調用業務統計模塊形成的業務統計信息，做出資源優化調度決策，並對資源的使用做出適當的優化調度操作。
所述資源變更信息收集模塊，持續收集因為資源優化調度等操作而影響資源的使用情況的變更信息，以維持資源使用表的可用性。
利用本發明所述系統，本發明還提供一種多流伺服器間共享內存Cache的方法，該方法操作流程包括步驟10各流伺服器上報資源報告給調度伺服器；流伺服器主要的三類資源包括網絡吞吐能力，內存容量和外存儲容量。每個獨立流伺服器都會將這三類資源報告給調度伺服器。
步驟11調度伺服器統一管理各個獨立流伺服器的各類資源和運行信息；
在運行過程中，所述調度伺服器會詳細紀錄各個資源的使用信息如佔用此資源的節目ID、關聯的流服務會話ID...等，並對其進行統一管理。
步驟12調度伺服器對流伺服器進行資源優化調度；步驟121、所述調度伺服器根據各個資源的使用信息得出流服務業務的使用統計信息，比如某節目的當前點播情況、觀看的人數、點播起始時間分布狀況等信息；步驟122、所述調度伺服器根據流服務業務的統計信息做出資源優化調度決策，並對資源的使用做出適當的資源優化調度操作。
在進行資源優化調度的基礎上，所述的調度伺服器可以根據用戶終端的流服務請求，分派合適的流伺服器為用戶終端提供流服務；在一次流服務的過程中，所述調度伺服器可以在不同的時間段調度多個流伺服器為用戶終端提供服務。
綜上所述，本發明實現了建立多個流伺服器之間的關聯，減少各自為政帶來的資源浪費，通過資源共享方式，增加內存資源的總量，提高內存Cache的效能，通過內存有效的Cache，減少磁碟的訪問頻率，降低磁碟耗損率和維護成本。
以上所述，僅為本發明較佳的具體實施方式
，但本發明的保護範圍並不局限於此，任何熟悉本技術領域的技術人員在本發明揭露的技術範圍內，可輕易想到的變化或替換，都應涵蓋在本發明的保護範圍之內。因此，本發明的保護範圍應該以權利要求的保護範圍為準。
權利要求
1.一種多流伺服器間共享內存Cache的系統，包括多個流伺服器，所述的流伺服器為用戶終端提供流服務，其特徵在於還包括調度伺服器，所述的調度伺服器對所述的流伺服器進行資源優化調度，以實現所述的流伺服器間共享內存Cache。
2.如權利要求1所述的一種多流伺服器間共享內存Cache的系統，其特徵在於，所述的調度伺服器設置一個資源使用表，所述的資源使用表包括的資源為網絡吞吐能力、內存容量和外存儲容量。
3.如權利要求2所述的一種多流伺服器間共享內存Cache的系統，其特徵在於，所述的調度伺服器包括登記處理模塊，將所述的流伺服器的資源登記處理並放入所述資源使用表中；業務統計模塊，根據所述資源使用表的資源形成業務統計信息；優化調度模塊，根據所述業務統計信息進行資源優化調度；資源變更信息收集模塊，持續收集資源變更信息。
4.如權利要求3所述的一種多流伺服器間共享內存Cache的系統，其特徵在於，所述的資源優化調度為特定內存鎖定、改變特定內存的優先級和/或在特定內存中複製特定流服務業務。
5.如權利要求1所述的一種多流伺服器間共享內存Cache的系統，其特徵在於，所述的調度流伺服器分派流伺服器為用戶終端提供流服務。
6.如權利要求1所述的一種多流伺服器間共享內存Cache的系統，其特徵在於，所述調度伺服器在不同的時間段內分派多個流伺服器為用戶終端提供流服務。
7.一種多流伺服器間共享內存Cache的方法，其特徵在於，包括A、調度伺服器統一管理多個流伺服器的資源；B、調度伺服器根據所述的資源對多個流伺服器進行資源優化調度，以使所述的流伺服器共享內存。
8.如權利要求7所述的一種多流伺服器間共享內存Cache的方法，其特徵在於，所述的步驟A包括A1、所述的流伺服器向所述的調度伺服器上報所述的流伺服器的資源；A2、所述調度伺服器將所述的流伺服器的資源放入資源使用表中；A3、所述調度伺服器根據所述資源使用表中的資源形成業務統計信息。
9.如權利要求8所述的一種多流伺服器間共享內存Cache的方法，其特徵在於，所述的步驟A還包括所述調度伺服器持續收集所述流伺服器的資源變更信息，並更新所述的資源使用表。
10.如權利要求7所述的一種多流伺服器間共享內存Cache的方法，其特徵在於，所述的資源優化調度包括特定內存鎖定、改變特定內存的優先級和/或在特定內存中複製特定流服務業務。
11.如權利要求7所述的一種多流伺服器間共享內存Cache的方法，其特徵在於，所述的方法還包括所述的調度流伺服器分派流伺服器為用戶終端提供流服務。
12.如權利要求7所述的一種多流伺服器間共享內存Cache的方法，其特徵在於，所述的方法還包括所述調度伺服器在不同的時間段內分派多個流伺服器為用戶終端提供流服務。
13.如權利要求7所述的一種多流伺服器間共享內存Cache的方法，其特徵在於，所述的資源為網絡吞吐能力、內存容量和外存儲容量。
全文摘要
本發明公開了一種多流伺服器間共享內存Cache的系統和方法，所述系統主要包括流伺服器和調度伺服器，所述的調度伺服器對所述的流伺服器進行資源優化調度，以實現所述的流伺服器間共享內存Cache。所述方法主要包括調度伺服器對多個流伺服器進行資源優化調度，以實現所述的流伺服器間共享內存。利用本發明所述系統和方法，可以建立多個流伺服器之間的關聯，通過資源共享，減少各自為政帶來的資源浪費，增加內存資源的總量，提高內存Cache的效能，減少磁碟的訪問頻率，降低磁碟耗損率和維護成本。
文檔編號G06F9/46GK1859181SQ20051012126
公開日2006年11月8日 申請日期2005年12月23日 優先權日2005年12月23日
發明者蔡鵬 申請人:華為技術有限公司