用於在數據通信網絡中執行結合的高速緩存的方法和設備的製作方法

2023-07-28 03:08:46 1

專利名稱：用於在數據通信網絡中執行結合的高速緩存的方法和設備的製作方法
技術領域：
本發明一般涉及數據通信網絡。更具體來說，本發明涉及一種 用於在數據通信網絡中執行數據的高速緩存的方法和設備。
背景技術：
網絡業務的增長速度一直在加速，雖然不完全4姿90年代後期呈 指數級速度增長。這種擴張的步伐使承載業務的基礎設施承擔著壓 力。已經出現多種解決方案來使網絡運營商處理這種不斷增長的問 題，包括高速緩存技術的開發。利用高速緩存，可以復用內容並提 供給客戶而不會造成伺服器基礎設施的負荷。此外，高速緩存可以 使內容置於更靠近最終用戶，由此改善響應時間同時還減輕伺服器 基礎設施的負荷。高速緩存通過監視網絡上一個或多個客戶機向伺服器發出的對 象請求並將此類請求的結果存儲在網絡上裝置的存儲器中來工作。 通過高速緩存截取相同對象的後續請求，並交付來自其存儲器的對 象，而非將請求傳遞到原伺服器。以此方式，高速緩存提供降^^響 應時間和降低伺服器基礎設施上的負載的雙重優點。但是，隨著網際網路擴張，已開發出多種處理數據的模式，以便 為網絡業務提供多種性能、安全性和其他優點。但是，這些處理模 式限制了高速緩存的效力和性能能力。傳統方式下，高速緩存無法 辦理或處理在更加複雜且處理的網絡環境中數據可以採用的多種形 式，因此此類高速緩存的功能和有用性受到相當大的限制。傳統方式下，高速緩存還因為不能為將內容交付給用戶之前必 須被網絡認證和/或獲授權的用戶提供服務而受到限制。認證和授權
特徵尚未成為高速緩存功能的 一部分。高速緩存的其他限制包括不能處理和高速緩存基於安全套接字層(HTTPS)的超文本傳輸協議業務。傳統的高速緩存無法解密、理解 或處理加密的業務，因此無法高速緩存任何HTTPS對象或提供高速 緩存的對象的端到端加密。而且，高速緩存與其他網絡服務和技術(包括負載平衡技術和其 他類型的加速和分組處理)結合使用的能力尚次於最優。該問題是由 於傳統結合模式導致的處理重複和其他無效率所致，因為傳統結合 模式通常要求多個存儲器副本和頻繁地上下文切換以實現結合。將高速緩存與其他類型的網絡處理結合的傳統方法常常包括將 多個產品置於線上，以便每個功能在單獨且獨立的節點處執行。該 方法引入相當多的附加處理和許多如下文描述的其他無效率。即使 這些技術組合在相同產品內，這種組合常常以高速緩存與任何其他 處理結合時的優點在結合過程中被弱化的方式實現。此類結合的限 制是由於將這些技術工作集中在一起時涉及到的過多處理、複製和 上下文切換所致。過多的複製和切換是因為必須首先由應用將每個請求或對象復 制到處理器存儲空間中的新形式所致。執行複製到存儲空間，以<更 使附加的處理(例如加密/解密、壓縮、連接卸載或任何其他類型的處 理)能夠執行。然後在由高速緩存本身處理之前必須將請求或對象復 制回分組級。每個附加類型的處理一般要求將分組複製到處理器緩 沖器、由應用執行，然後複製回去以供高速緩存服務。因此處理結 合的這種方法引入多個附加的存儲器副本，這對網絡基礎設施造成 附加且非必要的負荷。本發明的實施例將這種上下文切換和重複處 理最小化，下文將對此予以描述。發明內容為了達到最大性能，根據本發明實施例的設備有效率地將高速緩存與如下操作的其中一個或多個的處理結合(1)安全套接字層(SSL) 加密/解密；(2)壓縮；(3)分組處理；(4)負載平衡；(5)傳輸控制協議(TCP) 緩沖；(6)認證、授權和記帳(AAA); (7)抵禦分布式服務拒絕攻擊；(8) 抵禦例如Nimda、 Code-Red、 MyDoom等的基於HTTP/S的攻擊；(9) 網絡處理的卸載以及(10)其他處理、例如保護網絡免於基於網絡的病 毒或攻擊的技術。具體來說，根據本發明實施例的設備在設備的作業系統(OS)或此計算結構和層次結構級結合高速緩存功能特徵，本發明的實施例 可以遠遠更有效率地將高速緩存過程與要由裝置執行或在其上執行 的連接的其他處理(包括SSL解密和端點處理以及與在裝置處執行的 上文提及或其他方面的多種其他處理)同步。除了上文描述的每個過 程，此類其他過程還可以包括連接處理、全局伺服器負載平衡 (GSLB)、超文本傳輸協議(HTTP)壓縮、TCP壓縮、抵禦TCP和HTTP 分布式服務拒絕攻擊、HTTP病毒防範掃描等。通過在OS或內核級上結合多種網絡處理和高速緩存，本發明的 實施例大大增加了此類結合的效率。在內核空間中工作，本發明的 實施例使高速緩存能夠與作為數據結構的相關對象或請求相關，其 中高速緩存與其他應用的每一 個對於此數據結構保持相同狀態。通 過在內核/OS空間中執行緊密結合，高速緩存還能夠查看HTTP或 HTTPS請求的語義/數據結構並由於對此類數據結構具有訪問權而能 夠作出更有效率的高速緩存決策。本發明的實施例由此避免了與在 用戶空間中運行進程的更顯見的傳統方法中與結合相關的上下文切 換和重複的問題。下文參考附圖詳細描述本發明的其他特徵和優點以及本發明多 種實施例的結構和操作。注意本發明並不局限於本文描述的特定實 施例。此類實施例在本文中僅出於說明性目的來給出。本領域技術 人員基於本文所含的技術將顯見到附加的實施例。


本文結合且構成本說明書 一部分的附圖連同描述一起說明本發 明，還解釋本發明的原理並使本領域技術人員能夠實施和使用本發 明。圖1圖示其中可以實施本發明實施例的一個示範數據通信網絡環境。圖2說明根據本發明實施例執行結合的高速緩存的裝置的示範 軟體體系結構。圖3說明根據本發明實施例用於在設備中執行結合的高速緩存 的方法的流程圖。圖4說明根據本發明實施例用於執行高速緩存功能的基於示範 計算機系統的實現。當結合附圖理解時，從下文給出的詳細描述將使本發明的特徵 和優點更顯而易見，其中所有附圖中相似的引用字符標識對應的部 件。在這些附圖中，相似的引用編號一般指示完全相同的、功能上 相似的和/或結構上相似的部件。部件第 一 次出現的附圖由對應的引用編號中的最左邊數字指示。
具體實施方式
A.示範數據通信網絡環境圖1圖示其中可以實施本發明實施例的示範數據通信網絡環境 100。如圖1所示，示範數據通信網絡環境100包括多個客戶機 102a-102n、裝置104和多個伺服器106a至106n。客戶機102a-102n 的每一個經由公共數據通信網絡108在通信上耦合到裝置104，而裝 置104經由專用數據通信網絡110在通信上耦合到伺服器106a-106n。 在一個實施例中，公共數據通信網絡108包括網際網路，而專用數據 通信網絡110包括企業網絡，當然本發明並不局限於此。
根據本發明原理，裝置104包括高速緩存管理邏輯，以及還包括它用來實現高速緩存的存儲媒體或具有對上述存儲媒體的訪問權。使用這些功能特徵，裝置104監視客戶機102a-102n向伺服器 106a-106n的任何一個發出的對象請求。由裝置104將響應這些對象 請求從伺服器106a-106n返回的對象存儲在高速緩存中。裝置104攔 截來自客戶機102a-102n的任何一個對相同對象的後續請求，並嘗試 從高速緩存交付對象，而非將該請求傳遞到伺服器106a-106n。這提 供同時減少響應來自客戶機102a-102n的請求所需的時間和支持服務 器106a-106n的基礎設施上的負載的雙重好處。如本文將更詳細描述的，在本發明的實施例中，裝置104在其 軟體體系結構的作業系統(OS)/內核級上將此高速緩存功能與 一個或 多個其他處理任務結合， 一個或多個其他處理任務包括但不限於解 密、解壓或i人證和/或授權。示範網絡環境100僅通過示範形式給出，並不意味著限定。基 於本文^是供的原理，本領域技術人員將容易地認識到，本發明可以 在其中網絡節點之間傳輸對象請求和響應的任何網絡環境中實現。B.根據本發明實施例在數據通信網絡中結合的高速緩存圖2圖示裝置104的示範軟體體系結構200。軟體體系結構200 僅通過圖示方式給出，並不意味著限定。如圖2所示，示範軟體體 繫結構200由硬體層206和分成用戶空間202和內核空間204的衫 件層構成。硬體層206提供在其上執行內核空間204和用戶空間202內的 程序和服務的結構。硬體層206還提供使內核空間204和用戶空間202 內的程序和服務能夠傳送相對於裝置104為內部和外部的數據的結 構。如圖2所示，硬體層206包括用於執行軟體程序和服務的至少 一個中央處理單元(CPU)262、用於存儲軟體和悽t據的存儲器264、用 於在網絡上傳送和接收數據的網絡埠 266以及用於對網絡上傳送 和接收的數據執行與安全套接字層處理相關的功能的SSL處理器260。裝置104的作業系統將可用系統存儲器分成內核空間204和用 戶空間204。在示範軟體體系結構200中，作業系統被描述為Unix 作業系統，當然本發明並不局限於此。內核空間204被嚴格地保留 用於運行Unix內核230、設備驅動程序和任何內核擴展。根據本發 明的實施例，內核空間204還包括與結合的高速緩存23 —起工作的 多個網絡服務或進程，本文將在其他方面更詳細描述它的有益之處。如圖2所示，內核空間204包括至少一個高速層2-7結合的分 組引擎240、 SSL引擎234、策略引擎236和多協議壓縮邏輯238。 高速層2-7結合的分組引擎266負責管理對裝置104經網絡埠 266 接收和傳送的分組的內核級處理。至此，高速層2-7結合的分組引擎 266結合SSL引擎234、結合的高速緩存232、策略引擎236和多協 議壓縮邏輯238 —起工作。更具體來說，SSL引擎配置為執行分組 的SSL處理，策略引擎236配置為執行與業務管理(例如請求級內容 切換和請求級高速緩存重定向)相關的功能，以及多協議壓縮邏輯238 配置為執行與數據的壓縮和解壓相關的功能。結合的高速緩存232 配置為執行如本文其他地方描述的結合的高速緩存功能。與內核空間204比較，用戶空間202是所有用戶模式應用使用 的存儲區。用戶模式應用不能直接訪問內核空間204,必須使用服務 調用才能訪問內核服務。如圖2所示，裝置104的用戶空間202包 括至少一個圖形用戶界面(GUI)210、命令行界面(CLI)212、 shell服務 214、健康監控程序216和精靈服務218。 GUI 210和CLI 212提供系 統管理員可以用於與裝置104的操作交互並控制它的方式。健康監 控程序216用於確保網絡系統正常工作以及用戶在網絡上接收所請 求的內容。精靈服務218是持續運行並處理裝置104接收到的周期 性服務請求的程序。每個精靈程序根據情況將請求轉發到其他程序(或 進程)。圖3說明提供根據本發明實施例的結合高速緩存功能的裝置中
可能發生的事件序列的流程圖300。但是，本發明並不局限於流程圖 300提供的描述。相反，本領域技術人員從本文提供的原理顯見的其 他功能流程也在本發明的範圍和精神內。這些其他功能流程可以包 括對結合依據本發明的高速緩存進行不同的處理、不同的排序和其 他變化。流程圖300的方法可以在通信上耦合到數據通信網絡的一個或 多個設備中實現。例如，流程圖300的方法可以在上文參考圖1描 述的如裝置104的裝置中實現，該裝置具有上文參考圖2描述的軟 件體系結構200。現在將繼續參考此示範實施例來描述流程圖300的 方法，當然本發明並不局限於此。如圖3所示，流程圖300的方法開始於步驟302,其中裝置104 從客戶機102a-102n的其中之一接收加密的分組。在一個實施例中， 裝置104配置為用作伺服器106a-106n的代理SSL端點、將/A^戶 機102a-102n接收到的加密的分組解密、然後發送它們以根據需要作 進一步處理並且最終根據加密的分組內的地址信息到達適合的資 源。適合的資源可以是例如伺服器106a-106n的任何一個或裝置104 管理的高速緩存。在步驟304，附屬應用程式104對分組執行解密處 理。在步驟306,根據本發明實施例配置的裝置104執行AAA策略 以實現對從其中接收加密的分組的客戶機的訪問控制、認證和/或授 權。在步驟308,根據本發明實施例配置的裝置104執行某些類型的 分組處理，對解密的分組執行分組處理以減少應用網絡協議產生的 連接開銷處理需求。在步驟310，根據本發明實施例配置的裝置104將內容壓縮和解 壓，將與該分組相關的請求解壓。在一個實施例中，該請求包括Web 對象請求，當然本發明並不局限於此。在步驟312,裝置104則能夠激活高速緩存功能，它接收對對象
的明文和/或授權的和/或解壓的和/或執行分組處理的請求。由於參考步驟302、 304、 306、 308和310描述的先前處理，高速緩存管理邏 輯可以基於明文/授權的/解壓的/執行分組處理的請求作出有關是否已 高速緩存該對象或是否可高速緩存該對象的判斷，因此能夠處理範 圍遠比傳統高速緩存廣的請求陣列，並遠比傳統方法更有效率地執 行高速緩存。而且，因為高速緩存管理邏輯在內核空間中與其他進 程一起工作，所以它與作為數據結構的相關對象相關，其中關於此 類數據結構與其他應用的每一個具有相同狀態，因此以極其有效率 的方式進4於結合。如步驟314所示，如果對象已經在高速緩存存儲器中，則裝置104 將請求發送到一個或多個伺服器106a至106n。但是在發送請求之前， 可以進行多個附加的處理步驟。例如，在步驟116，裝置104可選地 執行連接處理以確保請求有效率地轉送到伺服器，在步驟118，裝置 104可選地執行負載平衡決策以確保將請求發送到最適合的伺服器。 而且，在一個實施例中，在將請求發送到伺服器之前經由後端加密 過程將該請求加密，由此提供端到端網絡安全性。在步驟320，將請求傳送到伺服器。在步驟322，裝置104從伺服器106a-106n的其中之一接收回響 應。如果支持如上文描述的後端加密，則裝置104將來自伺服器的 響應解密。在步驟324，裝置104將與來自伺服器的響應相關的對象壓縮。 在一個實施例中，對象包括Web對象，當然本發明並不局限於此。在步驟326，裝置104中的高速緩存管理邏輯以壓縮形式將對象 存儲在高速緩存中。由於本發明的處理能力，高速緩存管理邏輯能 夠以此方式存儲壓縮的對象。 一旦將對象存儲在高速緩存中，就可 以從高速緩存中服務對對象的將來客戶機請求，而無需執行上文描 述的步驟316、 318、 320、 322、 324和326。這通過流程圖300中的 直接連接決策步驟314至步驟328的線表示。
在步驟328,在從伺服器接收到對象或從高速緩存檢索出對象之 後，裝置104對連接執行分組處理，以便更有效率地服務原客戶機 請求。在步驟330，然後重新加密響應對象，並將其交付回客戶機。上文描述的處理步驟的每一個都在裝置104的內核/OS級進行。 通過在內核/OS空間中的其他處理步驟中實現高速緩存或與其他處理 步驟結合，本發明的實施例能夠產生附加功能並改善高速緩存的性 能。此類結合能使根據本發明實施例的高速緩存執行超出傳統方式 下高速緩存的功能的附加功能。例如，本發明的實施例能使高速緩 存結合加密的和/或壓縮的對象工作。可以由本發明實施例實現的附加功能的另 一個示例包括將端到 端加密的HTTPS業務高速緩存。通常，高速緩存僅存儲來自伺服器 的未加密的HTTP響應。某些高速緩存在一些情況中可以支持從高 速緩存到客戶機的SSL加密的HTTPS交付，但是在任何情況中，傳 統高速緩存都不能將伺服器已經加密的響應高速緩存，因此無法支 持端到端(例如伺服器到客戶機)加密。通常，當伺服器以HTTPS形 式加密響應時，高速緩存無法將此類響應解密，因此無法將該響應 存儲在其高速緩存存儲器中。由於此原因，傳統高速緩存面對端到 端加密的業務無法提供任何幫助。在本發明的一個實施例中，結合 高速緩存的裝置作為用於SSL加密的HTTPS業務的雙向端接點。例如，在本發明的一個實施例中，結合高速緩存的裝置同時作 為伺服器和裝置之間加密的業務的端接點以及裝置與客戶機之間的 加密的業務的端接點。以此方式，裝置能夠將從伺服器接收到的 HTTPS加密的響應解密並高速緩存，當服務至客戶機的此類響應時， 將此類響應重新加密，並以安全方式將其交付到請求客戶機，由此 使端到端加密得以實施並因此將高速緩存的適用性擴大到範圍更廣 泛的Web業務。在本發明的一個實施例中，該裝置還可以作為SSL虛擬專用網
絡(SSL VPN)中的端點。具體來說，該裝置可以作為專用悽t據通信網 絡中的任何資源的代理SSL端點，將從客戶機接收到的加密的分組 解密，然後基於加密的分組內的地址信息將它們發送到適合的目的 地伺服器資源。正如2005年1月24日提交的共用擁有的共同未決 的美國專利申請號11/039,946，標題為"用於建立虛擬專用網絡的系 統和方法，，(System and Method for Establishing a Virtual Private Network)中所描述的，通過引用將其全部結合於本文，可以利用網關 將客戶機與網關之間建立的數據通信會話加密，而該網關作為本申 請的前面段落中描述的加密端點。如所引用的申請中描述的，客戶 機可以使用安全套接字層(SSL)、 IPSec或某種其他加密方法來建立 客戶機上的攔截機制用於將業務引導到網關的加密的數據通信會 話，同時使客戶機瀏覽器以為正在直接與目的地伺服器或目的地網 絡通信。在此類實施例中，可以將加密的數據通信會話端接於也包 括本文描述的結合高速緩存的網關。因此，可以將高速緩存操作功 能結合到SSL VPN功能中。該網關還可以對請求執行任何適用的AAA策略，由此，網關將 已高速緩存的對象僅提供給適當認證的客戶機，以及僅允許獲授權 訪問特定高速緩存的對象的用戶的請求。這是可能的，因為以在高 速緩存查看任何特定請求之前實施網關的訪問控制策略的方式結合 高速緩存。因此，已高速緩存的對象獲得訪問控制的幫助，而高速 緩存本身無需執行認證和授權。通過高速緩存與此類其他功能結合，高速緩存本身在處理在今 天的網絡上傳送的多種多樣數據時變得更有效率且更有效。本發明 的實施例還能夠通過在範圍更廣的Web業務陣列中引入高速緩存功 能的好處來改善整個網絡性能的效率。如下的是上文描述的根據本發明實施例的結合模式的一些其他 唯一結果。 一個結果是能夠將預先壓縮的數據高速緩存並將其提供 給知道壓縮(compression-aware)的客戶機。另 一個結果是能夠將訪問 控制的數據高速緩存。再 一個結果是能夠結合外部高速緩存工作以 提供高速緩存的可伸縮性。因為在網關處將高速緩存與重定向和業 務管理能力結合，所以可以部署外部高速緩存以提供第二層高速緩 存操作，由此大大地擴充了高速緩存操作的能力(和好處)。通過本發 明的實施例，在高速緩存模塊本身無需明確地執行高速緩存重定向 策略的前提下創造這種能力。就性能而言，通過如上文描述結合高速緩存，高速緩存的處理 器免於執行高速緩存作為網絡上的節點在傳統方式下需要執行的多 種連接處理任務，因此能夠以它們最高的性能水平執行其高速緩存 操作功能。確切地，通過允許壓縮的數據的高速緩存操作，高速緩 存能夠更有效率地工作，並允許用戶實現更高的性能。如本申請先前提到的，由於將高速緩存與其他網絡服務和技術(包括負載平衡技術、加密、AAA、壓縮和其他類型的加速和分組處理)的結合，效率提升。因此，避免了傳統結合模式引入的處理重複 和其他無效率。非必要的複製和上下文切換所導致的這些無效率是 因為必須將設備接收到的每個對象複製到消息，然後複製到處理器 存儲器，之後才能由相關應用處理。然後必須將該請求複製回對象 或分組級才能供高速緩存處理，這引入附加的存儲副本。相比之下，本發明的實施例在OS或內核級上進行結合，由此使高速緩存能夠對 作為數據結構的對象進行操作，其中該高速緩存與此數據結構相關 並處理此數據結構的其他應用和/或進程具有相同狀態，並且避免了 此類附加存儲副本的需求，因為所有進程都結合相同的數據結構工 作。結果是更有效率的結合。C.根據本發明實施例在數據通信網絡中利用主動驗證的高速緩存操作因為Web對象可能隨時間而改變，所以每個潛在可高速緩存的 對象被視為具有有效壽命或"新鮮度"。新鮮度的概念指的是最初生 成內容的應用伺服器還確定可存儲此對象的高速緩存可提供此對象
的時限。高速緩存必須能夠確定存儲在其存儲器中的對象的副本是 否仍是"新鮮的"，或高速緩存是否需要從原伺服器檢索該對象的新 副本。本發明的實施例實現一種確保對象新鮮度的創新方法。許多常規高速緩存實現通過基於預定計劃從原伺服器提取內容 來嘗試保持高速緩存的內容是新鮮的。在高速緩存管理員通常基於 如下兩種方法的其中一種或兩種確定的時間上發生從原伺服器提取內容(i)按指定的規律間隔時間進行或(ii)內容將要期滿時進行。有兩個問題通常與上文常用的方法相關。首先，對原伺服器施 加了非必要的處理負載，因為需要伺服器將內容提供到請求刷新(此 類刷新按指定的間隔時間進行或在內容將要期滿時進行)的高速緩 存，而不考慮此內容最終是否提供給客戶機。其次，高速緩存引起 基於產生的額外處理開銷的附加處理器負載，因為高速緩存需要一 直跟蹤必須刷新的元素和需要刷新它們的時間。根據本發明實施例的高速緩存使用創新的預取方法解決了上面 的問題。並不根據預定義的計劃或剛好在內容期滿之前執行內容的 預取。相反，本發明的實施例僅在如下條件同時滿足時才執行預取 (l)客戶機對指定的內容發出請求和(2)內容將要期滿。該方法解決了上文描述的兩個問題。主動重新驗證更大可能性 地僅在此內容被主動訪問的情況下生成從原伺服器刷新內容的請 求。這將原伺服器上的"非必要，，負載量降低到最小。如上文論述 的，在高速緩存請求刷新最終不提供給客戶機的對象(或僅根據高速 緩存的靈敏度不常提供)的情況下，高速緩存低效率地利用自己的資 源以及原伺服器的資源。本發明的實施例通過僅請求正在被主動訪 問的內容來避免低效率地使用高速緩存和伺服器資源。基於相同的 原因，該方法還降低了預取所用的帶寬，因此比傳統方法更有效率 地使用網絡資源。而且，本發明的實施例使用已高速緩存的對象中所含的期滿信 息來確定是否請求從原伺服器刷新對象。此類期滿信息通常包含在相關對象的頭中。因此該實施例避免了無效率地存儲用於提取的任 何附加信息，而不像傳統方法那樣，需要高速緩存保存跟蹤用於刷 新的計劃的表。使用"基於需求的"預取技術還增強了預取所固有的優點。該 技術減少對於頻繁訪問的對象而高速緩存未命中的次數，因為此類 對象在剛好期滿之前非常可能經歷過主動重新驗證。此技術還可以 防止很大需求的大響應期滿時可能發生的業務對原伺服器的擁塞。 在傳統方法中，對此內容的所有請求未命中高速緩存，並被發送到 原伺服器，因為高速緩存內容已經期滿。相比之下，在本發明的實 施例中，高速緩存存儲器的內容將在剛好期滿之前被刷新，因此高 速緩存正在刷新時高速緩存未命中的情況發生的可能性遠遠更低。在本發明的實施例中，可以通過調整期滿之前的持續時間的長 度(其中確定內容將要期滿)以及還有相關對象的高速緩存觸發刷新所 需的客戶機請求的數量來控制預取的進取性。D.根據本發明實施例使用"負單元"來優化大的不可高速緩存 的響應的處理根據本發明實施例，高速緩存識別指定大小以上的對象，並不 存儲它，以便提高對象的命中率。高速緩存通常具有專用於存儲高 速緩存的對象的有限存儲空間，因此超過分配的存儲空間的某些響 應最終作為不可高速緩存而被拒絕並且不被高速緩存存儲。在傳統 高速緩存的情況下，高速緩存嘗試將大響應存儲在其高速緩存存儲 器中，僅在高速緩存識別到響應大小超過預定義的最大大小時才中 斷存儲響應。傳統高速緩存將在每次高速緩存從伺服器接收到大響 應的請求時重複嘗試將此類響應高速緩存。在每種情況中，高速緩 存都將需要確定對象因為超過存儲空間而是不可高速緩存的。因此， 這顯然是無效率的方法。根據本發明實施例，高速緩存採用優化來避免存儲此類響應時 花費的工作。無論何時，只要高速緩存檢測到因響應大小而變得不
可高速緩存的響應時，它將有關該對應請求的符號存儲在稱為"負 單元"的數據結構中。該符號指示請求是不可高速緩存的。在將來， 當客戶機請求相同的對象時，將該請求與存儲在數據結構中有關第 一個請求的符號進行匹配。基於該匹配，高速緩存將不嘗試將該響 應高速緩存，而是該請求將完全繞開高速緩存。指定負單元應該保留在高速緩存中的持續時間無需任何用戶配 置。實際上，用戶甚至不知道正在採用這種特定機制。在一個實施 例中，高速緩存使用它用來將大響應進行高速緩存的有規律的期滿 信息，以便將有關響應的"負信息"高速緩存。E.示範的基於計算機系統的實現本發明功能可以使用硬體、軟體或它們的組合來實現，並且可以在一個或多個計算機系統或其他處理系統中實現。例如，圖4 i兌 明可以利用來實現本發明概念的示範計算機系統400 。如圖4所示，示範計算機系統400包括用於執行根據本發明實 施例的軟體例行程序的處理器404。雖然出於簡化起見示出一個處理 器，但是計算機系統400還可以包括多處理器系統。處理器404連 接到用於與計算機系統400的其他組件通信的通信J^出設施406。通 信基礎設施406可以包括例如通信總線、交叉矩陣或網絡。計算機系統400還包括主存儲器408(如隨機存取存儲器(RAM)) 和輔助存儲器410。輔助存儲器410可以包括例如硬碟驅動器412和 /或可移動存儲驅動器414，可移動存儲驅動器414可以包括軟盤驅 動器、磁帶驅動器、光碟驅動器等。可移動存儲驅動器414以公知 的方式從可移動存儲單元418讀取和/或向其中寫入。可移動存儲單 元418可以包括軟盤、磁帶、光碟等，它被可移動存儲驅動器414 讀取或寫入。如本領域技術人員將認識到的，可移動存儲單元418 包括其中存儲計算機軟體和/或數據的計算機可用存儲媒體。在備選實施例中，輔助存儲器410可以包括用於使電腦程式 或其他指令能夠加載到計算機系統400的其他相似裝置。此類裝置
可以包括例如可移動存儲單元422和接口 420。可移動存儲單元422 和接口 420的示例包括程序盒式存儲器和盒式接口(例如視頻遊戲控 制設備中可見到的)、可移動存儲器晶片(例如EPROM或PROM)和 相關的插座、以及允使軟體和數據能夠從可移動存儲單元422傳送 到計算機系統400的其他可移動存儲單元422和4妄口 420。計算機系統400還包括顯示器接口 402，顯示器接口 402將轉發 來自通信基礎設施406或幀緩衝器(未示出)的圖形、文本和其他數據 以便在顯示單元430上顯示給用戶。計算機系統400還包括至少一個通信接口 424。通信接口 424使 軟體和數據能夠經由通信路徑426在計算機系統400和外部設備之 間傳送。在本發明的實施例中，通信接口 424使數據能夠在計算機 系統400與數據通信網絡(例如公共數據通信網絡104或專用數據通 信網絡106)之間傳送。通信接口 424的示例可以包括數據機、 網絡接口(例如乙太網卡)、通信埠等。經由通信接口傳送的軟體和 數據採用信號的形式，這些信號可以是電信號、電磁信號、光信號 或能夠被通信接口 424接收的其他信號。這些信號經由通信路徑426 提供到通信接口。如本文所使用的，術語"電腦程式產品"可以部分指可移動 存儲單元418、可移動存儲單元422、安裝在硬碟驅動器412中的硬 盤或在通信路徑426(無線鏈路或電纜)上將軟體載送到通信接口 424 的載波。計算機可用媒介可以包括磁媒體、光媒體或其他可記錄媒 體或傳送載波或其他信號的媒體。這些電腦程式產品是提供用於 將軟體提供到計算機系統400的裝置。電腦程式(也稱為計算機控制邏輯)存儲在主存儲器408和/或 輔助存儲器410上。還可以經由通信接口 424接收電腦程式。此 類電腦程式在執行時能使計算機系統400執行如本文論述的本發明的一個或多個功能特徵。具體來說，電腦程式執行時能使處理 器404執行本發明的功能特徵。因此，此類電腦程式表示計算機
系統400的控制器。本發明能以軟體、固件、硬體或它們的任何組合的形式作為控 制邏輯來實現。在使用軟體實現本發明的實施例中，可以將軟體存 儲在電腦程式產品中並使用可移動存儲驅動器414、硬碟驅動器412 或接口 420加載到計算機系統400中。或者，可以在通信路徑426 上將電腦程式產品下載到計算機系統400。該軟體由處理器404執 行時使處理器404執行本文描述的本發明的功能。G.總結雖然上文描述了本發明的多種實施例，但是應該理解它們僅通 過示例而非限定形式提出。因此，本領域技術人員將理解在不背離 所附權利要求中定義的本發明精神和範圍的前提下可以進行多種形 式和細節上的更改。因此，本發明的寬度和範圍不應由上文描述的 示範實施例來限定，而僅應該根據下文權利要求及其等效物來定義。
權利要求
1.一種用於在通信上耦合到數據通信網絡的設備中執行結合的高速緩存的方法，包括(a)通過所述數據通信網絡從客戶機接收分組，所述分組包括對對象的請求；(b)在所述設備的作業系統/內核級上(i)執行所述分組的一個或多個解密處理、所述客戶機的認證和/或授權或所述請求的解壓；(ii)確定所述對象是否駐留在高速緩存內；(iii)響應所述對象存儲在所述高速緩存內的確定，從所述高速緩存服務所述請求；以及(iv)響應所述對象未存儲在所述高速緩存內的確定，將所述請求發送到伺服器。
2. 如權利要求1所述的方法，其特徵在於，將所述請求發送到 伺服器包括執行負載平衡功能以識別要將所述請求發送到多個服務 器的哪一個。
3. 如權利要求1所述的方法，其特徵在於，將所述請求發送到 伺服器包括壓縮所述請求。
4. 如權利要求1所述的方法，其特徵在於，將所述請求發送到 伺服器包括將所述請求加密。
5. 如權利要求4所述的方法，其特徵在於，執行所述分組的解 密處理包括根據安全超文本傳輸協議(S-HTTP)執行解密，以及將所 述請求加密包括根據S-HTTP將所述請求加密。
6. 如權利要求4所述的方法，其特徵在於，執行所述分組的解 密處理包括根據安全套接字層(SSL)協議執行解密，以及將所述請求 加密包括#4居SSL協議將所述請求加密。
7. 如權利要求4所述的方法，其特徵在於，執行所述分組的解密處理包括根據網際網路協議安全性(IPSec)協議執行解密，以及將所 述請求加密包括根據IPSec協議將所述請求加密。
8. 如權利要求1所述的方法，其特徵在於，服務所述請求包括 將對象發送到所述客戶機，以及將對象發送到所述客戶機包括將所 述對象加密。
9. 如權利要求8所述的方法，其特徵在於，執行所述分組的解 密處理包括根據安全超文本傳輸協議(S-HTTP)執行解密，以及將所 述對象加密包括#4居S-HTTP將所述響應加密。
10. 如權利要求8所述的方法，其特徵在於，執行所述分組的解 密處理包括根據安全套接字層(SSL)協議執行解密，以及將所述對象 加密包括根據SSL協議將所述響應加密。
11. 如權利要求8所述的方法，其特徵在於，執行所述分組的解 密處理包括根據網際網路協議安全性(IPSec)協議執行解密，並且根據 IPSec協議將所述對象加密。
12. 如權利要求l所述的方法，還包括(c) 對應於在步驟(b)(iv)中發送的請求，從所述伺服器接收響應， 所述響應包括對象；以及(d) 在所述設備的作業系統/內核級上(i) 將所述對象的副本存儲在所述高速緩存中；以及(ii) 將所述對象發送到所述客戶機。
13. 如權利要求12所述的方法，其特徵在於，將所述對象的副 本存儲在所述高速緩存中包括壓縮所述對象的副本。
14. 如權利要求12所述的方法，其特徵在於，將所述對象發送 到所迷客戶機包括壓縮所述對象。
15. 如權利要求12所述的方法，還包括將來自所述伺服器的所述響應解密，並在將所述對象發送到所 述客戶機之前將所述對象加密。
16. 如權利要求15所述的方法，其特徵在於，將所述響應解密 包括根據安全超文本傳輸協議(S-HTTP)執行解密，以及將所述對象 加密包括根據S-HTTP執行加密。
17. 如權利要求15所述的方法，其特徵在於，將所述響應解密 包括根據安全套接字層(SSL)協議執行解密，以及將所述對象加密包 括根據SSL協議執行加密。
18. 如權利要求15所述的方法，其特徵在於，將所述響應解密 包括根據網際網路協議安全性(IPSec)協議執行解密，以及將所述對象 加密包括4艮據IPSec協議執行加密。
19. 一種用於刷新高速緩存中存儲的對象的方法，所述方法包括接收對所述對象的客戶機請求；響應接收到對所述對象的客戶機請求，確定所述對象的期滿時間；將所述對象的期滿時間與預定義的時限比較；以及 如果所述對象的期滿時間小於所述預定義的時限，則從伺服器 提取所述對象的新副本用於存儲在所述高速緩存中。
20. 如權利要求19所述的方法，其特徵在於，確定所述對象的期滿時間包括訪問與所述對象相關的期滿信息。
21. 如權利要求20所述的方法，其特徵在於，訪問與所述對象 相關的期滿信息包括訪問所述對象的頭欄位中存儲的期滿信息。
22. 如權利要求19所述的方法，還包括 響應用戶輸入來修改所述預定義的時限。
23. —種在數據通信網絡中將對象高速緩存的方法，包括 確定對對象的第 一請求的響應是不可高速緩存的；響應所述確定將有關所述第 一請求的符號存儲在數據結構中； 接收對所述對象的第二請求；將所述第二請求與有關存儲在所述數據結構中的第 一請求的符 號進4亍匹配；以及 基於所述匹配繞過對所述第二請求的響應進行高速緩存。 24.如權利要求23所述的方法，還包括將所述數據結構存儲在 高速緩存中。
全文摘要
一種實現在數據通信網絡中執行結合的高速緩存操作的方法的設備。該設備配置為通過數據通信網絡從客戶機接收分組，該分組包含對對象的請求。在設備的作業系統/內核級上，在與高速緩存操作結合之前執行分組的一個或多個解密處理、客戶機的認證和/或授權或請求的解壓。高速緩存操作包括確定對象是否駐留在高速緩存內，響應該對象存儲在高速緩存內的確定從高速緩存服務該請求，以及響應該對象未存儲在高速緩存內的確定將請求發送到伺服器。
文檔編號G06F15/16GK101164057SQ200580028489
公開日2008年4月16日 申請日期2005年6月30日 優先權日2004年6月30日
發明者A·索尼, K·凱拉什, L·庫馬, P·哈馬尼, P·森達拉彥, R·辛哈, S·安娜馬萊薩米 申請人:賽特裡克斯網絡應用有限責任公司