使用進程調度來提高數據吞吐量的系統和方法
2023-08-06 08:13:31
專利名稱：使用進程調度來提高數據吞吐量的系統和方法
技術領域：
本發明一般涉及計算機數據的處理，具體涉及到為應用程式的處理提供數據的操作。
背景技術：
數據輸入/輸出(I/O)，包括將數據從一個計算機部件傳輸到另一個計算機部件，通常是數據處理中的限制因素或者瓶頸。例如，在計算機上運行的應用程式典型地依靠較低等級的設備驅動(例如在核心程序模型中)向其提供用於處理的數據。因此程序的性能就依賴於能夠提供實現任務所需數據的驅動器的效率。
按照慣例，程序可以通過兩種方式從設備驅動器中接受數據。在第一種方式中，如果所請求的數據是現在不可得的，程序發送一個請求來從設備驅動器中接收數據。該請求被異步處理，即程序並不等待設備驅動器來提供所請求的數據，並當數據可得時所請求的數據在滯後的時間被發送給程序。在第二種方式中，數據請求被同步處理。在這種情況下，所請求的數據已經被放置在隊列中並能被立即發送來響應請求。這種數據發送的異步處理方法通常很少被選用，因為它導致了真正的處理和存儲溢出，由於為跟蹤數據請求而對數據結構定位和初始化的需要，也導致異步整體的溢出。而同步方式，相反，沒有這種溢出，但是要求驅動器已經具有列隊備選的數據來響應應用程式的系統呼叫。因為在發送所請求的數據時沒有延遲，在微軟Windows平臺下同步方式也被稱作「快速I/O」，儘管其他平臺可能使用不同的術語。因為同步方法具有減少溢出和立即發送數據的優點，應該提高它的的使用率使之超過異步方法的使用率。
發明概述鑑於前面所述，本發明提供一種用於將數據從設備驅動器發送到應用程式的系統極其方法，它通過使用進程調度來提高所請求數據對於立即發送可實現的可能性，從而提高了數據發送中同步處理(例如快速I/O方式)的使用率。當應用程式需要用於處理的數據時，檢查由設備驅動器所使用的來向程序發送已經存儲好數據的數據隊列。如果數據隊列中的數據量較低，則修改系統的進程調度來促進設備驅動器的進程，由此給予設備驅動器將更多數據放入數據隊列中以供程序消耗的機會。設備驅動器進程的促進可能通過不同方式來完成，包括將應用程式程序進程轉為另一個進程(不必須是設備驅動器進程)，提高設備驅動器進程的優先級，和/或降低應用程式進程的優先級，等等。
附圖概述附
圖1是一般舉例說明了示範計算機系統的結構圖，在其上能實現用於本發明直接設備的對象配額管理。
附圖2是實現本發明實施方案的計算機系統的示意圖，它提高了將數據從驅動器傳送到應用程式的數據請求的同步處理(例如，快速I/O)利用率。
附圖3是概括了通過進程調度提高快速I/O使用率的方法的流程圖。
附圖4是表示了設備驅動器的多種狀態及其作為例子的以傳統方式使用的異步數據傳送的數據隊列的示意圖。
附圖5是表示了設備驅動器的狀態及其數據隊列的示意圖，數據隊列作為根據本發明的實施方案通過修改進程調度的方式來提高快速I/O使用率的效果的例子。
發明詳述現在來看附圖，其中相同的編號指相同的元件，本發明被圖解為就如在一個適合的計算環境中被實現。儘管沒有要求，本發明將在計算機可執行指令的一般範圍內被描述，例如被個人計算機執行的程序模塊。通常，程序模塊包括規則，程序，對象，構件，數據結構，等等，它們實現特殊任務或者執行特殊抽象數據類型。另外，本領域技術人應當理解本發明可能被其他計算機系統結構來執行，包括手持設備，多處理器系統，基於微處理或可編程客戶電器，網絡PCs，迷你計算機，大型計算機，等等。本發明可以在分布式計算環境中實現，其中任務可通過由通信網絡所連接的遠程設備來實現。在分布式計算環境中，程序模塊可以即被置於本地也可以被置於遠程存儲設備中。
下面的描述將以對一般目的的計算設備的描述開始，這些計算設備可能被應用來實現本發明，並且將參考附圖2-5更加詳細地描述通過進程調度來提高快速數據I/O的本發明的系統和方法。現在來看附圖1，以傳統個人計算機20的形式表示了的一般目的計算設備，包括處理單元21，系統存儲器22，和系統總線23，它連接了包括從系統存儲器到處理單元21的多種系統部件，。系統總線23可以是幾類總線結構中的任何一種，包括存儲總線或者存儲控制器，外圍設備總線，和用於多種總線結構的本地總線。系統存儲器包括只讀存儲器(ROM)24和隨機存取存儲器(RAM)25。基礎輸入/輸出系統(BIOS)26被存儲在ROM24中，它包括了例如在啟動時幫助在個人計算機20內部的元件之間傳送信息的基礎程序。個人計算機20還包括用於從硬碟60中讀寫的硬碟驅動器27，用於在可移動磁碟29中讀寫的磁碟驅動器28，以及用於在可移動光碟31例如CD ROM或者其他光介質中讀寫的光碟驅動器30。
硬碟驅動器27，磁碟驅動器28，和光碟驅動器30分別通過硬碟驅動器接口32，磁碟驅動器接口33，和光碟驅動器34，連接到系統總線23上。驅動器和它們連帶的計算機可讀介質，為計算機可讀指令、數據接口、程序模塊和其他用於個人計算機20的數據提供非易失性的存儲器。儘管這裡所描述的示範性的環境使用了硬碟60，可移動磁碟29，和可移動光碟31，但對本領域技術人員來說應當理解能夠被計算機接受的其他類型的能存儲數據的可機讀介質，例如，磁帶，快閃記憶體卡，數位化視頻光碟，伯努裡式盒式磁碟，隨機存取存儲器，只讀存儲器，區域網絡存儲器，等等也可以在示範性操作環境中使用。
一定數量的程序模塊可被存儲在包括了作業系統35，一個或多個應用程式36，其他程序模塊37，以及程序數據38的硬碟60，磁碟29，光碟31，ROM24或RAM25中。用戶可以將命令和信息輸入個人計算機20，通過輸入設備例如鍵盤40和點擊設備42。其他輸入設備(未表示出)可以包括麥克風，控制手柄，遊戲墊，圓盤式衛星電視天線，掃描儀，等等。這些及其他輸入設備通常通過與系統總線相連的串行接口46連接到處理單元21上，但也可能通過其他的接口，例如並行埠，遊戲埠，通用串行總線(USB)或者網絡接口卡。監視器47或者其他類型的顯示設備也通過接口與系統總線23相連接，例如視頻適配器48。除監視器以外，個人計算機還通常包括其他的外部輸出設備，這裡沒有表示，例如話筒和印表機。
個人計算機29可能在一個與一個或多個遠程計算機，例如遠程計算機49，相邏輯連接的網絡工作環境下操作。遠程計算機49可以是另一臺個人計算機，伺服器，路由器，網絡計算機，同級設備或者其他普通的網絡節點，並且通常包括許多或全部上述個人計算機20的元件，儘管在附圖1中是表示了一個存儲器設備50。在附圖1中描述的邏輯連接包括區域網(LAN)51和廣域網(WAN)52。這種網絡工作環境在辦公室，企業內部計算機網絡，企業內部網際網路和國際網際網路中是很平常的事。
當在區域網網絡工作環境中使用時，個人計算機20通過網絡接口或者適配器53連接到區域網51。當在廣域網網絡工作環境中使用時，個人計算機20通常包括數據機54或者其他用於在廣域網52中建立通信的裝置。數據機54，可以是內置的也可以是外置的，通過串行埠接口46連接到系統總線23。在網絡工作環境中，與個人計算機20相關的程序模塊，或者它的一部分，可以存儲在遠程存儲設備中。應當理解圖中所示的網絡連接是示範性的並且其他在計算機之間建立通信連接的裝置也是可以被使用的。
在下面的說明書中，除非另有表示，本發明將被作為由一個或者多個計算機實現的，關於行為和符號表示的操作來描述。同樣，應當理解這種行為和操作，有時稱作被計算機執行，包括由以結構形式表示數據的電子信號的計算機的處理單元進行的操作。這種操作轉換了數據或者將它保存在計算機存儲系統的位置中，以一種為本領域普通技術人員所眾所周知的方式對計算機的操作進行重置或做其他改變。數據被保存的數據結構，是具有由數據格式所定義的特殊性質的存儲器的物理位置。因此，當本發明在前面內容中被描述時，並不意味著被限制，正如本領域技術人員所理解的，在下文中描述的多種行為和操作也可能以硬體的形式實現。
參見附圖2，本發明專注於一種用於提高從設備驅動器70到應用程式72的數據吞吐量的系統和方法。設備驅動器向應用程式提供所需要的數據來實現它的功能。為了提高向應用程式72傳送數據的效率，設備驅動器保存了一個已經存儲好用於向應用程式立即發送的數據的隊列76。如附圖2中所舉例說明的那樣，在計算機結構中設備驅動器70通常處於一個低於應用程式72的等級。例如，設備驅動器70可能在作業系統的核心程序模型中，而應用程式72運行在作業系統的用戶模型中。設備驅動器70可以從數據源中接受數據，該數據源有可能是處於較低等級的另一個驅動器80。數據源可能會從另一個數據源處順序接收數據。例如在附圖2中所例舉的實施方案中，驅動器80可能從網絡82，如國際網際網路中接收數據。
根據在數據隊列76中是否有足夠的數據用於程序的消耗，將數據從設備驅動器70傳送到應用程式72有兩種模式。在「低速I/O」模式中，數據隊列76中沒有足夠的數據，並且應用程式72要求進行異步數據傳送。當數據變得對於設備驅動器70而言是可獲得後，被傳送給應用程式72。除了速度慢之外，這種數據傳送模式還有在存儲和處理中高溢出的缺點，因為數據結構不得不被定位並且初始化來跟蹤異步數據請求。相反，在「快速I/O」模式中，應用程式72發送同步數據請求，並且所請求的數據被立即傳送給應用程式。這種數據傳送方式不會導致異步模式中的那類溢出。此外，應用程式所需的數據立即為應用程式所得。因為只有當擁有所需要的數據後，應用程式才可以實現其功能，應用程式的性能取決於當需要時它能多快獲得發送給它的數據。因此，如果數據傳送在大多數時間內能以快速I/O模式進行的話，應用程式的性能將有顯著的提高。快速I/O模式的必要條件是，當然，應用程式72所要求的數據已經存在於用於程序消耗的數據隊列76之內。
與本發明的一個特徵相一致，通過給予設備驅動器70更多的機會用新數據來填充數據隊列，在數據隊列76中具有足夠數據的可能性被提高，這通過進程調度來實現。參見附圖3，為了確定數據隊列76包括足夠的數據來允許快速I/O方式的數據傳送，數據隊列76中的數據量時常被檢查(步驟92)。這種檢查可以在例如，每次應用程式72需要更多數據但是在數據請求發出之前進行。換句話說，這種檢查可以在每次數據源(例如，驅動器80)有更多給設備驅動器的數據時進行。如果確定(步驟96)數據隊列76中的數據量太低(例如，低於一個預先選定的閾值)，在計算機系統上運行的部件的進程調度被修改(步驟98)，提高設備驅動器的進程從而給設備驅動器一個將更多數據放進數據隊列中的機會。如這裡所使用的，「提高」設備驅動器的進程意味著使設備驅動器的進程更快的輪到被運行。當設備驅動器的進程運行時，設備驅動器70可以將更多的數據放進數據隊列76(步驟100)，如果這些數據是從數據源可得的。然後，當應用程式進程運行時，應用程式可以通過快速I/O在數據隊列中檢索數據(步驟102)。
重新參見附圖2，進程調度如何被修改，取決於作業系統的執行。例如，可能為計算機的部件提供應用程式接口(API)功能110，用於呼叫用進程調度改變它們的優先級或者轉換為其他進程。在一個實施方案中，應用程式72在請求數據之前檢查數據隊列76中是否有足夠的數據。如果認為數據量太低，應用程式進程向處理器讓給其他進程，通過呼叫API110的適當功能來通知進程管理者120它的讓步意向。應當指出下一個被轉換的進程可能不是設備驅動器進程。儘管如此，通過僅僅是將它自己的進程讓給另一個進程，應用程式已經加快了設備驅動器進程轉換的時間，並且在發出數據請求之前給予設備驅動器一個向數據隊列中增加更多數據的機會。
如前所述，除了將應用程式進程轉換為另一個進程外，設備驅動器進程的促進也可以通過提高設備驅動器進程的優先級，或者降低應用程式進程的優先級來實現。進程優先級的提高或者降低可以通過呼叫API功能來進行。在一個實施方案中，無論是應用程式72還是設備驅動器70都可以呼叫API110來提高設備驅動器進程的優先級。換句話說或者另外的說，用於設備驅動器的數據源，在附圖2中是驅動器80，可以呼叫API來提高設備驅動器進程的優先級。
為了舉例說明利用進程調度提高快速I/O的效果，分別在附圖4和附圖5中提供了傳統串行處理的實施例和快速I/O提高的實施例。在這兩個實施例當中，應用程式被稱作「App Pool」，它用來服務自國際網際網路處接收的網絡請求。假如這樣的話，被App Pool處理的數據是網絡請求的形式。負責向App Pool提供網絡請求的設備驅動器是一個Http.sys驅動器126。Http.sys驅動器126順序接收來自傳輸驅動程序接口(TDI)驅動器128的網絡請求，它從國際網際網路接收請求。TDI驅動器128有一個用來存儲從網絡中接收的將被Http.sys驅動器獲得的網絡請求的緩存130。類似地，Http.sys驅動器126有一個用來存儲將被App Pool122獲得的請求的隊列136。
在附圖4所舉的實施例中，本發明的快速I/O提高沒有實現，並且當隊列136中沒有數據(網絡請求)可供其處理時App Pool122發出傳統的異步數據請求。隊列136和緩存130的五個連續狀態，用A-E標出的，在附圖4中表示。箭頭138用來表示App Pool122，Http.sys驅動器126，或擁有處理器的TDI驅動器128等等中哪一個能使其進程運行。因此在狀態A中，App Pool122進程正在運行。當AppPool122試圖接收網絡請求時，它發現隊列136是空的。因為是傳統方式的，AppPool122在隊列136中發送兩個「接收IRPs」。IRPs(I/O請求包)是一個用於異步數據傳送的數據結構。在狀態B中，輪到Http.sys進程運行。Http.sys進程使用它從緩存130檢索到的網絡請求完成兩個被發出的接收IRPs。在狀態C中，Http.sys將保留在緩存130中的網絡請求移動到隊列136中。在狀態D中，返回到App Pool進程。這時，在隊列136中有一個網絡請求。當App Pool處理時，TDI驅動器128，已經中斷了驅動，可以將更多的網絡請求放入緩存130中。在狀態E中，App Pool通過快速I/O消耗了隊列136中僅有的網絡請求，並且重新變得缺乏數據。這時，TDI繼續將網絡請求加入緩存。
在附圖5所舉的實施例中，快速I/O提高已經被實現了。附圖5表示了用A-C標記的三個狀態。傾向地，在進行接收呼叫時App Pool會一直在隊列136中查找數據項。當一個網絡請求出現在隊列136中時，接收呼叫被通過快速I/O立即完成。當App Pool快要耗盡隊列136中的數據時，一個Http.sys進程被提高的情況會更加頻繁地發生。如狀態A所示，App Pool檢查隊列136並且觀察隊列中保留的少量數據。在響應時，App Pool讓出其進程並且提高Http.sys進程的優先級，使得Http.sys更可能運行。在狀態B中，Http.sys進程運行，並且Http.sys驅動器將網絡請求從緩存130中移動到隊列136中。當App Pool進程回到狀態C，在隊列136中有足夠的網絡請求可供其通過快速I/O檢索。當隊列136中請求的數量重新變低時，App Pool進程讓給另一個進程。
鑑於有許多可能的實施例都可以採用本發明的原理，應當認識到這裡根據附圖所描述的實施例僅僅是舉例說明，並且不應該被視為對本發明保護範圍的限制。因此，這裡所描述的發明期待所有這些實施方案可以落入下述權利要求書的範圍並與其等效。
權利要求
1.一種用於執行從設備驅動器向在計算機上運行的應用程式傳送數據的步驟的具有計算機可執行指令的計算機可讀介質，其特徵在於，所述計算機可讀介質包括檢查被設備驅動器使用的隊列中的數據以存儲已準備好用於向應用程式同步傳送的數據項；如果數據隊列中的數據量超過一個閾值，向應用程式同步傳送數據隊列中的數據項；並且如果數據隊列中的數據量低於一個閾值，通過進程調度的方式提高設備驅動器的進程。
2.如權利要求1所述的計算機可讀介質，其特徵在於，所述提高設備驅動器進程的步驟包括將應用程式進程讓給另一個進程。
3.如權利要求1所述的計算機可讀介質，其特徵在於，所述提高設備驅動器進程的步驟包括提高設備驅動器進程的優先級。
4.如權利要求1所述的計算機可讀介質，其特徵在於，所述提高設備驅動器進程的步驟包括降低應用程式進程的優先級。
5.如權利要求1所述的計算機可讀介質，還包括用於執行以下步驟的計算機可讀指令通過設備驅動器，將數據項從第二驅動器的緩存中移動到用於向應用程式傳送的數據隊列。
6.如權利要求1所述的計算機可讀介質，其特徵在於，所述數據項是網絡請求。
7.如權利要求6所述的計算機可讀介質，還包括用於執行以下步驟的計算機可讀指令通過第二驅動器接收來自國際網際網路的網絡請求；通過第二驅動器把已接收的網絡請求存儲到緩存；通過第二驅動器把緩存中的網絡請求移動到用於向應用程式同步傳送的數據隊列。
8.如權利要求1所述的計算機可讀介質，其特徵在於，所述提高設備驅動器進程的步驟包括呼叫用來修改計算機的進程調度的API功能。
9.一種用於從設備驅動器向運行在執行進程調度的計算機上的應用程式傳送數據的方法，包括；檢查被設備驅動器使用的數據隊列中的數據以存儲已準備好用於向應用程式同步傳送的數據項；如果數據隊列中的數據量超過一個閾值，向應用程式同步傳送數據隊列中的數據項；並且如果數據隊列中的數據量低於一個閾值，通過進程調度的方式提高設備驅動器的進程。
10.如權利要求9所述的方法，其特徵在於，所述提高設備驅動器進程的步驟包括將應用程式進程讓給另一個進程。
11.如權利要求9所述的方法，其特徵在於，所述提高設備驅動器進程的步驟包括提高設備驅動器進程的優先級。
12.如權利要求9所述的方法，其特徵在於，所述提高設備驅動器進程的步驟包括降低應用程式進程的優先級。
13.如權利要求9所述的方法，還包括以下步驟通過設備驅動器，將數據項從第二驅動器的緩存中移動到用於向應用程式傳送的數據隊列。
14.如權利要求9所述的方法，其特徵在於，所述數據項是網絡請求。
15.如權利要求9所述的方法，還包括以下步驟通過第二驅動器接收來自國際網際網路的網絡請求；通過第二驅動器把已接收的網絡請求存儲到緩存；通過第二驅動器把緩存中的網絡請求移動到用於向應用程式同步傳送的數據隊列。
16.如權利要求9所述的方法，其特徵在於，所述提高設備驅動器進程的步驟包括呼叫用來修改計算機的進程調度的API功能。
17.一種計算機系統，其特徵在於，所述計算機系統包括用於管理計算系統的進程調度的進程管理程序；用於處理數據項的應用程式；用於存儲已準備好用於向應用程式傳送數據項的數據隊列；和用於將數據項向應用程式傳送的設備驅動器，所述設備驅動器在數據隊列中存儲已準備好用於向應用程式傳送的數據項，應用程式被編程來檢查數據隊列，如果數據隊列中的數據量超過一個閾值就同步地接收存儲在數據隊列中的數據項，並且如果數據隊列中的數據量低於一個閾值就促進設備驅動器的進程。
18.如權利要求17所述的系統，其特徵在於，所述應用程式通過將應用程式進程讓給另一個進程來促進設備驅動器進程。
19.如權利要求17所述的系統，其特徵在於，所述應用程式通過提高設備驅動器進程的優先權來促進設備驅動器的進程。
20.如權利要求17所述的系統，其特徵在於，所述應用程式通過降低應用程式進程的優先權來促進設備驅動器的進程。
21.如權利要求17所述的系統，其特徵在於，所述系統還包括用於接收被應用程式處理的數據項的第二驅動器，所述第二驅動器將所接收的數據項放置在用來被設備驅動器檢索的緩存中。
22.如權利要求17所述的系統，其特徵在於，所述系統還包括用於修改計算機系統進程調度的API功能，並且其中應用程式呼叫API功能來促進設備驅動的進程。
全文摘要
一種用於從設備驅動器向應用程式傳送數據的系統及其方法，通過進程調度來提高所請求數據對於被立即傳送給應用程式是可獲得的可能性，從而提高對來自應用程式的數據請求的同步處理(快速I/O模式)使用率。如果存儲用於傳送的數據的數據隊列中的數據量較低，修改系統的進程調度來促進設備驅動器進程，給它將更多數據放在供應用程式消耗的數據隊列中的機會。設備驅動器進程的促進可以通過將應用程式進程轉換為另一個進程(不必須是設備驅動器進程)，提高設備驅動器的優先級，和/或降低應用程式的優先級等等來進行。
文檔編號G06F13/12GK1595361SQ20041008551
公開日2005年3月16日 申請日期2004年8月27日 優先權日2003年8月29日
發明者J·C·弗勒 申請人:微軟公司