超標量處理機系統中單周期調度多指令的方法和系統的製作方法
2023-06-12 04:04:26 1
專利名稱：超標量處理機系統中單周期調度多指令的方法和系統的製作方法
技術領域：
本發明一般涉及一種改進型數據處理系統，尤其涉及一種提高超標量處理機系統指令調度效率的方法和系統。在更具體地，本發明涉及一種超標量處理機系統單周期調度多指令的方法和系統。
現代數據處理系統的設計者試圖不斷增強系統的運行性能。提高數據處理效率的一種技術是達到短的周期時間和低的每指令周期數(CPI)比。把這些技術應用到增強型數據處理系統的一個突出例子是國際商用機器公司的RISC系統/6000(RS/6000)計算機。RS/6000系統的目的是不僅在數字密集的工程和科學應用而且在多用戶商用環境中都良好運行。RS/6000處理機使用了一種超標量實現，它的意思是同時發出和執行多個指令。
同時發出和執行多指令需要一些獨立的功能部件，這些部件能在高指令帶寬下並發執行。RS/6000系統通過使用本質上是流水線的分離的分支部件、定點處理部件和浮點處理部件來達到這一點。由於這類系統中處理機的流水線特性，必須小心保證對執行後繼指令所需要的某特定指令的結果要在調度該後繼指令之前獲得。保證所謂「數據相關事件」不會出現的技術阻礙在完成調度前面所有指令之前對某一特定指令進行調度。儘管這種技術保證數據相關事件不會出現，應用這種技術帶來的性能損失是相當大的。
因此，現代超標量數據處理系統經常採用一種通常所說的「數據相關互鎖電路」。這種電路具有與指令調度電路一致運行的邏輯來保證在為正確執行某指令而需從前面的指令得到的結果尚未獲得之前該指令不會受到調度。實現數據相關互鎖電路的邏輯總量和每條指令中源操作數的數據成正比。源操作數是指令中的一個欄位，其用來訪問寄存器文件中的一個操作數，以實現對指令的執行。
儘管數據相關互鎖電路能在不造成上述明顯性能損失的情況下避免出現數據相關事件。但是為包括大量源操作數和目的操作數的指令而設計和實現的數據相關互鎖電路變得相當複雜。相關互鎖防止了相關指令的調度，這些相關指令阻止那些本身可能是不相關的和可執行的後繼指令進入調度分配器得到調度和執行。
在應用一種稱為「寄存器更名」方法時也提到隨著在每個處理機周期同時執行多指令而出現的數據相關事件。寄存器更名是這樣一種技術，在一條指令的最後結果被放到一個寄存器文件之前，暫時把某一特定指令的結果放到一個寄存器中可供後面指令潛在使用。寄存器更名通常是這樣實現的，即設置一個具有附加定位的寄存器文件數組和一個指針裝置來識別已賦作為邏輯寄存器的特定物理寄存器。現有技術中還利用多寄存器文件數組來提供數據的多個「讀」埠或在異常情況下保留以前的結果作為備用。
儘管該技術提供了同時調度和執行多指令的能力，要不然可能需要連續的執行操作，使用該技術把指令調度給執行部件時存在著一個問題。一條指令對利用特定的數據或特定的操作數進行執行的要求通常使在單處理機周期內把一條指令及相關數據調度到一個執行部件成為不可能，因為調度部件或執行部件必須對查找表或指針系統進行複雜的閱讀來確定何時臨時寄存器含有執行該指令所需要的數據。
顯而易見，需要一種方法和系統，它通過實現對指令中的數據和操作數迅速的調度來達到在單處理機周期內對超標量處理機的指令調度。
本發明的一個目的是提供一種改進的數據處理系統。
本發明的另一個目的是提供一種改進的方法和系統以提高超標量處理機系統中的指令調度效率。
本發明的再一個目的是為超標量處理機系統單周期指令調度提供一種改進的方法和系統。
上述目的是按下述實現的。本發明的方法和系統允許為超標量處理機系統進行單周期指令調度，即同時把多個指令調度給一組執行部件進行執行並把其結果放到指定的通用寄存器中。每條指令通常包括至少一個源操作數和一個目的地操作數。設置了一批中間存儲器緩衝區而且每次把一條指令調度給一個可使用的執行部件，把某一特定中間存儲器緩衝區分配給該被調度指令中的任一目的地操作數，通過取消確定和選擇特定通用寄存器或指定的替代通用寄存器的這個需求達到在單周期內對指令的調度。
通過下面詳盡的文字說明將會更清楚上述提要和本發明的其他目的、特性和優點。
對本發明本身以及最佳應用方式，進一步目的和其優點的最好了解可通過參考直觀性實施例的下述詳細說明並連帶參閱相應附圖來達到。附圖為
圖1是可用來實現本發明方法和系統的超標量數據處理系統高層方塊圖；圖2是可用來實現本發明方法和系統的超標量數據處理系統(圖1)指令調度電路系統的更詳細方塊圖；圖3是一個高層方塊圖，描述根據本發明的方法和系統的超標量處理系統(圖1)中中間存儲器緩衝區的應用；圖4是根據本發明的方法和系統的一個調度控制進行程的圖解表示；圖5是一個邏輯流程圖，描述根據本發明的方法和系統的一個單周期指令調度進程；而圖6是一個邏輯流程圖，描述根據本發明的方法和系統在選定的指令中確定源操作數的一個進程。
現看附圖特別是圖1，圖1是實現本發明方法和系統的超標量數據處理系統10的高層方塊圖。如所示，數據處理系統10包括一個存儲器18，其可存儲數據、指令等等。利用超高速緩衝器/存儲器接口20按熟練的技術人員熟知的方式存儲在存儲器18內的數據或指令得到最好地存取。超高速緩衝存儲器系統容量估計和應用是數據處理技術中一門得到很好了解的子專科，本應用中不再論述。儘管如此，熟練的技術人員懂得採用現代相聯超高速緩衝器技術，利用臨時地存儲在超高速緩衝器/存儲器接口20中的數據，可以達到存儲器存取高百分率。
從超高速緩衝器/存儲器接口20出來的指令通常裝入到最好有多個隊列位置的指令分配器22中。在超標量數據處理系統典型實施例中指令分配器的每個位置可包括2到8個指令，因此，在一給定周期，最多可有8個指令被裝入到指令分配器22中，取決於有多少個有效的指令通過了超高速緩衝器/存儲器接口20和在指令分配器22中有多大可使用空間。
如在這種超標量數據處理系統所典型的那樣，指令分配器22被用來把指令調度給執行部件24。如圖1中所示，根據設計選擇數據處理系統10可以包括一個或多個浮點部件、定點處理部件、送入/存儲部件和一個分支處理機部件。這樣，指令分配器22在單周期內可調度多個指令，每個執行部件一條指令。根據設計選擇，執行部件可包括保留站，保留站可允許在單周期內對單一執行部件調度多於一個的指令。這樣，超標量處理機的多個執行部件的每一個在單周期內可接收多個指令。另外，在多處理機系統中指令可調度給帶有多個處理機的多個執行部件24。
現參看圖2，它是可用來實現本發明方法和系統的超標量數據處理系統(圖1)中的指令調度電路系統的較詳細方塊圖。如圖示，從超高速緩衝器/存儲器接口20出來的指令通常以組按應用規定的順序序列裝入到指令分配器22中。因而，根據設計選擇，2個、4個或8個一組的指令從超高速緩衝器/存儲器接口20裝入到指令分配器22中，以在機會主義原理上調度到執行部件24中的一個或多個執行部件中。如圖2所表示的實施例中，這些執行部件可包括1個浮點執行部件26、多個送入/存儲部件28和30、多個定點執行部件32和34和一個分支執行部件36。當然，如前面所討論的那樣，根據設計選擇數據處理系統10中可以包括更多的或更少的不同類型執行部件。
如在這裡所描述的這類超標量數據處理系統中所典型的那樣，通常還設置一批通用寄存器。在圖2所描述的實施例中，設置了兩組通用寄存器，浮點通用寄存器44和定點通用寄存器46。從而，圖2所描述的執行部件裡多個指令的執行結果通常存儲到一個選定的通用寄存器中供以後利用。根據本發明的一個重要特徵，還設置了一批中間存儲器緩衝區，即浮點中間存儲器緩衝區40和定點中間存儲器緩衝區42。如在這裡更詳細的說明那樣，每個執行部件通過一條獨立的總線和各個中間存儲器緩衝區相連接。於是，一個執行部件所需的數據或一個執行部件執行一條指令所產生的數據可放置到一條獨立總線上並被存儲到一個指定的中間存儲器緩衝區中以供其他執行部件利用或將來傳送給一個通用寄存器。
按這種方式，不再需要保留通常與寄存器更名方法相關聯的複雜查找表，可將一個中間存儲器緩衝區有效地分配為一個目的操作數的存儲位置而迅速得到使用，允許該指令在單處理機周期內得到調度，因為數據位置不再需要從一個更名寄存器文件裡確定。此外，對指令的非順序性執行成為可能，只要把這些指令的輸出暫時存儲在中間寄儲器緩衝區內，將來再按應用規定的順序序列裝配到通用寄存器中。
如圖示，每個定點執行部件通過一條獨立總線和定點中間存儲器緩衝區42相連，而浮點執行部件通過一條獨立總線和各個浮點中間存儲器緩衝區40相連。如熟練的技術人員所懂得的那樣，送入/存儲部件28和30需要和浮點中間存儲器緩衝區40和定點中間存儲器緩衝區42相連，因為這些部件將要送入和存儲浮點和定點的兩種數據。
根據本發明的另一個重要特徵裝備了一個完成緩衝器48。完成緩衝器48用來跟蹤執行部件24中正在執行的多標量指令的完成。這些指令的執行結果，如前面所述，暫時放在一個相關的中間存儲器緩衝區中，當顯示出一條指令或一組指令已成功完成，按照應用規定的順序序列可利用完成緩衝器48啟動把這些已完成指令數據的結果送入相應的通用寄存器的傳輸。此外，當出現異常條件時，完成緩衝器48可用來啟動在異常出現前任何已完成指令的執行結果的存儲，還可用來控制指令分配器22在出現異常條件的那一點再啟動該進程，允許以一種有效方式用有效的輸出把錯誤的或無效的數據替換掉，或者可用來為特別類型的異常啟動由應用專用程序規定的一個新的指令序列。
現參看圖3，它是根據本發明的方法和系統的超標量處理機系統(圖1)中應用中間存儲器緩衝區的高層方塊圖。設置了一個可由指令分配器22訪問的存儲器緩衝區索引58。如將在這裡詳細描述的那樣，存儲器緩衝區索引58用來存儲和保留在一批中間存儲器緩衝區60中的各緩衝區和一個指定的通用寄存器之間的關係指示，以便應用在後繼指令的執行中。
多中間存儲器緩衝區60最好和多獨立總線64相連。在最佳實施例中，獨立總線64的數量等於中間存儲器緩衝區60的數量，各個中間存儲器緩衝區和一條總線相連。各個中間存儲器緩衝區60可對一條相應的獨立總線64進行讀和寫。熟練的技術人員公認總線的採用數量可按設計選擇變化。
圖中顯示了多個執行部件24a、24b、24c，它們和多獨立總線64的各條總線相連。最佳實施例中，執行部件24a、24b、24c可以包括一個浮點執行部件、多個送入/存儲部件、多個定點執行部件和一個分支執行部件。但是，熟練的技術人員懂得執行部件的數量和類型可根據設計選擇變化。
多執行部件24a、24b、26c中的每一個都可以對各條獨立總線64進行讀入和寫給。從而，通過多獨立總線64多執行部件24a、24b、24c中的每個和多中間存儲器緩衝區60的每個相連。這樣，當在一個執行部件裡執行一條指令生成數據後，該執行部件可把這個數據放置到與定義為該數據目的地的某指定中間存儲器緩衝區所對應的一條總線上，在那裡該數據可暫時存儲起來。同時，通過把一個「有效」位設置到適當的狀態該執行部件標明該總線上的數據是有效的。如此，當該數據在總線上時，以及在該數據被存到指定的中間存儲器緩衝區之前和存入的同時，任何需要該數據的其它執行部件可從總線上檢索該數據。因此，預備獨立總線的一個優點是不再需要把該數據存儲到一個緩衝器中然後再從緩衝器中訪問該數據。直接從總線檢索數據的能力可大大提高處理機系統的動行速度。
繼續參閱圖3，可以看到多獨立總線64的各條都和通用寄存器62連接。當要把一條指令調度給一個執行部件時，最好把指定的中間存儲器緩衝區和被選定的通用寄存器之間的關係存儲到存儲器緩衝區索引58。當另一個執行部件需要該執行結果時，利用存儲器緩衝區索引58裡的信息可進行結果的傳送。如同在這裡將詳細討論那樣，存儲器緩衝區索引58中存放的信息可是該指定中間存儲器緩衝區的一個標識符，利用通用寄存器的標識可對其進行訪問，或者該存放的信息可是一個通用寄存器的標識符，並可利用該指定中間存儲器緩衝區的標識對此通用寄存器進行訪問。
按這種方式，不再需要維護通常和寄存器更名方法有關的複雜查找表，因為在調度一條指令中可以將一個中間存儲器緩衝區立刻定為各目的操作數的存儲位置，而不需要對通用寄存器文件更名。進而，存儲器緩衝區索引58允許按一種非順序方法執行指令，因為各條指令的執行結果暫時地存放在中間存儲器緩衝區60裡，利用存儲器緩衝區索引58裡的信息和完成緩衝器48裡的內容(見圖2)這些結果可由後繼指令接著使用。
現參看圖4，它是按照本發明的方法和系統的調度控制進程的圖示表示。如所示，多個指令圖示在指令調度緩衝器64中。代表多指令的指令66、68、70和72按應用規定的順序序列已裝載到指令調度緩衝器64中。每條指令，如圖示，一般包括一個源操作數和一個目的操作數；但是，熟練的技術人員懂得可以有更多操作數。
按照本發明的一具重要特性，試圖調度指令72需要分配一個中間存儲器緩衝區以供目的地DN使用。另外需要指定一個位置以供源操作數SN利用。按照本發明的方法和系統，它是這樣完成的，首先對源操作數SN與在指令調緩衝器中那些在該源操作數之前的目的操作數進行比較。這樣，比較部件74用來對目的地D3、D2、D1和源操作數SN進行比較。這個進程用來確定為源操作數SN規定的位置是否目前已經在指令調度緩衝器64之中。由於每條指令可以順序地修改源的內容以及指令調度緩衝器64中的指令是按應用規定的順序序列排列的，超前指令72量近的並和源操作數SN相等的目的地將得到利用。從而，如果利用比較部件74進行的第一次比較表明相匹配則對源操作數SN的說明置為等於目的操作數D3。類似地，當前面的目的操作數和源操作數SN都不匹配時，源操作數SN的說明可以被置為目的操作數D2或D1。
現參看圖5，其表示按照本發明的方法和系統的一個單周期指令調度進程的邏輯源程圖。如所示，該進程從框80開始然後進入框82。框82中判定是否某一指令產生對執行部件的請求。如果沒有，則該進程僅僅重複直到產生對執行部件的請求為止。當一個執行部件請求產生後該進程進入框84。
框84中判定是否可以得到這條指令所要求類型的執行部件。如果不能，進程僅僅重複直到某一合適的執行部件變為可以得到。然後，進程進入框86。框86中判定被調度指令中的各目的操作數是否可以得到一個中間存儲器緩衝區。根據本發明一個重要特性，一個中間存儲器緩衝區被分配給指令中的各個目的操作數，這樣在單處理機周期內可對該指令及相關數據進行調度，不要求對通用寄存器文件中的一個更名寄存器進行複雜的判斷。如果不能夠把一個中間存儲器緩衝區分配給選定指令中的目的操作數，該進程等候一個中間存儲器緩衝區可用。
接著，進程進入框88。框88中表示在可以得到這樣一個中間存儲器緩衝區後為該選定指令裡的目的操作數分配一個中間存儲器緩衝區。然後，進程進入框90。在框90中判定是否該選定指令內的所有源操作數都已得到規定。如將在下面更詳細說明那樣，在允許一條指令被調度之前，必須為它包含的各源操作數規定一個獲得數據的源或位置。若該選定指令的源操作數沒有全部得到規定，則進程僅僅重複，直到對每個源操作數的規定明確之刻。
當選定指令的所有源操作數都得到規定後，進程進入框92。框92中表明在當前的處理機周期內對選定指令和數據說明進行調度。從而通過允許可把中間存儲器緩衝區分配給各條指令的目的操作數，本發明的方法和系統允許一條指令和執行指令所需的數據說明可在一個單周期內得到調度。然後，進程進入框94並返回。儘管上述進程步驟描述為連續進行的，熟練的技術人員懂得為效率目的這些步驟通常實質上將同時並行出現。
最後參看圖6，它是一個邏輯流程圖，表示根據並發明的方法和系統確定選定指令中源操作數的進程。如圖示，進程從框100開始，然後進入框102。在框102中識別指令中的一個源操作數以供說明。然後進程進入104。框104中判定在指令調度緩衝器中某一指令以前的一個目的操作數是否和當前正在考慮的源操作數相同。若是，進程進入框106。
框106中表示把該操作數說明設置為前面最近的目的操作數緩衝區分配。當然，熟練的技術人員懂得應用規定的順序序列中每條相繼的指令可改變已指定成為某特定的目的地的一個緩衝區的內容。這樣，前面最近的目的操作數緩衝區分配應該總是得到使用。然後進程進入框114並返回，此時已允許該指令得到調度，如圖5所示。
再次參看框104，若在指令調度緩衝器中前面的目的操作數都不等於當前的源操作數，進程進入框108。框108中判定用於該源操作數的一個指令緩衝區是否如前面所述已經指定的緩衝區索引中。若是，進程進入框110。在框110中把該源操作數說明設置為緩衝區索引中指定的緩衝區，然後進程進入框114並返回。按這種方式，如果一個中間存儲器緩衝區已被分配給一個作為當前指令的源的以前的目的地，則即使以前的指令已被調度，仍可完成適當的中間存儲器緩衝區的識別。
最後再看框108，當被識別源操作數的緩衝區未被指定在緩衝區索引中時，進程進入框112。框112中把源操作數的說明置為通用寄存器文件中規定的通用寄存器，然後進程返回，如框114所示。
儘管本流程圖的進程是按連續方式描述的，熟練的技術人員懂得為提高指令的調度效率，對以前的一個目的操作數是否等於當前的源操作數的判定，對一個指令緩衝區是否已在緩衝區索引中得到指定的判定或通用寄存器是否需要被指定為當前源操作數的說明的判定通常是並行進行的，以大大提高進程的效率。
儘管通過參照最佳實施例本發明得到具體描述，熟練的技術人員會理解在不偏離本發明的精神和範圍的前提下可對其格式或細節進行各種改變。
權利要求
1．一種可在超標量處理機系統中提高指令調度效率的方法，它能夠在單處理機周期內同時把多條標量指令調度給多個執行部件，所述多條標量指令每條包括至少一個源操作數和一個目的操作數，所述方法的特徵在於包括以下步驟在所述超標量處理機系統中設置多個中間存儲器緩衝區；在單處理機周期內確定所述多個執行部件中是否有一個適當的執行部件可用來執行從所述多條標量指令中選定的一條指令；把所述多個中間存儲器緩衝區中的一個特定緩衝區分配給所述多條標量指令中的所述一條選定指令裡的所述目的操作數；並且響應於執行部件的可用性以及多個中間存儲器緩衝區之一到所述目的操作數的分配，把所述多條標量指令中的所述一條選定的指令調度給所述多個執行部件中的一個適當的執行部件，從而對所述多條標量指令中的所述一條選定指令的執行結果可以寫進到所述多個中間存儲器緩衝區中的所述一個特定緩衝區中。
2．根據權利要求1的方法，其特徵在於包括這個步驟把所述多條標量指令中所述的一條選定指令的所述執行結果從所述多個中間存儲器緩衝區中的所述特定中間存儲器緩衝區裡按照機會傳送到一個通用寄存器中。
3．根據權利要求1的方法，其特徵在於包括這個步驟在所述單處理機周期內確定所述多條標量指令的前面一條指令中所含的一個目的操作數是否等於從所述多條標量指令中所述的一條選定指令中的一個源操作數。
4．根據權利要求3的方法，其特徵在於響應於執行部件的可用性以及多個中間存儲器緩衝區之一到所述目的操作數的分配、把所述多條標量指令中的所述一條選定的指令調度給所述多個執行部件中的一個適當的執行部件的步驟包括這樣的步驟響應於執行部件的可用性、所述多個中間存儲器緩衝區之一到所述目的操作數的分配以及所述多個中間存儲器緩衝區之一到所述多條標量指令的所述前面一個指令的所述目的操作數的分配，把所述多條標量指令中的所述一個選定的指令調度給所述多個執行部件中的一個適當的執行部件。
5．一種可在超標量處理機系統中提高指令調度效率的系統，它能夠在單處理機周期內同時把多條標量指令調度給多個執行部件，所述多條標量指令每條包括至少一個源操作數和一個目的操作數，所述系統的特徵在於包括位於所述超標量處理機系統中的多個中間存儲器緩衝區；用於在單處理機周期內確定所述多個執行部件中是否有一適當的執行部件可用來執行從所述多條標量指令中選定的一條指令的裝置；用於在單處理機周期內把所述多個中間存儲器緩衝區中的一個特定的緩衝區分配給所述多條標量指令中的所述一條選定的指令裡的所述目的操作數的裝置；以及用於響應於執行部件的可用性以及多個中間存儲器緩衝區之一到所述目的操作數的分配、在單處理機周期內把所述多條標量指令中的所述一條選定的指令調度給所述多個執行部件中的一個適當執行部件、從而對所述多條標量指令的所述一條選定的指令的執行結果可以寫進到所述多個中間存儲器緩衝區中的所述一個特定的中間存儲器緩衝區的裝置。
6．根據權利要求5的系統，其特徵在於包括用於把所述多條標量指令中的所述一條選定指令的所述執行結果從所述中間存儲器緩衝區中的一個特定中間存儲器緩衝區裡按照機會傳送到一個通用寄存器的裝置。
7．根據權利要求5的系統，其特徵在於包括用於在所述單處理機周期內確定所述多條標量指令的前面一條指令中所含的一個目的操作數是否等於從所述多條標量指令中所述一條選定指令中的一個源操作數的裝置。
8．根據權利要求7的系統，其特徵在於所述用於響應於執行部件的可用性以及多個中間存儲器緩衝區之一到所述目的操作數的分配、把所述多條標量指令中的所述一條選定的指令調度給所述多個執行部件中的一個適當執行部件的裝置包括用於響應於執行部件的可用性、所述多個中間存儲器緩衝區之一到所述目的操作數的分配以及所述多個中間存儲器緩衝區之一到所述多條標量指令的所述前面一條指令的所述目的操作數的分配、在所述單個處理機周期內把所述多條標量指令中的一條選定的指令調度給所述多個執行部件中能夠得到的一個適當的執行部件的裝置。
全文摘要
一種在超標量處理機系統中實現單周期指令調度的方法和系統,其把多指令同時調度給一組執行部件進行執行並把所產生的結果置入規定的通用寄存器。設置一批中間存儲器緩衝區,每次把一條指令調度給一個可用的執行部件,某一特定的中間存儲器緩衝區被指定給所調度指令中的任一目的操作數,通過取消任何確定和選擇特定通用寄存器或指定的替代通用寄存器的要求達到在單個周期內對該指令的調度。
文檔編號G06F9/38GK1221913SQ9812380
公開日1999年7月7日 申請日期1998年10月30日 優先權日1993年1月8日
發明者詹姆斯·A·卡勒, 郭星辰, 大衛·S·萊文坦, 奧伯雷·D·奧格登, 阿里·A·布爾薩巴尼, 鮑爾·塗光國, 多納爾德·E·沃爾德克 申請人:國際商業機器公司