有效利用電子系統中的處理器高速緩存器的方法
2023-05-07 12:47:31
專利名稱：有效利用電子系統中的處理器高速緩存器的方法
技術領域：
本發明總體上涉及用於有效實現電子系統的技術，更具體而言，涉及用於 有效利用電子系統中的處理器高速緩存器的方法。
背景技術：
用於有效實現電子系統的開發技術是當前電子系統的設計者和生產者深切 關注的事項。然而，有效實現電子系統可能對系統設計者提出了嚴重的挑戰。
例如，隨著人們對增長的系統功能和性能的要求的提高，會需要更多的系統處 理能力和需要附加的硬體資源。由於增長的製造成本和低效的操作，處理或硬 件需求的增長還會導致相應的不利經濟影響。
另外，用於處理各種先進操作的系統能力的提高會給系統用戶帶來更多好 處，但也會對各種系統部件的控制和管理提出更多的要求。例如， 一種在分布 式電子網絡上與其他外部裝置進行通信的電子系統由於所涉及的雙向通信性和 很多電子網絡的複雜性，而可能受益於有效的實施。
由於對系統資源所增長的需求、顯著增長的數據量值、以及某種所需要的 操作環境，這顯然導致開發用於有效實施電子系統的新技術關係到有關的電子 技術。因此，基於上述所有原因，開發用於實施和利用電子系統的有效技術值 得當前電子系統的設計者、生產者、和用戶深切關注。
發明內容
根據本發明，披露了 一種用於有效使用連接至電子裝置中的處理器的處理 器高速緩存器的方法。根據本發明的一個實施例，外部裝置首先產生向電子系 統的控制器的讀取請求，以從連接至該電子系統的存儲器中訪問目標數據。然
後，控制器在連接至該控制器的i/o總線上檢測來自外部裝置的讀取請求。
響應於此，控制器的主模塊經由處理器總線播發僅尋址監聽信號
(address-only snoop signal)到該電子系統的處理器。接著，該電子系統確定是 否由於播發上述的僅尋址監聽信號而導致監聽命中(snoop hit)發生。監聽命 中可限定為以下情況，其中，從該電子系統的存儲器中拷貝出來的緩存數據隨 後被修改，使處理器高速緩存器中的本地緩存數據不再與存儲器中的原始對應 數據相同。
如果未發生監聽命中，則然後控制器立即從存儲器訪問原始目標數據，並 可提供原始目標數據給外部裝置，從而完成所請求的讀取操作。然而，如果發 生了監聽命中，則然後處理器通過釆用任何合適的技術進行拒絕。處理器然後 對存儲器刷新所請求目標數據的緩存版本(緩存數據)，以替換所請求目標數據 的原始版本。
根據本發明，處理器有利地將刷新的緩存數據本地保存於緩存器中，以在 隨後的處理操作過程中方便和快速地進行訪問。控制器可在處理器總線上執行 確認監聽過程，以確保所請求的目標數據的最新版本已從高速緩存器拷貝到了 存儲器。
然後，控制器可從存儲器訪問更新的目標數據。最後，控制器可將所請求 的目標數據提供給外部裝置，從而完成所請求的讀取操作。至少基於上述理由， 本發明因此提供了 一種改進方法，用於有效地使用電子系統中的處理器高速緩 存器。
圖1是根據本發明的一個實施例的電子系統的框圖；圖2是根據本發明的圖1的處理器模塊的一個實施例的框圖3是根據本發明的圖1的控制器的一個實施例的框圖； 圖4是根據本發明的圖1的存儲器的一個實施例的框圖； 圖5A 圖5B是示出了根據本發明的數據緩存技術的框圖；以及 圖6A和6B是根據本發明的 一個實施例的有效利用處理器高速緩存器的方 法步驟的流程圖。
具體實施例方式
本發明涉及對實施電子系統過程的改進。下面給出的描述使本領域的普通 技術人員能夠製作和使用本發明，並在專利申請及其要求的上下文範圍內。對 本領域的技術人員來說，對所披露的實施例的各種修改將是顯而易見的，且本 文中的一般原理可以應用於其它實施例。因此，本發明並不限於所給出的實施 例，而是限於與本文所描述的原理和特徵相一致的最寬範圍。
這裡所描述的本發明是作為一種用於有效執行處理操作的系統和方法，其 包括處理器，其被構造用於控制電子裝置內的處理操作；以及存儲器，其連 接至該電子裝置以用於存儲電子信息。高速緩存器，其被提供用於本地存儲由 處理器從存儲器中的目標數據所複製的緩存數據。處理器通常修改高速緩存器 中存儲的緩存數據。當外部裝置啟動讀取操作以訪問目標數據時，處理器響應 性地用緩存數據來更新目標數據。此外，處理器還利用緩存數據保留過程以將 該緩存數據本地保留於高速緩存器中，以用於後續的處理操作。
現在參照圖1，其示出了根據本發明的一個實施例的電子系統112的框圖。 在圖1的實施例中，電子系統112可包括但不限於處理器模塊116、控制器 120、和存儲器128。在可選實施例中，電子系統112可使用除圖2實施例所論
述的某些部件和結構之外或者代替圖2實施例所論述的某些部件和結構的部件 和結構來實現。
在圖1的實施例中，處理器模塊116可實現為包括任何合適且兼容的處理 器裝置，其執行用於控制和管理電子系統112的操作的軟體命令。下面將結合圖2進一步討論處理器模塊116。在圖l的實施例中，電子系統112可利用控 制器120以進行雙向協調通信，該通信用於處理器總線124上的處理器模塊116 和用於存儲器總線132上的存儲器128。電子系統112還可利用控制器120,以 用於通過輸入/輸出(I/O)總線140來與一個或多個外部裝置136通信。下面 結合圖3進一步討論控制器120。在圖l的實施例中，存儲器128可實現為包 括任何期望的存儲裝置的組合，其又包括但不限於只讀存儲器(ROM)、隨 機存取存儲器(RAM)、以及各種其他類型的易失性和非易失性存儲器。下面 結合圖4進一步討論存儲器128。
現在參照圖2,其示出了根據本發明的一個實施例的圖1處理器模塊116 的方框圖。在圖2的實施例中，處理器模塊116可包括，但不限於處理器214 和高速緩存器212。在可選實施例中，處理器模塊116可容易地使用除圖2實 施例所論述的某些部件和結構之外或者代替圖2實施例所論述的某些部件和結 構的部件和結構來實現。
在圖2的實施例中，處理器214通常從存儲器128 (圖1 )訪問期望數據的 拷貝，並把所訪問的數據本地存儲於高速緩存器212中以用於更快速和方便的 訪問。為了維護處理器模塊116的最佳性能，儘可能地將相關數據本地保存於 高速緩存器212中，這很重要。如果給定數據是存儲於處理器高速緩存器中， 則認為高速緩存器212中的緩存數據比存儲於存儲器128 (圖1 )中的對應數據 更新，這是因為處理器214可能在從存儲器128讀取了原始數據之後，就已修 改了高速緩存器212中的緩存數據。
因此，如果外部裝置136想要從存儲器128讀取目標數據，以讀取目標數 據的最新版本，則外部裝置136初始請求處理器214允許通過監聽過程或其他 合適的技術從存儲器128讀取目標數據。如果處理器214先前已將目標數據的 拷貝從存儲器128傳送至高速緩存器212,則外部裝置136在控制器120(圖1 ) 從存儲器128提供更新的目標數據到正請求的外部裝置136之前，優選地進行 等待，直到將目標數據的緩存版本刷新寫回存儲器128。
在常規系統中，當處理器響應於讀取請求而刷新取自處理器高速緩存器的緩存數據時，處理器會無效、刪除、或相反放棄來自處理器高速緩存器的已刷
新的緩存數據。然而，根據本發明的圖2實施例，在處理器214對存儲器128 刷新緩存數據以響應來自外部裝置136的讀取請求之後，處理器214會有利地 通過利用合適的緩存數據保留技術將所刷新的緩存數據保留於高速緩存器212 中，從而通過提高緩存命中成功機率來加速處理器214對特定的已刷新的緩存 數據的下一次訪問。
在圖2實施例中，本發明可利用由控制器120 (圖1)播發至處理器214 的、專門的僅尋址監聽信號以響應於來自外部裝置136的讀取請求。在某些實 施例中，上述的僅尋址監聽信號可包括僅尋址RWNIC (read-with-no-intent-to-cache,讀取而不緩存)信號。響應於僅尋址監聽信號， 電子系統112有利地支持用於處理器總線124和處理器模塊116的總線協議， 其允許處理器214把所請求的緩存版本的目標數據從高速緩存器212刷新到存 儲器128中，而同時利用緩存數據保留技術將所刷新的緩存數據本地保留於高 速緩存器212中。
下面還結合圖5和圖6討論處理器模塊116的操作。
現在參照圖3,其示出了根據本發明的一個實施例的圖1的控制器120的 框圖。在圖3的實施例中，控制器120包括但不限於處理器接口 316、存儲 器接口 320、輸入/輸出(I/O)接口 324、主模塊328、以及目標模塊332。在 可選實施例中，控制器120可容易地使用除圖3實施例所論述的某些部件和結 構之外或者代替圖3實施例所論述的某些部件和結構的部件和結構來實現。
在圖3實施例中，控制器120可接收I/0總線140上的來自外部裝置136 (圖1)的讀取請求，該請求用於從電子系統112的存儲器128 (圖1)中讀取 目標數據。響應於此，主模塊328可通過處理器總線124將僅尋址監聽信號播 發至處理器214 (圖1)。在某些實施例中，上述的僅尋址監聽信號可包括僅尋 址RWNIC (讀取而不緩存)，其對應於地址階段，但不包括對應的數據階段。
響應於僅尋址監聽信號，控制器120有利地支持用於處理器總線124和處 理器模塊116的總線協議，其允許處理器214把來自高速緩存器212 (圖2 )的緩存版本的所請求的目標數據刷新寫入存儲器128中，而同時利用緩存數據保
留技術將所刷新的緩存數據本地保留於高速緩存器212中。在圖3的實施例中， 目標模塊332可通過不執行用於傳送與僅尋址監聽周期相關的數據的任何類型 的數據階段而被構造用於支持上述的僅尋址監聽信號和緩存數據保留技術。下 面結合圖5和圖6進一步描述控制器120的使用。
現在參照圖4，其示出了根據本發明的一個實施例的圖1的存儲器128的 框圖。在圖4實施例中，存儲器128包括但不限於應用軟體412、作業系統 416、數據420、和雜項信息424。在可選實施例中，存儲器128很容易使用除
圖4實施例所論述的某些部件和結構之外或者代替圖4實施例所論述的某些部 件和結構的部件和結構來實現。
在圖4的實施例中，應用軟體412可包括由處理器模塊116(圖l)運行的 程序命令，以執行用於電子系統112的各種功能和操作。應用軟體412的特定 本質和功能通常取決於以下因素而變化例如，對應的電子系統112的具體類 型和特定功能。在圖4實施例中，搡作系統416可實現為高效地控制和協調電 子系統112的低層功能。
在圖4實施例中，數據420可包括為電子系統112所釆用的任何類型的信 息、數據、或程序命令。例如，數據420可包括各種類型的目標數據， 一個或 多個外部裝置136可在讀取操作過程中請求從存儲器128訪問這些數據。在圖 4的實施例中，雜項信息424可包括任何合適類型的、為電子系統112所使用 的輔助數據或其他信息。下面結合圖5和圖6進一步討論存儲器128的使用。
現在參照圖5A 圖5B,其示出了根據本發明的一個實施例的數據高速緩 存技術的框圖。圖5A 5B的實例是出於舉例說明目的，在可選實施例中，高 速數據緩存技術可容易地使用除圖5A 圖5B實施例所論述的某些技術和結構 之外或者代替圖5A 圖5B實施例所論述的某些技術和結構的部件和結構來執 行。
在圖5A 5B的實例中，存儲器128包括存儲器數據A514(a)，其存儲於 存儲器128的相應存儲地址A上。在某些環境下，在執行處理功能時，為了方便和更快訪問，處理器214(圖2)可以將存儲器數據A 514 (a)的拷貝傳送 至本地處理器高速緩存器212作為緩存數據高速A*514 (b)。當存儲於高速緩 存器212時，處理器214通常可修改或改變緩存數據A*514 (b)，以變得與存 儲於存儲器128中的存儲器數據A514 (a)的原始版本不相同。
同時，在特定實例中，外部裝置136(圖1)在讀取搡作中，可以搜索以從 存儲器128訪問存儲器數據A514 (a)作為目標數據。為了提供所請求目標數 據的最新版本，處理器214可以將緩存數據AS514(b)刷新寫回存儲器128中， 以使用緩存數據八*514 (b)覆蓋存儲地址A處的存儲器數據A514 (a)。
在常規系統中，處理器214然後通常從高速緩存器212中刪除緩存數據 A*514 (b)。然而，如果刪除了緩存數據A*514 (b),則當下一次處理器214 進行搜索以對或從緩存數據八*514^)執行搡作時，處理器214必須執行費時 而繁重的讀取搡作，以從存儲器128返回存儲器數據A514 (a)到高速緩存器 212以作為緩存數據A*514 (b)。如上所述，電子系統112因此有利地支持用 於處理器總線124和處理器模塊116的總線協議，其使得處理器214將緩存數 據A*514 (b)從高速緩存器212刷新寫入存儲器128中，而同時響應於上述僅 尋址監聽信號，使用緩存保留技術將緩存數據A*514 ( b )本地保留於高速緩存 器212中。下面結合圖6來說明以上結合圖5所說明的數據高速緩存技術。
現在參照圖6A和6B，其示出了根據本發明的一個實施例的有效使用高速 緩存器212的方法步驟的流程圖。圖6實例(圖6A和6B)的實例用於說明目 的，且在可選實施例中，本發明可很容易使用或者除圖6實施例所論述的某些 步驟和順序之外的步驟和順序。
在圖6A的實施例中，在步驟612中，外部裝置136初始對電子系統112 的控制器120產生讀取請求，以從存儲器128訪問目標數據。在步驟616中， 控制器120檢測I/O總線140上的讀取請求。響應於此，在步驟620中，控制 器120的主模塊328把僅尋址監聽信號通過處理器總線124播發至電子系統112 的處理器模塊116。在步驟624中，電子系統112確定是否由於播發上述的僅 尋址監聽信號而發生監聽命中。監聽命中可以限定為一種狀況，其中，從存儲器128拷貝的緩存數據隨後已被修改，使高速緩存器212中的本地緩存數據不 再與存儲器128中的原始對應數據相同。
在步驟624中，如果發生監聽命中，則圖6A的過程進行到步驟628。然而， 如果在步驟624中未發生監聽命中，則圖6A的過程進行到圖6B的、用字母"B" 連接的步驟644。在步驟628中，如果已發生了監聽命中，則然後處理器214 通過利用任何合適的技術予以拒絕。圖6A的過程然後前進到圖6B的、用字母 "A"連接的步驟632。
在步驟632中，處理器214將所請求的目標數據的緩存版本(緩存數據) 刷新寫入高速緩存器128,以替換所請求目標數據的原始版本。在某些可選實 施例中，可中途截取目標數據，並直接提供給正在請求的外部裝置136,而不 是首先將目標數據存儲於存儲器128中。
根據本發明，在步驟636中，為了在隨後的處理操作過程中方便和快速訪 問，處理器214有利地將所刷新的緩存數據本地保存於高速緩存器212中。在 步驟640中，控制器120可在處理器總線124上執行確認監聽過程，以確保已 將所請求的目標數據的最新版本從高速緩存器212拷貝到存儲器128中。然後 在步驟644中，控制器120可以從存儲器128訪問已更新的目標數據。最後， 在步驟648中，控制器120可向外部裝置136提供所請求的目標數據，從而完 成所請求的讀取搡作。然後結東圖6的過程。至少出於上述原因，本發明因而 提供了一種改進方法，以有效地使用電子系統112中的處理器高速緩存器212。
上面參照特定實施例說明了本發明。對於本領域的技術人員來說，顯然在 本文的啟示下，還可以有其他實施例。例如，本發明易於使用不同於上述實施 例的其他結構和技術來實現。另外，可結合不同於上述系統的其他系統來有效 地應用本發明。因此，本發明是要覆蓋上述實施例的這些和其他變型，這些僅 受權利要求所限制。
工業實用性
本文已經描述了本發明的典型實施例，本發明在多個工業領域中找到了其 工業可用性，尤其是微電子領域，例如，在計算機伺服器、在航空電子裝置中、以及在衛星導航定位系統中。
權利要求
1、一種用於有效執行處理操作的系統，包括處理器，其被構造用於控制電子裝置中的所述處理操作；存儲器，其連接至所述電子裝置以用於存儲電子信息；高速緩存器，用於本地存儲由所述處理器從所述存儲器中的目標數據拷貝出來的緩存數據，所述處理器隨後修改所述緩存數據；外部裝置，其發起讀取操作以訪問所述目標數據，所述處理器響應地用所述緩存數據更新所述目標數據，所述處理器將所述緩存數據本地保留於所述高速緩存器中，以便於所述處理操作的後續處理操作，以及控制器，通過其實現所述處理器和所述存儲器雙向通信，所述控制器還調整所述外部裝置與所述電子裝置的所述處理器或所述存儲器之間的雙向通信，其中，所述處理操作為讀取操作。
2、 根據權利要求l所述的系統，其中，所述高速緩存器作為處理器高速緩 存器而被實現，其本地連接至所述處理器以用於存儲最初從所述電子裝置的所 述存儲器中拷貝出來的所選擇的數據，所述處理器高速緩存器使所述處理器快 速和方便地訪問所選擇的數據。
3、 根據權利要求l所述的系統，其中，所述電子裝置作為計算機裝置而被 實現，其連接至包括所述外部裝置的分布式電子網絡。
4、 根據權利要求l所述的系統，其中，所述處理器首先將所述目標數據從 所述存儲器拷貝至所述高速緩存器中作為所述緩存數據，然後，所述處理器使 用所述緩存數據來執行所述處理操作中的至少一種，所述處理器在執行所述處 理操作中的至少一種的過程中改變有關於所述目標數據的所述緩存數據。
5、 根據權利要求l所述的系統，其中，所述外部裝置通過向所述電子裝置 的控制器發送讀取請求以請求允許從所述存儲器中訪問所述目標數據，來發起 所述讀取操作。
6、 根據權利要求5所述的系統，其中，所述電子裝置的所述控制器在用於把所述外部裝置連接至所述控制器的輸入/輸出總線上檢測來自所述外部裝置 的讀取請求。
7、 根據權利要求6所述的系統，其中，響應於來自所述外部裝置的讀取請 求，所述控制器的主模塊在處理器總線上播發僅尋址監聽信號到所述處理器。
8、 根據權利要求7所述的系統，其中，所述僅尋址監聽信號包括僅尋址讀 取而不緩存信號。
9、 根據權利要求7所述的系統，其中，響應於由所述控制器的主模塊在所 述處理器總線上播發的所述僅尋址監聽信號，所述電子裝置確定是否檢測到監 聽命中。
10、 根據權利要求9所述的系統，其中，所述監聽命中指示自從所述緩 存數據從最初存儲於所述存儲器的所述目標數據中拷貝出來，所述處理器修改 了所述緩存數據。
11、 根據權利要求9所述的系統，其中，只要未發生監聽命中，所述控制 器就將所述目標數據從所述存儲器傳送至所述外部裝置。
12、 根據權利要求9所述的系統，其中，只要發生監聽命中，所述處理器 就用所述緩存數據更新所述目標數據。
13、 根據權利要求12所述的系統，其中，在所述緩存數據被刷新寫回所述 存儲器中以更新所述目標數據之後，而同時所述處理器使用緩存數據保留技術 將所述緩存數據本地保留於所述高速緩存器中。
14、 根據權利要求13所述的系統，其中，響應於所述僅尋址監聽信號，緩 存數據保留總線協議支持所述緩存數據保留技術。
15、 根據權利要求13所述的系統，其中，響應於所述僅尋址監聽信號，所 述控制器的目標模塊不執行用於傳送與所述僅尋址監聽周期相關的數據的數據 階段。
16、 根據權利要求13所述的系統，其中，所述電子裝置執行監聽確認過程, 以確認所述存儲器中的所述目標數據已經用所述緩存數據更新。
17、 根據權利要求13所述的系統，其中，在所述目標數據已用所述緩存數據更新之後，所述控制器從所述存儲器中訪問和發送所述目標數據到所述外部 裝置。
18、 根據權利要求l所述的系統，其中，所述處理器能夠在所述目標數據 更新之後，本地訪問所述高速緩存器中的緩存數據，而無需消耗處理資源，以 及無需等待將所述目標數據讀回到所述高速緩存器作為緩存數據而需要的一段 傳輸時間。
19、 一種用於有效執行處理操作的方法，包括通過使用處理器來控制在 電子裝置中的所述處理操作；將電子信息存儲在連接至所述電子裝置的存儲器中；將緩存數據存儲在高速緩存器中，所述緩存數據是由所述處理器從所述存儲器中的目標數據拷貝出來，所述處理器隨後修改所述緩存數據；外部裝置發起讀取操作，從而訪問所述目標數據，所述處理器響應地用所述緩存數據來更新所述目標數據，所述處理器將所述緩存數據本地保留於所述高速緩存器中，以便於所述處理搡作的後續處理搡作，以及所述處理器和所述存儲器通過控制器雙向通信，所述控制器還調整所述外部裝置與所述電子裝置的所述處理器或所述存儲器之間的雙向通信， 其中，所述處理操作為讀取操作。
全文摘要
一種用於有效地執行處理操作的系統和方法，包括處理器，其被構造用於控制電子裝置中的處理操作；和存儲器，其連接至電子裝置以用於存儲電子信息；高速緩存器，用於本地存儲由處理器從存儲器中的目標數據所複製的緩存數據。處理器通常修改存儲於高速緩存器中的緩存數據。當外部裝置發起讀取操作以訪問目標數據時，處理器響應地用緩存數據更新目標數據。另外，處理器還使用緩存數據保留過程而將緩存數據本地保留於高速緩存器中，以便於後續的處理操作。
文檔編號G06F12/08GK101634969SQ20091015738
公開日2010年1月27日 申請日期2006年2月14日 優先權日2005年2月15日
發明者羅伯特·A·希爾曼 申請人:麥斯韋爾技術股份有限公司