計算系統與在計算系統內控制多核心處理器操作的方法與流程

2023-05-30 12:06:56

本發明關於一種用計算系統控制多個處理核心操作的方法及裝置，更具體地，關於一種在計算系統內控制操作頻率並開啟及關閉操作核心電源的方法及相關裝置。

背景技術：

隨著計算複雜度越來越高，普遍需要使用多個處理器在不同處理器上平行執行一個或多個電腦程式的不同部分。今天，所使用的微處理器一般都有多個處理核心，這與幾年前大不相同，那時候一般都是單個核心的微處理器。

多核心操作的優點已經為公眾所知曉，但多核心的有效管理有時是一個非常複雜的工作。挑戰在於需要開啟多少個核心來達到合適的平行度，並且開啟的多個核心需要在什麼時鐘頻率操作，從而減少計算資源的浪費。特別在操作限制(例如，功率限制或載荷)不停變化的時候尤其困難。因此，需要設計一種穩定且有效的管理多核心的方案。

技術實現要素：

因此，本發明為了解決多核心有效管理的技術問題，特提供一種新的計算系統與在計算系統內控制多核心處理器操作的方法。

本發明提供一種計算系統，包含：多核心處理器；核心控制器，監控該多核心處理器的利用；根據該多核心處理器的該利用、目標利用與 第一性能指標，計算目標性能指標，其中該第一性能指標與動態電壓頻率調整表中的第一條目相關，該第一條目對應該多核心處理器的當前設定；並根據該目標性能指標與第二性能指標選擇該動態電壓頻率調整表中的第二條目，該第二條目對應目標設定，該第二性能指標與該第二條目相關，其中該目標設定用於設置該多核心處理器。

本發明另提供一種在計算系統內控制多核心處理器操作的方法，該方法包含：監控該多核心處理器的利用；根據該多核心處理器、目標利用與第一性能指標計算目標性能指標，其中該第一性能指標與動態電壓頻率調整表中的第一條目相關，該第一條目對應該多核心處理器的當前設定；根據該目標性能指標與第二性能指標，選擇該動態電壓頻率調整表的第二條目，該第二條目對應目標設定，該第二性能指標與該第二條目相關；以及使用該目標設定設置該多核心處理器。

本發明能夠在降低功耗並節省電力同時還能夠發揮最佳性能。

本發明的這些及其他的目的對於本領域的技術人員來說，在閱讀了下述優選實施例的詳細說明以後是很容易理解和明白的，所述優選實施例通過多幅圖予以揭示。

附圖說明

圖1顯示根據本發明實施例的具有多核心處理器100的計算機系統10的功能框圖。

圖2顯示本發明實施例的DVFS表。

圖3顯示本發明另一實施例的DVFS表。

圖4A(由圖4A-1及圖4A-2組成)及圖4B(由圖4B-1及圖4B-2組成)顯示本發明實施例的DVFS表及操作方法。

圖5顯示根據本申請實施例的多核心處理器的控制方法的流程圖。

具體實施方式

本說明書及權利要求書使用了某些詞語代指特定的組件。本領域的技術人員可理解的是，製造商可能使用不同的名稱代指同一組件。本文件不通過名字的差別，而通過功能的差別來區分組件。在以下的說明書和權利要求書中，詞語「包括」是開放式的，因此其應理解為「包括，但不限於...」。

本發明的實施例可用於任何計算系統，例如圖像作業系統，娛樂系統，媒體系統，遊戲系統，通信設備，工作站，臺式計算機，筆記本電腦，行動電話，或其他具有多核心處理器的系統。

多核心處理器可具有異構計算架構，其可以將較慢的低功耗的處理器核心與更強的高功耗的處理器核心耦接起來。請參考圖1，圖1顯示根據本發明實施例的具有多核心處理器100的計算機系統10的功能框圖。多核心處理器100包含多個第一核心110(110-1到110-4)以及多個第二核心120(120-1到120-4)。本實施例中，多核心處理器100是一個晶片上系統(SOC)。多核心處理器100將多個第一核心110與多個第二核心120組合。第一核心110與第二核心120在架構上是兼容的，使得同樣指令可以由第一核心110或第二核心120執行。本實施例中，第一核心110的數量等於4，第二核心120的數量也等於4。可是，本發明並不限於此。第一核心110與第二核心120的數量可以是其他正整數。

而且，每個第一核心110的性能比每個第二核心120的性能高，而每個第二核心120的能效比每個第一核心110的能效高。換句話說，每個運行的第一核心110的功耗比每個運行的第二核心120的功耗高，在執行同樣指令時，每個運行的第一核心110在執行指令方面的性能比每個第二核心120的性能好。如此，高性能核心(即第一核心110)與高能效 (energy efficient)核心(即第二核心120)在同個SOC上組合，來降低功耗並節省電力，同時還能夠發揮最佳性能。因為第一核心110與第二核心120是架構兼容的，計算機系統10的任務可以按需分配到每個核心，來適應性能需求。高密度的任務，例如遊戲需要被分配到第一核心110而例如電子郵件或音頻播放等要求不那麼高的任務則會被分配給第二核心120。

本發明另一個實施例中，第一核心110是嵌入在計算系統10的中央處理器(CPU)中，而第二核心120則嵌入在計算系統10的圖像處理器(GPU)中。最近研究表明將CPU與GPU一起使用是比單獨使用CPU或GPU的更有效的計算方法。數據現實不同類型的計算操作單元更適合不同類型的任務。舉例來說，CPU一般在控制密集型(control-intensive)任務中表現更好，而GPU在計算密集型任務中表現更好。

本申請提供一種新的動態電壓與頻率調節(Dynamic Voltage and Frequency Scaling，DVFS)機制來管理多核心處理器100，其與其他現有技術的管理方法不同。多核心處理器100使用了DVFS的實施例的結果是，第一核心110可使用一個或多個操作頻率及一個或多個操作電壓，第二核心120也可使用一個或多個操作頻率及一個或多個操作電壓。一旦一個操作頻率及一個操作電壓應用於任何一個第一核心110或任何一個第二核心120，第一核心110或第二核心120就開始運行。換句話說，如果任何第一核心110或任何第二核心120沒有操作頻率(即操作頻率等於0Hz)或任何操作電壓(即操作電壓等於0伏)，第一核心110或第二核心120沒有運行。運行的第一核心110的操作頻率可與運行的第二核心120的操作頻率不同，運行的第一核心110的操作電壓可與運行的第二核心120的操作電壓不同。可是，本申請不限於此。也就是說，運行的第一核心110的操作頻率可以與運行的第二核心120的操作頻率相同， 運行的第一核心110的操作電壓可以與運行的第二核心120的操作電壓相同。而且，在本申請的一個實施例中，每個運行的第一核心110使用同樣操作頻率與同樣操作電壓，且每個運行的第二核心120也使用同樣操作頻率及同樣操作電壓.根據一個實施例，DVFS機制可由核心控制器130執行，後文將詳細介紹。

根據前文描述的由計算系統10執行的功率管理流程(power management process)，如圖2所示，至少一個DVFS表200可由計算系統10產生。DVFS表200包含多個條目(entry)，從204-1到204-n，其中n是正整數。每個204-1到204-n中的條目包含三個部分：第一設定(setting)210，第二設定220以及參考指標(reference indexes)230。如圖2所示，第一設定210包含欄位(fields)有第一數量P，第一操作頻率F1以及第一操作電壓V1，第二設定220包含欄位有第二數量Q，第二操作頻率F2以及第二操作電壓V2，以及參考指標230的類別(category)包含欄位有性能指標(performance index)A與功率指標(power index)B。第一數量P表示運行的第一核心110的數量，第二數量Q表示運行的第二核心120的數量。

性能指標A與功率指標B的欄位是參考欄位。多核心處理器100可通過參考性能指標A與功率指標B的欄位的數值，從DVFS表200中選擇一個條目。性能指標A的數值表示當第一核心110與第二核心120根據204-1到204-n中的一個選擇的條目設置時，多核心處理器100的性能的一個量化值。舉例來說，當條目204-3被選擇來設置多核心處理器100，在此選擇下多核心處理器100的性能指標A是40273。性能指標A的數值越大，多核心處理器100展現的性能越高。同樣的，功率指標B的數值表示當第一核心110與第二核心120根據204-1到204-n中的一個選擇的條目設置時，多核心處理器100的所需功率的一個量化值。功率指標B 的數值越大，多核心處理器100所需的功率越大。因此，可通過參考性能指標A與功率指標B的欄位的數值，根據多核心處理器100所需的功率限制以及/或性能，從DVFS表200中選擇條目204-1到204-n中之一。如此，多核心處理器100的功率與性能可符合一個既定的條件，使得多核心處理器100消耗的功率不超過功率限制且/或多核心處理器100的性能不比所需的性能差。

舉例來說，假設條目204-9被選擇來設置多核心處理器100。那麼，第一核心110就根據選擇的條目204-9的第一設定210，來設置3個第一核心110為運行的，而且3個運行的第一核心110的操作頻率為Freq_b1，且3個運行的第一核心110的操作電壓為Volt_b1。同樣的，第二核心120也根據選擇的條目204-9的第二設定220，來設置4個第二核心120為運行的，而且4個運行的第二核心120的操作頻率為Freq_L2，且4個運行的第二核心120的操作電壓為Volt_L1。

請參考圖3，其顯示可用來設置多核心處理器100的其他類型的DVFS表。從300_1到300_8的每個DVFS表對應線程級平行度(thread level parallelism，TLP)一個唯一數值。舉例來說，DVFS表300_1對應於數值為1的TLP，DVFS表300_7對應數值為7的TLP，DVFS表300_8對應數值為8的TLP。根據本申請的一實施例，為多核心處理器100在從DVFS表300_1到300_8的所有條目中選擇一個目標條目(target entry)，多核心處理器100首先根據當前TLP從DVFS表300_1到300_8選擇一個，然後根據多核心處理器100的功率限制及/或所需性能從選擇的DVFS表中選擇目標條目。更具體地，如圖4A及圖4B所示的DVFS表分別清楚顯示了DVFS表300_4(TLP＝4)與300_8(TLP＝8)的條目。請注意，上面提到的DVFS表可儲存於計算系統10的存儲單元內(圖未示)。

根據本申請的一實施例，多核心處理器100決定計算系統10中的當 前TLP。在本申請一實施例中，當前TLP是運行的第一核心110的數量與運行的第二核心120的數量之和。在本申請的另一實施例中，當前TLP根據信息系統10的作業系統(OS)的運行序列(run queues)中正在運行的任務的數量所確定。在本申請一實施例中，當前TLP根據第一核心110與第二核心120的工作量(workload)總和來計算。

根據本申請一實施例，核心控制器130藉助類似如上述DVFS表，通過監控多核心處理器100的利用(utilization，UZ)，提供目標設定(target-setting，TS)，來控制多核心處理器100的開啟/關閉以及操作點(operating point，例如操作電壓與操作頻率)。核心控制器130可包含軟體指令組，其可由多核心處理器100(e.g.110-1or 120-1)中的一個執行，來監控並控制從110-1到110-4的第一核心以及從120-1到120-4的第二核心的操作。核心控制器130可通過專用硬體電路來實施，或與固件結合來實施，這些都為本領域內技術人員所了解。

利用(或者核心利用，core utilization)一般在平臺時段定時器中斷的時候如果核心被暫停，通過偵測來得到。對於一個像多核心處理器100的多核心來講，利用(utilization，UZ)可以是所有上電的核心的平均利用(average utilization)。在一實施例中，多核心處理器100的UZ通過核心控制器130得到。

圖4A顯示實施例的核心控制器130如何跟蹤並微調多核心100的性能的實施例。為了解釋目的，在DVFS表300-4中，第一核心110-1到110-4表示為「Cluster Little」而第二核心120-1到120-4表示為「Cluster LLittle」。而且，OPP_L表示第一核心110(圖3中表示為F1與V1)的操作點，而OPP_LL表示第二核心120(圖3中表示為F2與V2)的操作點。此處，假設多核心處理器100當前採用了條目0中的設定，其中核心110-1到110-4都是運行(或者是開啟的)在操作點OPP1以及核心 120-1到120-4都是運行(或者是開啟的)。核心控制器130監控UZ並找出，在條目0設定下，多核心100的UZ是40％。接著，核心控制器130利用下面公式來計算目標性能指標F1：目標性能指標＝當前性能指標*(UZ/目標利用)，目標利用為target utilization。其中當前性能指標是在當前設定(3900)下的性能指標，目標利用可以是一個預定數值，代表多核心100的期望的利用。在本實施例中，我們假定目標利用是90％而目標性能指標是大約1733(3900*40％/90％)。然後，核心控制器130參考DVFS表300-4，並比較表中條目的性能指標，來得到目標設定(target-setting，TS)。舉例來說，核心控制器130可選擇一個性能指標大於且靠近目標性能的條目。在本例子中，DVFS表300-4的第21條目會被選擇。核心控制器130可接著用第21條目設置多核心處理器100，使得核心110-1到110-4被從開啟到關閉，而核心120-1到120-4被從關閉到開啟，來於操作點OPP2工作。需要注意的是，一旦獲取了設置多核心100的目標設定TS，核心控制器130可把目標設定TS轉發給另一個模塊(例如功率管理電路)，以使用該目標設定TS設定多核心處理器100。當多核心處理器100用第21條目設置後，多核心處理器100的UZ可達到目標利用(90％)，這是通過在操作點OPP2開啟「Cluster LLittle」中的所有核心，而關閉「Cluster Little」中的所有核心。請注意，在一些例子中，可能有計算系統10的功率限制，核心控制器130需要選擇一個不僅性能指標大於目標性能且功率指標小於計算系統10的功率限制的條目。

圖4B顯示核心控制器130跟蹤並微調多核心100性能的實施例。這裡，假設多核心處理器100當前採用條目0中的設定，其中核心110-1到110-4都是在操作點OPP1運行的(或開啟的)，而核心120-1到120-4也都是操作點在OPP1運行的。核心控制器130監控UZ且找出，在條目0的設定下，多核心100的UZ是50％。然後，核心控制器130使用上面 公式F1計算目標性能指標。在圖4B中，我們假定目標利用是90％，因此目標性能指標會是大約3279(5902*50％/90％)。然後，核心控制器130參考DVFS表300-8並比較表中的條目的性能指標，來得到目標設定TS。舉例來說，核心控制器130可選擇具有性能指標大於目標性能且具有最小功率指標的條目。在本例子中，DVFS表300-8的第8條目會被選擇。核心控制器130然後使用第8條目設置多核心處理器100，使得核心110-1到110-4以及核心120-1到120-4全部保持開啟但是切換到操作點OPP4工作。

請注意，從公式F1得到的目標性能指標可進一步用一個計算系統10的運行序列長度(run queue length)來調整。運行序列長度表示作業系統的運行序列中有多少任務在排隊。運行序列長度增加時，作業系統分配給多核心處理器100來處理的任務/工作的數量就增加。為了保持平滑的性能與良好的用戶體驗，需要提供足夠的計算資源。舉例來說，目標性能指標可通過下面公式來計算F2：目標性能指標＝當前性能指標*(UZ/目標利用)+運行序列長度*W，其中W是一個核心控制器130可改變的調整因子(scaling factor)。

基於上面的敘述，下面根據本申請實施例有一些陳述。核心控制器130用來執行下列步驟。第一，其監控多核心處理器100的UZ。第二，其根據多核心處理器100的利用、目標利用以及第一性能指標計算一目標性能指標，其中第一性能指標與對應多核心處理器100的當前設定的DVFS表的第一條目相關。第三，其根據目標性能指標與第二性能指標選擇DVFS表的第二條目，其中DVFS表對應目標設定，且第二性能指標與第二條目相關。目標設定更用來設置多核心處理器100。並且根據本申請的一實施例，第二性能指標大於目標性能指標。根據本申請的另一實施例，核心控制器130更根據計算系統10的運行序列長度來計算 目標性能指標。

在一個實施例中，核心控制器130更被設置來產生DVFS表，其中第一條目記錄當前設定與第一性能指標，而第二條目記錄目標設定與第二性能指標。第一條目記錄第一功率指標，第二條目更記錄第二功率指標，第二功率指標小於計算系統10的功率限制。核心控制器130基於計算系統10的TLP來產生DVFS表，使得DVFS表可被劃分為多個子表，其中每個表對應不同的TLP數值，並包含多個條目。而且，當TLP改變為第一TLP數值，核心控制器130從DVFS表中的第一子表中選擇對應第一TLP數值的第二條目。

根據本申請實施例，核心控制器130也可用來確定計算系統10的TLP是否要改變，或者多核心處理器100的UZ是否處在目標範圍之外，且核心控制器130在計算系統10的TLP確定要改變，或者多核心處理器100的UZ確定處在目標範圍之外時計算目標性能指標。也就是說，如果多核心處理器100的UZ處於一個可接受範圍內且計算系統10的TLP沒有變化時，核心控制器130不需要為確定多核心處理器100的另一設定再計算目標性能指標。

根據本申請的實施例中，多核心處理器100包含一個或多個第一核心(110-1到110-4)以及一個或多個第二核心(120-1到120-4)，當前設定包含第一核心的第一設定以及第二核心的第二設定，且目標設定包含第一核心的第三設定以及第二核心的第四設定。而且，第一設定指示所有第一核心來開啟，而第二設定指示所有第二核心開啟，第三設定指示所有第一核心關閉，第四設定指示所有第二核心開啟。

與傳統的核心一個接一個開啟的多核心管理機制(也就是每個調整中只有開啟一個核心)所不同，上述的本申請的實施例顯示了靈活且有戰略的多核心管理。

圖5顯示根據本申請實施例的多核心處理器的控制方法的流程圖。在步驟S501，監控多核心處理器的利用(utilization)。在步驟S503中，根據多核心處理器的利用、目標利用與第一性能指標來計算目標性能指標，其中第一性能指標與DVFS表的第一條目相關，該第一條目對應多核心處理器的當前設定。接著，根據目標性能指標與第二性能指標選擇DVFS表的第二條目，該第二條目對應目標設定，該第二性能指標與第二條目相關(步驟S505)。在步驟S507，使用目標設定來設置多核心處理器。

圖5中的方法可以硬體來執行(例如電路，專用邏輯，可編程邏輯，微代碼，應用專用集成電路(ASIC)，場可編程門陣列(FPGA)等等)，或以軟體來執行(例如，在操作設備上運行的指令)，或者硬體與軟體的結合。在一實施例中，該方法由圖1的計算系統10的核心控制器130來執行。

圖5流程圖中的操作已經以圖1，4A與4B中的實施例進行描述。可是，需要理解的是，圖5流程圖中的操作也可以用不同於圖1，4A與4B中的實施例的方式進行實施。並且圖1，4A與4B中的實施例也可以執行不同於圖5中流程圖的操作。雖然圖5中展示了本申請一些實施例操作的特定順序，但需要理解，這樣的順序僅僅是為了解釋，並非本申請的限制。(例如另外實施例可以不同順序執行，或者把幾個操作合併執行，或者取消某些操作，等等)。

根據上面的實施例的方法可記錄於非暫時性(non-transitory)的計算機可讀媒介，例如計算機內用來執行各種操作的程序指令。媒介還可包含除了程序指令等其他的，例如數據文件(data files)，數據結構(data structures)等。記錄在媒介中的程序指令可以是為這些實施例特別設計建構的，或者也可以是本領域內技術人員所熟知的一般程序指令。非暫時性計算機可讀媒介包含例如硬碟，軟盤，磁碟等磁性媒介；也可以包 含例如是CD ROM盤與DVD盤等光媒介；也可以是光碟等磁光媒介；硬體可以是特別設置來存儲並執行程序指令的，例如是只讀存儲器(ROM)，隨機存取存儲器(RAM)，快閃記憶體等。計算機媒介也可以是分布式網絡，這樣程序指令可以分散的方式存儲及運行。程序指令可由一個或多個處理器執行。計算機可讀媒介也可存在於應用專用集成電路(ASIC)或可編程門陣列(FPGA)中，它們可像處理器一樣執行程序指令。程序指令的例子包含例如編譯器所產生的機器碼，或者計算機使用翻譯器執行的包含更高級碼的文件。

本領域的技術人員將注意到，在獲得本發明的指導之後，可對所述裝置和方法進行大量的修改和變換。相應地，上述公開內容應該理解為，僅通過所附加的權利要求的界限來限定。