自適應動態編譯調度方法及裝置與流程

2023-11-30 16:53:21 1

本發明涉及虛擬機編譯調度技術領域，尤其涉及一種自適應動態編譯調度方法及裝置。

背景技術：

虛擬機(VM，Virtual Machine)主要通過軟體或者輔以少量硬體支持的方法虛擬出一臺計算機，其依託於本地的物理機，通過其執行引擎對給定的虛擬機指令序列在本地機器上模擬執行。虛擬機的執行引擎可以由解釋器來實現，解釋器以一條虛擬機指令為單位進行取指令、解碼和執行。但單純的解釋執行性能低下，因此虛擬機中引入動態編譯系統來提高其性能。編譯器是動態編譯系統的核心，以一組連續的虛擬機指令序列為單位整體編譯成本地CPU指令序列，稱為本地方法，然後由硬體直接執行翻譯後的本地方法。編譯器由於消除了重複的取指令和解碼的過程，同時又在翻譯時進行大量優化，因此其性能往往是解釋器的10倍以上。解釋執行期間，虛擬機會偵測程序中執行頻度較高的方法，稱為熱點方法，編譯器是在程序運行過程中，對虛擬機所偵測到的熱點方法進行動態編譯的，故又將其稱為即時(JIT，Just-in-time)編譯器。

因此，現代虛擬機中一般同時包含解釋器和即時編譯器，並採用混合的運行模式來執行應用程式。對於程序中的任意一個方法m，均由解釋器開始執行。若方法m的執行頻度較高，則虛擬機調用即時編譯器將方法m編譯成本地方法，隨後將由硬體直接執行編譯生成的本地方法。這種由解釋執行和硬體直接執行相混合的模式稱為混合運行模式。

對於採用混合運行模式的虛擬機，程序中所有方法均由解釋器開始執行。 解釋執行期間，虛擬機會偵測程序中的熱點方法。當某個熱點方法被虛擬機識別後，該熱點方法會被加入到編譯隊列中等待編譯。當系統中的編譯隊列非空時，即時編譯器會按照熱點方法被加入編譯隊列的先後順序，優先編譯先加入隊列的熱點方法。

在實現本發明的過程中，發明人發現現有技術中至少存在如下技術問題：

按照熱點方法被加入編譯隊列的先後順序進行編譯調度，調度策略比較單一，在程序運行過程中缺乏自適應能力，虛擬機的動態編譯性能不高。

技術實現要素：

本發明提供的自適應動態編譯調度方法及裝置，能夠提升虛擬機的動態編譯性能。

第一方面，本發明提供一種自適應動態編譯調度方法，包括：

獲取當前編譯隊列的長度，其中，所述當前編譯隊列為熱點方法隊列；

若當前編譯隊列的長度大於隊列長度閾值，則按照基於方法大小的動態編譯調度策略對所述當前編譯隊列中的熱點方法進行編譯調度；

若當前編譯隊列的長度不大於隊列長度閾值，則按照基於方法運行速度的動態編譯調度策略對所述當前編譯隊列中的熱點方法進行編譯調度；

將編譯調度時所選定的熱點方法從所述當前編譯隊列中移除，並進行編譯。

第二方面，本發明提供一種自適應動態編譯調度裝置，包括：

第一獲取單元，用於獲取當前編譯隊列的長度，其中，所述當前編譯隊列為熱點方法隊列；

第一編譯調度單元，用於在當前編譯隊列的長度大於隊列長度閾值時，按照基於方法大小的動態編譯調度策略對所述當前編譯隊列中的熱點方法進行編譯調度；

第二編譯調度單元，用於在當前編譯隊列的長度不大於隊列長度閾值時，按照基於方法運行速度的動態編譯調度策略對所述當前編譯隊列中的熱點方法進行編譯調度；

移除單元，用於將編譯調度時所選定的熱點方法從所述當前編譯隊列中移除；

編譯單元，用於對所述移除單元所移除的熱點方法進行編譯。

本發明實施例提供的自適應動態編譯調度方法及裝置，在當前編譯隊列的長度大於隊列長度閾值時，按照基於方法大小的動態編譯調度策略對當前編譯隊列中的熱點方法進行編譯調度，在當前編譯隊列的長度不大於隊列長度閾值時，按照基於方法運行速度的動態編譯調度策略對當前編譯隊列中的熱點方法進行編譯調度，並將編譯調度時所選定的熱點方法從當前編譯隊列中移除後進行編譯。與現有技術相比，本發明能夠根據編譯隊列的長度自適應地選擇最佳的編譯調度策略對當前編譯隊列中的所有熱點方法進行編譯調度，從而可以提高虛擬機動態編譯的吞吐量，加快虛擬機的響應速度，提升虛擬機的動態編譯性能。

附圖說明

為了更清楚地說明本發明實施例或現有技術中的技術方案，下面將對實施例或現有技術描述中所需要使用的附圖作一簡單地介紹，顯而易見地，下面描述中的附圖僅僅是本發明的一些實施例，對於本領域普通技術人員來講，在不付出創造性勞動的前提下，還可以根據這些附圖獲得其他的附圖。

圖1為本發明自適應動態編譯調度方法實施例一的流程圖；

圖2為本發明自適應動態編譯調度方法實施例二的流程圖；

圖3為本發明自適應動態編譯調度裝置實施例一的結構示意圖；

圖4為本發明自適應動態編譯調度裝置實施例二的結構示意圖。

具體實施方式

為使本發明實施例的目的、技術方案和優點更加清楚，下面將結合本發明實施例中的附圖，對本發明實施例中的技術方案進行清楚、完整地描述，顯然，所描述的實施例僅僅是本發明一部分實施例，而不是全部的實施例。基於本發明中的實施例，本領域普通技術人員在沒有做出創造性勞動前提下所獲得的所有其他實施例，都屬於本發明保護的範圍。

本發明提供一種自適應動態編譯調度方法，圖1為本發明自適應動態編譯調度方法實施例一的流程圖，如圖1所示，本實施例的方法包括：

S11、獲取當前編譯隊列的長度，其中，所述當前編譯隊列為熱點方法隊列。

這裡的方法指的是面向對象程序設計中的方法，本質上是程序中的一個代碼片段，是虛擬機進行編譯的最小單元。因此，本文中「方法」的概念可以擴展為程序中能夠被編譯的最小代碼片段，例如，面向過程的程式語言中的函數，以及Qemu等二進位翻譯器中的基本塊等。

S12、若當前編譯隊列的長度大於隊列長度閾值，則按照基於方法大小的動態編譯調度策略對所述當前編譯隊列中的熱點方法進行編譯調度。

S13、若當前編譯隊列的長度不大於隊列長度閾值，則按照基於方法運行速度的動態編譯調度策略對所述當前編譯隊列中的熱點方法進行編譯調度。

S14、將編譯調度時所選定的熱點方法從所述當前編譯隊列中移除，並進行編譯。

本發明實施例提供的自適應動態編譯調度方法，在當前編譯隊列的長度大於隊列長度閾值時，按照基於方法大小的動態編譯調度策略對當前編譯隊列中的熱點方法進行編譯調度，在當前編譯隊列的長度不大於隊列長度閾值時，按 照基於方法運行速度的動態編譯調度策略對當前編譯隊列中的熱點方法進行編譯調度，並將編譯調度時所選定的熱點方法從當前編譯隊列中移除後進行編譯。與現有技術相比，本發明能夠根據編譯隊列的長度自適應地選擇最佳的編譯調度策略對當前編譯隊列中的所有熱點方法進行編譯調度，從而可以提高虛擬機動態編譯的吞吐量，加快虛擬機的響應速度，提升虛擬機的動態編譯性能。

本發明實施例還提供一種自適應動態編譯調度方法，圖2為本發明自適應動態編譯調度方法實施例二的流程圖，如圖2所示，本實施例的方法包括：

S21、虛擬機啟動，完成對解釋器、編譯器的初始化。

S22、解釋器初始化完畢後，開始解釋執行程序中的方法。

S23、編譯器初始化完畢後進入等待編譯的狀態。

S24、解釋器在解釋執行方法的同時，偵測方法是否屬於熱點方法，若該方法不屬於熱點方法，則繼續解釋執行；若該方法屬於熱點方法，則執行步驟S25。

具體地，解釋器偵測方法的執行次數是否超過熱點閾值，若不超過熱點閾值，則判定該方法不屬於熱點方法；若超過熱點閾值，則判定該方法屬於熱點方法。

S25、解釋器將熱點方法加入編譯隊列中，同時喚醒編譯器，觸發編譯。

S26、編譯器獲取當前編譯隊列的長度，其中，所述當前編譯隊列為熱點方法隊列。

S27、編譯器判斷當前編譯隊列的長度是否大於隊列長度閾值，若當前編譯隊列的長度大於隊列長度閾值，則執行步驟S28；若當前編譯隊列的長度不大於隊列長度閾值，則執行步驟S29。

其中，所述隊列長度閾值為所述編譯器預先設定的。

S28、編譯器按照基於方法大小的動態編譯調度策略對所述當前編譯隊列中 的熱點方法進行編譯調度。

具體地，編譯器從所述當前編譯隊列中選取最小的熱點方法。其中，所述最小的熱點方法，指的是當前編譯隊列中包含字節碼最少的熱點方法。

S29、編譯器按照基於方法運行速度的動態編譯調度策略對所述當前編譯隊列中的熱點方法進行編譯調度；

具體地，編譯器從所述當前編譯隊列中選取運行速度最大的熱點方法。

在從所述當前編譯隊列中選取運行速度最大的熱點方法之前，編譯器獲取所述當前編譯隊列中所有熱點方法的運行速度。

可選地，編譯器可以按照如下公式計算獲得當前編譯隊列中所有熱點方法的運行速度：

其中，speed(m)為熱點方法m的運行速度，Δt為預設常量，表示當前時刻前的某一時間段長度，Δexecute(m)為當前時刻前的Δt時間段內熱點方法m的執行次數，Δexecute(m)＝Δinvocation_count(m)+Δloop_count(m)，Δinvocation_count(m)為當前時刻前的Δt時間段內熱點方法m被調用的次數，Δloop_count(m)為當前時刻前的Δt時間段內熱點方法m內部循環迭代的次數。

S30、編譯器將編譯調度時所選定的熱點方法從所述當前編譯隊列中移除。

S31、編譯器對所移除的熱點方法進行編譯。

S32、編譯器判斷當前編譯隊列是否為空，若不為空，則返回執行步驟S27；若為空，則返回步驟S23，編譯器進入等待編譯的狀態。

本發明實施例提供的自適應動態編譯調度方法，在當前編譯隊列的長度大於隊列長度閾值時，從所述當前編譯隊列中選取最小的熱點方法進行編譯，在當前編譯隊列的長度不大於隊列長度閾值時，從所述當前編譯隊列中選取運行 速度最大的熱點方法進行編譯，並將編譯調度時所選定的熱點方法從當前編譯隊列中移除後進行編譯，直至編譯隊列為空。與現有技術相比，本發明能夠根據編譯隊列的長度優先選擇最小的熱點方法或者運行速度最大的熱點方法進行編譯，從而可以提高虛擬機動態編譯的吞吐量，加快虛擬機的響應速度，提升虛擬機的動態編譯性能。

本發明實施例提供一種自適應動態編譯調度裝置，圖3為本發明自適應動態編譯調度裝置實施例一的結構示意圖，如圖3所示，本實施例的裝置包括：

第一獲取單元11，用於獲取當前編譯隊列的長度，其中，所述當前編譯隊列為熱點方法隊列。

這裡的方法指的是面向對象程序設計中的方法，本質上是程序中的一個代碼片段，是虛擬機進行編譯的最小單元。因此，本文中「方法」的概念可以擴展為程序中能夠被編譯的最小代碼片段，例如，面向過程的程式語言中的函數，以及Qemu等二進位翻譯器中的基本塊等

第一編譯調度單元12，用於在當前編譯隊列的長度大於隊列長度閾值時，按照基於方法大小的動態編譯調度策略對所述當前編譯隊列中的熱點方法進行編譯調度。

第二編譯調度單元13，用於在當前編譯隊列的長度不大於隊列長度閾值時，按照基於方法運行速度的動態編譯調度策略對所述當前編譯隊列中的熱點方法進行編譯調度。

移除單元14，用於將編譯調度時所選定的熱點方法從所述當前編譯隊列中移除；

編譯單元15，用於對所述移除單元所移除的熱點方法進行編譯。

本發明實施例提供的自適應動態編譯調度裝置，在當前編譯隊列的長度大 於隊列長度閾值時，按照基於方法大小的動態編譯調度策略對當前編譯隊列中的熱點方法進行編譯調度，在當前編譯隊列的長度不大於隊列長度閾值時，按照基於方法運行速度的動態編譯調度策略對當前編譯隊列中的熱點方法進行編譯調度，並將編譯調度時所選定的熱點方法從當前編譯隊列中移除後進行編譯。與現有技術相比，本發明能夠根據編譯隊列的長度自適應地選擇最佳的編譯調度策略對當前編譯隊列中的所有熱點方法進行編譯調度，從而可以提高虛擬機動態編譯的吞吐量，加快虛擬機的響應速度，提升虛擬機的動態編譯性能。

圖4為本發明自適應動態編譯調度裝置實施例二的結構示意圖，如圖4所示，可選地，所述第一編譯調度單元12，用於從所述當前編譯隊列中選取最小的熱點方法。

其中，所述最小的熱點方法，指的是當前編譯隊列中包含字節碼最少的熱點方法。

可選地，所述第二編譯調度單元13，用於從所述當前編譯隊列中選取運行速度最大的熱點方法。

本實施例的裝置在圖3所示裝置結構的基礎上，進一步地，所述自適應動態編譯調度裝置還可以包括：

第二獲取單元16，用於在所述第二編譯調度單元13從所述當前編譯隊列中選取運行速度最大的熱點方法進行編譯之前，獲取所述當前編譯隊列中所有熱點方法的運行速度。

可選地，所述第二獲取單元16，用於按照如下公式計算獲得當前編譯隊列中所有熱點方法的運行速度：

其中，speed(m)為熱點方法m的運行速度，Δt為當前時刻前的某一時間段 長度，Δexecute(m)為當前時刻前的Δt時間段內熱點方法m的執行次數，Δexecute(m)＝Δinvocation_count(m)+Δloop_count(m)，Δinvocation_count(m)為當前時刻前的Δt時間段內熱點方法m被調用的次數，Δloop_count(m)為當前時刻前的Δt時間段內熱點方法m內部循環迭代的次數。

本發明實施例提供的自適應動態編譯調度裝置，在當前編譯隊列的長度大於隊列長度閾值時，從所述當前編譯隊列中選取最小的熱點方法進行編譯，在當前編譯隊列的長度不大於隊列長度閾值時，從所述當前編譯隊列中選取運行速度最大的熱點方法進行編譯，並將編譯調度時所選定的熱點方法從當前編譯隊列中移除後進行編譯，直至編譯隊列為空。與現有技術相比，本發明能夠根據編譯隊列的長度優先選擇最小的熱點方法或者運行速度最大的熱點方法進行編譯，從而可以提高虛擬機動態編譯的吞吐量，加快虛擬機的響應速度，提升虛擬機的動態編譯性能。

本發明實施例自適應動態編譯調度方法及裝置，可以適用於在JAVA等高級語言虛擬機中進行自適應動態編譯調度，但不僅限於此。

本領域普通技術人員可以理解實現上述實施例方法中的全部或部分流程，是可以通過電腦程式來指令相關的硬體來完成，所述的程序可存儲於一計算機可讀取存儲介質中，該程序在執行時，可包括如上述各方法的實施例的流程。其中，所述的存儲介質可為磁碟、光碟、只讀存儲記憶體(Read-Only Memory，ROM)或隨機存儲記憶體(Random Access Memory，RAM)等。

以上所述，僅為本發明的具體實施方式，但本發明的保護範圍並不局限於此，任何熟悉本技術領域的技術人員在本發明揭露的技術範圍內，可輕易想到的變化或替換，都應涵蓋在本發明的保護範圍之內。因此，本發明的保護範圍應該以權利要求的保護範圍為準。