一種機器學習系統的訓練方法和訓練系統與流程
2023-10-18 05:17:09
本申請涉及大數據處理領域，尤其涉及一種機器學習系統的訓練方法和訓練系統。
背景技術：
在如今的大數據時代，網際網路公司獲取超大規模數據已非常容易。據不完全統計，谷歌2012年每天30億query/300億廣告，臉書用戶2013年每天分享43億內容，阿里巴巴2015雙十一當天就有超過7億筆交易。這些公司通過機器學習系統，去挖掘數據裡面的金礦，包括用戶興趣/行為/習慣等等。
機器學習系統設計為模仿人腦的神經網絡，用於預測用戶的行為。在機器學習系統上線之前，需要通過大規模的數據進行訓練。然而在訓練過程中，大規模的數據必然要求大規模的機器資源才能有效處理，例如騰訊的廣告數據，都是pb級別，必然要用到千臺機器以上，這對大部分公司來說，都是個巨大的成本。
為了降低成本，提高機器學習系統的效率，通常的處理方式是通過隨機樣本採樣的手段減少機器學習系統處理的數據量。隨機樣本採樣就是以一定概率丟棄樣本，例如對每一個樣本隨機生成1個0-1範圍內的浮點數，當浮點數大於閾值時則直接丟棄該樣本。然而，隨機丟棄樣本的方式會丟棄大量的有用數據，損害機器學習系統的訓練效果，降低預測的精度。
技術實現要素：
鑑於上述問題，提出了本申請實施例以便提供一種克服上述問題或者至少部分地解決上述問題的機器學習系統的訓練方法和訓練系統。
為解決上述問題，本申請一實施例公開一種機器學習系統的訓練方法，利用多個樣本數據對機器學習系統進行訓練，所述訓練方法包括：
獲得多個樣本集合，每個樣本集合包括對應取樣時間段內的樣本數據；
根據每一個樣本集合對應的採樣時間段，設置該樣本集合對應的採樣率；
獲得多個根據採樣率採樣後的樣本集合；
分別確定所述多個採樣後的樣本集合的重要程度值；
利用該重要程度值修正所述多個採樣後的樣本集合中的每一個樣本數據，獲得修正後的樣本數據；
將每一個所述修正後的樣本數據輸入機器學習系統，對該機器學習系統進行訓練。
本申請另一實施例公開一種機器學習系統的訓練系統，利用多個樣本數據對機器學習系統進行訓練，其特徵在於，所述訓練系統包括：
第一獲取模塊，用於獲得多個樣本集合，每個樣本集合包括對應取樣時間段內的樣本數據；
採樣率設置模塊，用於根據每一個樣本集合對應的採樣時間段，設置該樣本集合對應的採樣率；
第二獲取模塊，用於獲得多個根據採樣率採樣後的樣本集合；
重要程度值確定模塊，用於分別設置所述多個採樣後的樣本集合的重要程度值；
樣本數據修正模塊，用於利用該重要程度值修正所述多個採樣後的樣本集合中的每一個樣本數據，獲得修正後的樣本數據；
訓練模塊，用於將每一個所述修正後的樣本數據輸入機器學習系統，對該機器學習系統進行訓練。
本申請實施例至少具有以下優點：本申請實施例公開一種機器學習系統的訓練方法和訓練系統，在將樣本數據輸入機器學習系統之前對樣本數據進行處理，包括獲取根據取樣時間段劃分的樣本集合、根據取樣時間段設置每個樣本集合的採樣率、根據採樣率進行採樣、確定採樣後樣本集合的重要程度值以及利用該重要程度值將樣本數據進行修正，並將樣本數據輸入機器學習系統進行訓練，在降低機器學習系統處理的數據量的同時保證了重要數據的採用率和利用程度，在減輕機器的內存資源需求的同時儘量降低對機器學 習系統的學習效果的影響。
附圖說明
圖1是本申請第一實施例的機器學習系統的訓練方法的流程圖。
圖2是本申請第二實施例的機器學習系統的訓練方法的流程圖。
圖3是本申請第三實施例的機器學習系統的訓練方法的流程圖。
圖4是本申請第四實施例的機器學習系統的訓練系統的方框圖。
圖5是本申請第五實施例的機器學習系統的訓練系統的方框圖。
圖6是本申請第六實施例的機器學習系統的訓練系統的方框圖。
具體實施方式
下面將結合本申請實施例中的附圖，對本申請實施例中的技術方案進行清楚、完整地描述，顯然，所描述的實施例僅僅是本申請一部分實施例，而不是全部的實施例。基於本申請中的實施例，本領域普通技術人員所獲得的所有其他實施例，都屬於本申請保護的範圍。
本申請的核心思想之一在於，提出一種機器學習系統的訓練方法和訓練系統，利用多個樣本數據對機器學習系統進行訓練，包括根據樣本數據的取樣時間段將樣本數據劃分為多個樣本集合；根據取樣時間段設置每一個樣本集合的採樣率；根據採樣率對每一個樣本集合採樣，並修改每一個採樣後的樣本集合對應的重要程度值；利用重要程度值修正每一個樣本數據，並將該修正後的樣本數據輸入機器學習系統，對該機器學習系統進行訓練。
第一實施例
本申請第一實施例提出一種機器學習系統的訓練方法，如圖1所示為本申請一實施例的機器學習系統的訓練方法的流程圖，本實施例提出的機器學習系統的訓練方法包括如下步驟：
s101，獲得多個樣本集合，每個樣本集合包括對應取樣時間段內的樣本數據；
在這一步驟中，每一個樣本數據例如為一個向量，該向量中的其中一個維度例如為該樣本數據的取樣時間。在本步驟中可以將所有樣本數據的取樣時間劃分為多個取樣時間段，並將多個樣本數據根據取樣時間段劃分為多個樣本集合，每一個樣本集合對應一個取樣時間段。
例如，所有樣本數據的取樣時間是從1月24日至1月29日，則可以將這一取樣時間劃分為多個取樣時間段，例如1月29日、1月27日至1月28日、1月24日至1月26日三個取樣時間段。按照上述三個取樣時間段，將樣本數據劃分為1月29日取樣的樣本集合、1月27日至1月28日取樣的樣本數據集合、1月24日至1月26日取樣的樣本集合。因此，每一個樣本集合對應一個取樣時間段。
值得注意的是，上述取樣時間段可以是依據開發者或使用者設定的規則劃分，可以平均分布或者不平均分布，本申請並不以此為限。
s102，根據每一個樣本集合對應的採樣時間段，設置該樣本集合對應的採樣率；
在這一步驟中，可以根據取樣時間段設置對應的每一個取樣集合的樣本率。例如，可以按照取樣時間段越新的樣本集合對應的採樣率越高的原則設置採樣率。即，所述樣本集合的採樣率隨著該樣本集合對應的取樣時間段從舊到新而增加。例如在上述示例中，可以將1月29日取樣的樣本數據對應的樣本集合的採樣率設置為1.0，將1月27日至1月28日取樣的樣本數據對應的樣本集合的採樣率設置為0.5，將1月24日至1月26日取樣的樣本數據對應的樣本集合的採樣率設置為0.1。
s103，獲得多個根據採樣率採樣後的樣本集合；
在這一步驟中，可以根據上一步驟中設置的採樣率，對每一個樣本集合內的樣本進行採樣。例如某一個樣本集合中包含的樣本數據為1000個，採樣率為0.1，則採樣後該樣本集合中包含的樣本數據的個數為1000*0.1＝100個。通過採樣後，樣本集合中的樣本數據為100個，這100個樣本數據對應的集合可以稱為採樣後的樣本集合。
s104，分別確定所述多個採樣後的樣本集合的重要程度值；
在一實施例中，重要程度值可以是人為或者機器算法設定的係數，每一個採樣後的樣本集合對應的重要程度值分別可以人為設定或通過機器以一定規則設定。在上述步驟中，可以在該樣本集合原重要程度值的基礎上，設置新的重要程度值。
s105，利用該重要程度值修正所述多個採樣後的樣本集合中的每一個樣本數據，獲得修正後的樣本數據；
在這一步驟中，可以利用該重要程度值修正多個採樣後的樣本集合中的每一個樣本數據，獲得修正後的樣本數據；
利用該重要程度值修正每一個樣本數據，可以是將每一個向量的每一個特徵維度與重要程度值相乘，使該向量等比例放大，獲得修正後的樣本數據。
例如，該樣本集合原有的或者默認的重要程度值為1，在這一步驟中可以修正為2，因此某個原來為a(1,1,1,2,........n)的樣本數據在這一步驟中可以修正為a(2,2,2,4,........2n)，即為修正後的樣本數據。
然而，正如本領域技術人員可以得知的，重要程度值並不限於人為或者機器算法設定的係數，在其他實施例，還可以有多種方法，例如對樣本數據a(,1,1,2,........n)進行數學運算，a1＝f(a)等等，這裡的函數f可以為等比相乘函數，或者類似指數運算等等各種數學函數，也可以對樣本進行修正。
s106，將每一個所述修正後的樣本數據輸入機器學習系統，對該機器學習系統進行訓練。
在這一步驟中，可以將修正後的樣本數據輸入機器學習系統，對該機器學習系統進行訓練。在訓練中，首先對損失函數求導，計算出梯度，再結合初始的權重以及設置的步長，根據公式「新的權重＝舊的權重+步長*梯度」通過迭代的方式計算出接近最優解的權重值。
綜上所述，本申請第一實施例公開一種機器學習系統的訓練方法，在將樣本數據輸入機器學習系統之前對樣本數據進行處理，降低數據量的同時保證了重要數據的採用率和利用程度，在減輕機器的內存資源需求的同時儘量降低對機器學習系統的學習效果的影響。
第二實施例
本申請第二實施例提出一種機器學習系統的訓練方法，如圖2所示為本申請第二實施例的機器學習系統的訓練方法的流程圖，本實施例提出的機器學習系統的訓練方法包括如下步驟：
s201，獲得多個樣本集合，每個樣本集合包括對應取樣時間段內的樣本數據；
s202，根據每一個樣本集合對應的採樣時間段，設置該樣本集合對應的採樣率；
s203，獲得多個根據採樣率採樣後的樣本集合；
上述三個步驟與第一實施例中的步驟s101、s102、s103相同或相似，在此不再贅述。
s204，分別確定所述多個採樣後的樣本集合的重要程度值；
步驟s204例如可以包括：
子步驟s204a：基於對應的採樣率對所述採樣後的樣本集合的初始重要程度值進行修正，得到所述採樣後的樣本集合的重要程度值；
所述重要程度值和初始重要程度值為正比關係，和所述採樣後的樣本集合的採樣率為反比關係。
在子步驟s204a中，例如可以通過該樣本集合原先對應的重要程度值與採樣率的比值，計算新的重要程度值。例如，可以按照下述公式初次設置每一個樣本集合的重要程度值：
y1＝y/a；
其中y1為對應於該樣本集合的設置後的重要程度值；
y為對應於該樣本集合的原始的重要程度值；
a為所述樣本集合的採樣率。
舉例來說，在第一實施例所提供的示例中，如果針對1月24日至1月26日這一取樣時間段的採樣率為0.1，並且該集合對應的重要程度值設為0.2；針對1月29日這一取樣時間段的採樣率為0.5，並且該集合對應的重要程度值設為1；針對1月27日至1月28日這一取樣時間段的採樣率為1， 並且該集合對應的重要程度值設為5，則根據y1＝y/a，可以得出按照取樣時間段由舊到新排列的這三個集合的重要程度值分別為2、2、5。
步驟s204例如還可以包括：
子步驟s204b，按照預置規則，提高最新的取樣時間段對應的樣本集合的重要程度值。
在子步驟s204b中，這一預置規則例如可以包括：
提高後的最新的取樣時間段對應的樣本集合的重要程度值與提高前的最新的取樣時間段對應的樣本集合的重要程度值成正比，並與樣本集合的總個數成正比。
在這一子步驟中，例如可以按照下述公式再次設置最新的取樣時間段對應的樣本集合的重要程度值：
z1＝z*b；
其中z1為對應於該樣本集合的再次修改後的重要程度值；
z為對應於該樣本集合的初次修改後的重要程度值；
b為樣本集合的總個數。
舉例來說，根據步驟s204b得出的按照取樣時間段由舊到新排列的三個樣本集合對應的重要程度值分別為2、2、5，在這一步驟中，可以針對取樣時間段最新的採樣後的樣本集合，即第三個樣本集合，再次提升其重要程度值。
例如，可以按照下述公式再次設置最新的取樣時間段對應的樣本集合的重要程度值：
z1＝z*b；
其中z1為對應於該樣本集合的再次設置後的重要程度值；
z為對應於該樣本集合的初次設置後的重要程度值；
b為樣本集合的總個數。
舉例來說，在子步驟s204a中獲得的取樣時間段最新的樣本集合對應的初次設置後的重要程度值為5，在這一子步驟中，可以通過z1＝z*b的公式，獲取再次設置後的重要程度值為5*3＝15。
值得注意的是，子步驟s204b可以在子步驟s204a之前或之後執行，或者是單獨執行。即，子步驟s204b相對於子步驟s204a是獨立的，並不依賴於子步驟s204a。
s205，利用該重要程度值修正所述多個採樣後的樣本集合中的每一個樣本數據，獲得修正後的樣本數據；
在這一步驟例如可以包括如下子步驟：
s205a，將每一個所述重要程度值與對應的採樣後的樣本集合中的每一個樣本數據相乘，獲得修正後的樣本數據。
s206，將每一個所述修正後的樣本數據輸入機器學習系統，對該機器學習系統進行訓練。
這一步驟可以與第一實施例中的步驟s106相同或相似，在此不再贅述。
綜上所述，本申請第二實施例公開一種機器學習系統的訓練方法，在將樣本數據輸入機器學習系統之前對樣本數據進行處理，通過對不同樣本集合的重要程度值的設置，在降低數據量的同時保證了重要數據的採用率和利用程度，在減輕機器的內存資源需求的同時儘量降低對機器學習系統的學習效果的影響。
第三實施例
本申請第三實施例提出一種機器學習系統的訓練方法，如圖2所示為本申請第二實施例的機器學習系統的訓練方法的流程圖，本實施例提出的機器學習系統的訓練方法包括如下步驟：
s301，獲得多個樣本集合，每個樣本集合包括對應取樣時間段內的樣本數據；
s302，根據每一個樣本集合對應的採樣時間段，設置該樣本集合對應的採樣率；
s303，獲得多個根據採樣率採樣後的樣本集合；
s304，分別確定所述多個採樣後的樣本集合的重要程度值；
s305，利用該重要程度值修正所述多個採樣後的樣本集合中的每一個樣 本數據，獲得修正後的樣本數據；
上述步驟s301至s305可以與第一實施例公開的步驟s101至s105相同或相似，也可以與第二實施例公開的步驟s201至s205相同或相似，在此不再贅述。
本實施例還可以包括如下步驟：
s306，將每一個所述修正後的樣本數據輸入機器學習系統，對該機器學習系統進行訓練。
在這一步驟中，可以將修正後的樣本數據輸入機器學習系統，對該機器學習系統進行訓練。在訓練中，首先對損失函數求導，計算出梯度，再結合初始的權重以及設置的步長，根據公式「新的權重＝舊的權重+步長*梯度」通過迭代的方式計算出接近最優解的權重值。
這一步驟可以包括如下子步驟：
s306a，計算出每一個所述修正後的樣本數據的梯度；
s306b，降低每一個所述樣本數據的梯度的精度；
s306c，將降低精度後的梯度輸入所述機器學習系統，對該機器模型進行訓練。
在步驟s306a中，可以首先計算每一個修正後的樣本數據的梯度，該梯度為損失函數的導數，通過對損失函數求導，可以獲得梯度。
在步驟s306b中，機器學習系統的訓練一般採用梯度下降法，每一臺機器都需要計算出梯度。如果儲存1個梯度需要8byte(字節)，則100億個梯度需要10000000000*8/1024/1024/1024＝74.5g的存儲空間。如果將儲存一個梯度的字節數壓縮至4byte，則100億的梯度僅僅需要32.25g內存。
在步驟s306b中，可以使用下述公式，減少每一個本數據的梯度的存儲字節，以實現降低精度：
x1＝floor(c*x+(rand)/d)/c
其中floor為向下取整；rand為產生0-d之間的浮點數；x1為低精度浮點數，例如為計算機存儲需要4個字節的float，在這裡表示減少後每一個所述樣本數據的梯度的存儲字節；x為高精度浮點數，例如為計算機存儲 需要8個字節的double，為減少前每一個所述樣本數據的梯度的存儲字節。
另外，通過利用rand函數引入隨機因素，來儘量降低浮點數的累計誤差。例如，利用(c*x+(rand)/d)的算法，讓x乘以一個固定的數，然後加上一個在0-1範圍內的浮點數，目的在於在引入隨機因素。c的值是個經驗值，例如可以為536870912。d例如可以為232-1，即2147483647，是rand函數所能產生的上限。
通過上述公式，可以實現將一個高精度的浮點數，轉成一個低精度的浮點數，並且儘可能減低累計誤差。
綜上所述，本申請第三實施例公開一種機器學習系統的訓練方法，在將樣本數據輸入機器學習系統之前對樣本數據進行處理，通過對不同樣本集合的重要程度值的設置，以及在降低梯度精度時的處理，在降低數據量的同時保證了重要數據的採用率和利用程度，在減輕機器的內存資源需求的同時儘量降低對機器學習系統的學習效果的影響。
第四實施例
本申請第四實施例提出一種機器學習系統的訓練系統，如圖4所示為本申請第四實施例的機器學習系統的訓練系統的方框圖，本實施例提出的機器學習系統的訓練系統利用多個樣本數據對機器學習系統進行訓練，所述訓練系統400包括：
第一獲取模塊401，用於獲得多個樣本集合，每個樣本集合包括對應取樣時間段內的樣本數據；
採樣率設置模塊402，用於根據每一個樣本集合對應的採樣時間段，設置該樣本集合對應的採樣率；
第二獲取模塊403，用於獲得多個根據採樣率採樣後的樣本集合；
重要程度值確定模塊404，用於分別設置所述多個採樣後的樣本集合的重要程度值；
樣本數據修正模塊405，用於利用該重要程度值修正所述多個採樣後的樣本集合中的每一個樣本數據，獲得修正後的樣本數據；
訓練模塊406，用於將每一個所述修正後的樣本數據輸入機器學習系統，對該機器學習系統進行訓練。
優選地，在本實施例中，所述樣本集合的採樣率隨著該樣本集合對應的取樣時間段從舊到新而增加。
綜上所述，本申請第四實施例公開一種機器學習系統的訓練系統，在將樣本數據輸入機器學習系統之前對樣本數據進行處理，降低數據量的同時保證了重要數據的採用率和利用程度，在減輕機器的內存資源需求的同時儘量降低對機器學習系統的學習效果的影響。
第五實施例
本申請第五實施例提出一種機器學習系統的訓練系統，如圖5所示為本申請第五實施例的機器學習系統的訓練系統的方框圖，本實施例提出的機器學習系統的訓練系統利用多個樣本數據對機器學習系統進行訓練，所述訓練系統500包括：
第一獲取模塊501，用於獲得多個樣本集合，每個樣本集合包括對應取樣時間段內的樣本數據；
採樣率設置模塊502，用於根據每一個樣本集合對應的採樣時間段，設置該樣本集合對應的採樣率；
第二獲取模塊503，用於獲得多個根據採樣率採樣後的樣本集合；
重要程度值確定模塊504，用於分別設置所述多個採樣後的樣本集合的重要程度值；
樣本數據修正模塊505，用於利用該重要程度值修正所述多個採樣後的樣本集合中的每一個樣本數據，獲得修正後的樣本數據；
訓練模塊506，用於將每一個所述修正後的樣本數據輸入機器學習系統，對該機器學習系統進行訓練。
在本實施例中，所述樣本數據修正模塊505用於：
將每一個所述重要程度值與對應的採樣後的樣本集合中的每一個樣本數據相乘，獲得修正後的樣本數據。
在本實施例中，所述重要程度值確定模塊504包括：
初次修正子模塊504a，用於基於對應的採樣率對所述採樣後的樣本集合的初始重要程度值進行修正，得到所述採樣後的樣本集合的重要程度值；
所述重要程度值和初始重要程度值為正比關係，和所述採樣後的樣本集合的採樣率為反比關係。
例如，所述初次修正子模塊可以按照下述公式初次設置每一個所述樣本集合的重要程度值：
y1＝y/a；
其中y1為對應於該樣本集合的設置後的重要程度值；
y為對應於該樣本集合的原始的重要程度值；
a為所述樣本集合的採樣率。
在本實施例中，所述重要程度值確定模塊504還可以包括：
二次修正子模塊504b，用於按照預置規則，提高最新的取樣時間段對應的樣本集合的重要程度值。
優選地，所述預置規則包括：
提高後的最新的取樣時間段對應的樣本集合的重要程度值與提高前的最新的取樣時間段對應的樣本集合的重要程度值成正比，並與樣本集合的總個數成正比。
例如，可以按照下述公式再次設置最新的取樣時間段對應的樣本集合的重要程度值：
z1＝z*b；
其中z1為對應於該樣本集合的再次設置後的重要程度值；
z為對應於該樣本集合的初次設置後的重要程度值；
b為樣本集合的總個數。
在本實施例中，所述樣本集合的採樣率隨著該樣本集合對應的取樣時間段從舊到新而增加。
綜上所述，本申請第五實施例公開一種機器學習系統的訓練系統，在將樣本數據輸入機器學習系統之前對樣本數據進行處理，通過對不同樣本集合 的重要程度值的設置，在降低數據量的同時保證了重要數據的採用率和利用程度，在減輕機器的內存資源需求的同時儘量降低對機器學習系統的學習效果的影響。
第六實施例
本申請第六實施例提出一種機器學習系統的訓練系統，如圖6所示為本申請第六實施例的機器學習系統的訓練系統的方框圖，本實施例提出的機器學習系統的訓練系統利用多個樣本數據對機器學習系統進行訓練，所述訓練系統600包括：
第一獲取模塊601，用於獲得多個樣本集合，每個樣本集合包括對應取樣時間段內的樣本數據；
採樣率設置模塊602，用於根據每一個樣本集合對應的採樣時間段，設置該樣本集合對應的採樣率；
第二獲取模塊603，用於獲得多個根據採樣率採樣後的樣本集合；
重要程度值確定模塊604，用於分別設置所述多個採樣後的樣本集合的重要程度值；
樣本數據修正模塊605，用於利用該重要程度值修正所述多個採樣後的樣本集合中的每一個樣本數據，獲得修正後的樣本數據；
訓練模塊606，用於將每一個所述修正後的樣本數據輸入機器學習系統，對該機器學習系統進行訓練。
在本實施例中，所述訓練模塊606包括：
計算子模塊606a，用於計算出每一個所述修正後的樣本數據的梯度；
精度降低子模塊606b，用於降低每一個所述梯度的精度；
訓練子模塊606c，用於將降低精度後的梯度輸入所述機器學習系統，對該機器模型進行訓練。
在本實施例中，所述精度降低子模塊606b用於：
利用下述公式，減少每一個梯度的存儲字節，以實現降低精度：
x1＝floor(c*x+(rand)/d)/c
其中floor為向下取整；rand為產生0-d之間的浮點數；x1為減少後的存儲字節數；x為減少前的存儲字節數。
綜上所述，本申請第六實施例公開一種機器學習系統的訓練系統，在將樣本數據輸入機器學習系統之前對樣本數據進行處理，通過對不同樣本集合的重要程度值的設置，以及在降低梯度精度時的處理，在降低數據量的同時保證了重要數據的採用率和利用程度，在減輕機器的內存資源需求的同時儘量降低對機器學習系統的學習效果的影響。
對於裝置實施例而言，由於其與方法實施例基本相似，所以描述的比較簡單，相關之處參見方法實施例的部分說明即可。
本說明書中的各個實施例均採用遞進的方式描述，每個實施例重點說明的都是與其他實施例的不同之處，各個實施例之間相同相似的部分互相參見即可。
本領域內的技術人員應明白，本申請實施例的實施例可提供為方法、裝置、或電腦程式產品。因此，本申請實施例可採用完全硬體實施例、完全軟體實施例、或結合軟體和硬體方面的實施例的形式。而且，本申請實施例可採用在一個或多個其中包含有計算機可用程序代碼的計算機可用存儲介質(包括但不限於磁碟存儲器、cd-rom、光學存儲器等)上實施的電腦程式產品的形式。
在一個典型的配置中，所述計算機設備包括一個或多個處理器(cpu)、輸入/輸出接口、網絡接口和內存。內存可能包括計算機可讀介質中的非永久性存儲器，隨機存取存儲器(ram)和/或非易失性內存等形式，如只讀存儲器(rom)或快閃記憶體(flashram)。內存是計算機可讀介質的示例。計算機可讀介質包括永久性和非永久性、可移動和非可移動媒體可以由任何方法或技術來實現信號存儲。信號可以是計算機可讀指令、數據結構、程序的模塊或其他數據。計算機的存儲介質的例子包括，但不限於相變內存(pram)、靜態隨機存取存儲器(sram)、動態隨機存取存儲器(dram)、其他類型的隨機存取存儲器(ram)、只讀存儲器 (rom)、電可擦除可編程只讀存儲器(eeprom)、快閃記憶體或其他內存技術、只讀光碟只讀存儲器(cd-rom)、數字多功能光碟(dvd)或其他光學存儲、磁盒式磁帶，磁帶磁磁碟存儲或其他磁性存儲設備或任何其他非傳輸介質，可用於存儲可以被計算設備訪問的信號。按照本文中的界定，計算機可讀介質不包括非持續性的電腦可讀媒體(transitorymedia)，如調製的數據信號和載波。
本申請實施例是參照根據本申請實施例的方法、終端設備(系統)、和電腦程式產品的流程圖和/或方框圖來描述的。應理解可由電腦程式指令實現流程圖和/或方框圖中的每一流程和/或方框、以及流程圖和/或方框圖中的流程和/或方框的結合。可提供這些電腦程式指令到通用計算機、專用計算機、嵌入式處理機或其他可編程數據處理終端設備的處理器以產生一個機器，使得通過計算機或其他可編程數據處理終端設備的處理器執行的指令產生用於實現在流程圖一個流程或多個流程和/或方框圖一個方框或多個方框中指定的功能的裝置。
這些電腦程式指令也可存儲在能引導計算機或其他可編程數據處理終端設備以特定方式工作的計算機可讀存儲器中，使得存儲在該計算機可讀存儲器中的指令產生包括指令裝置的製造品，該指令裝置實現在流程圖一個流程或多個流程和/或方框圖一個方框或多個方框中指定的功能。
這些電腦程式指令也可裝載到計算機或其他可編程數據處理終端設備上，使得在計算機或其他可編程終端設備上執行一系列操作步驟以產生計算機實現的處理，從而在計算機或其他可編程終端設備上執行的指令提供用於實現在流程圖一個流程或多個流程和/或方框圖一個方框或多個方框中指定的功能的步驟。
儘管已描述了本申請實施例的優選實施例，但本領域內的技術人員一旦得知了基本創造性概念，則可對這些實施例做出另外的變更和修改。所以，所附權利要求意欲解釋為包括優選實施例以及落入本申請實施例範圍的所有變更和修改。
最後，還需要說明的是，在本文中，諸如第一和第二等之類的關係術語 僅僅用來將一個實體或者操作與另一個實體或操作區分開來，而不一定要求或者暗示這些實體或操作之間存在任何這種實際的關係或者順序。而且，術語「包括」、「包含」或者其任何其他變體意在涵蓋非排他性的包含，從而使得包括一系列要素的過程、方法、物品或者終端設備不僅包括那些要素，而且還包括沒有明確列出的其他要素，或者是還包括為這種過程、方法、物品或者終端設備所固有的要素。在沒有更多限制的情況下，由語句「包括一個……」限定的要素，並不排除在包括所述要素的過程、方法、物品或者終端設備中還存在另外的相同要素。
以上對本申請所提供的一種機器學習系統的訓練方法和訓練系統，進行了詳細介紹，本文中應用了具體個例對本申請的原理及實施方式進行了闡述，以上實施例的說明只是用於幫助理解本申請的方法及其核心思想；同時，對於本領域的一般技術人員，依據本申請的思想，在具體實施方式及應用範圍上均會有改變之處，綜上所述，本說明書內容不應理解為對本申請的限制。