基於支持向量回歸的時間序列預測方法及系統的製作方法
2023-05-10 04:17:26
專利名稱：基於支持向量回歸的時間序列預測方法及系統的製作方法
技術領域：
本申請涉及時間序列預測領域，特別是涉及一種基於支持向量回歸的時間序列預測方法及系統。
背景技術：
時間序列是一個有序的觀測數據序列，其體現了某個現象的某一個統計指標在時間上的分布情況，如某地區在10月1號至15號的用電負荷數據。時間序列預測方法則是利用已獲得的歷史時間序列集合，分析集合中的歷史數據的內在統計學特性和發展規律， 獲得預測數據以顯示數據的發展趨勢。目前常用的時間序列預測方法為基於單個SVR(Support Vector Regression，支持向量回歸)的時間預測方法，該方法首先從已有的時間序列數據集選取歷史數據，得出一個訓練數據集，其中訓練數據集包括多個已有的時間序列數據子集和與各個時間序列數據子集對應的預測值，任一時間序列數據子集和其對應的預測值為時間序列數據集中的歷史數據；其次，確定待構建的SVR模型的正則參數和高斯核參數，依據所述正則參數和高斯核參數，對訓練數據集進行訓練，構建SVR模型，之後選取t-d+Ι時刻至當前t時刻之間的 d個歷史數據作為SVR模型的輸入數據，預測t+Ι時刻的數據，其中d為時延；最後，將預測出的t+Ι時刻的數據加入到d個歷史數據中，且同時將d個歷史數據中最先獲得的數據刪除，重複上述步驟直至獲得被預測時刻的預測值，其中，最先獲得的數據為獲得時間最早的數據。即在預測t+2時刻的數據時將包含有t+Ι時刻的d個歷史數據作為SVR模型的輸入數據進行預測。也就是說在預測t+i時刻的數據時，將包含有t+i-Ι時刻的d個歷史數據作為SVR模型的輸入數據進行預測，這種預測方式稱為基於單個SVR模型的一步時間預測方法。然而，基於單個SVR模型的一步時間預測方法在一步預測過程中都會存在一個預測誤差，該預測誤差在數據預測的反覆迭代過程中，即多步預測過程會隨著預測次數的增加而累積，預測誤差的累積直接降低預測得出的數據的精確度。
發明內容
有鑑於此，本申請實施例公開一種基於支持向量回歸的時間序列預測方法及系統，以解決現有單個SVR模型的一步時間預測方法在預測過程中，預測次數的增加而累積， 預測誤差隨預測次數增加而累積，這種累積直接降低預測得出的數據的精確度的問題。技術方案如下基於本申請實施例的一方面，公開一種基於支持向量回歸的時間序列預測方法， 包括從已有的時間序列數據集中選取歷史數據，得出多個訓練數據集；確定待構建的SVR模型的正則參數和高斯核參數，依據所述正則參數和高斯核參數，分別對每個訓練數據集進行訓練，構建自身對應的支持向量回歸SVR模型；
選取t-Τ+Ι時刻至當前t時刻之間的T個歷史數據，其中，T為所述SVR模型的個數；在被預測時刻與當前時刻的第一差值小於等於所述SVR模型的個數的情況下，選取與所述第一差值對應的SVR模型，對所述T個歷史數據直接利用該SVR模型獲得被預測時刻的預測值。優選地，還包括在被預測時刻與當前時刻的第一差值大於所述SVR模型的個數的情況下，對所述τ個歷史數據利用多個SVR模型獲得被預測時刻的預測值。優選地，所述對T個歷史數據利用多個SVR模型直接獲得被預測時刻的預測值包括在被預測時刻與當前時刻的第一差值大於所述SVR模型的個數的情況下，利用選取的T 個歷史數據分別對應的SVR模型，得出T個歷史數據自身的預測值；將所述得出的T個歷史數據自身的預測值更新為選取的t-Τ+Ι時刻至當前t時刻之間的τ個歷史數據，並將所述第一差值與SVR模型的個數的第二差值作為被測時刻；判斷該被測時刻與當前時刻的差值是否大於所述SVR模型的個數，在所述差值小於等於所述SVR模型的個數的情況下，執行選取與所述第一差值對應的SVR模型，對所述 T個歷史數據直接利用該SVR模型獲得被預測時刻的預測值的步驟，在所述差值大於所述 SVR模型的個數的情況下，執行利用選取的T個歷史數據分別對應的SVR模型，得出T個歷史數據自身的預測值的步驟。優選地，採用交叉驗證方法，確定待構建的SVR模型的正則參數和高斯核參數。優選地，不同訓練數據集包括的時間序列數據子集個數不同。基於本申請實施例的另一方面，公開一種基於支持向量回歸的時間序列預測系統，其特徵在於，包括數據集得出模塊，用於從已有的時間序列數據集中選取歷史數據，得出多個訓練數據集；SVR模型構建模塊，用於確定待構建的SVR模型的正則參數和高斯核參數，依據所述正則參數和高斯核參數，分別對每個訓練數據集進行訓練，構建自身對應的支持向量回歸SVR模型；數據選取模塊，用於選取t-Τ+Ι時刻至當前t時刻之間的T個歷史數據，其中，T為所述SVR模型的個數；第一預測模塊，用於在被預測時刻與當前時刻的第一差值小於等於所述SVR模型的個數的情況下，選取與所述第一差值對應的SVR模型，對所述T個歷史數據直接利用該 SVR模型獲得被預測時刻的預測值。優選地，還包括第二預測模塊，用於在被預測時刻與當前時刻的第一差值大於所述SVR模型的個數的情況下，對所述T個歷史數據利用多個SVR模型獲得被預測時刻的預測值。優選地，所述第二預測模塊包括預測值得出單元，用於在被預測時刻與當前時刻的第一差值大於所述SVR模型的個數的情況下，利用選取的T個歷史數據分別對應的SVR模型，得出T個歷史數據自身的預測值；更新單元，用於將所述得出的T個歷史數據自身的預測值更新為選取的t-Τ+Ι時刻至當前t時刻之間的T個歷史數據，並將所述第一差值與SVR模型的個數的第二差值作為被測時刻；判斷單元，用於判斷該被測時刻與當前時刻的差值是否大於所述SVR模型的個數；觸發器，用於在所述差值小於等於所述SVR模型的個數的情況下，觸發所述第一預測模塊，在所述差值大於所述SVR模型的個數的情況下，觸發所述第二預測模塊。優選地，所述SVR模型構建模塊具體採用交叉驗證方法，確定待構建的SVR模型的正則參數和高斯核參數。優選地，數據集得出模塊得出的不同訓練數據集包括的時間序列數據子集個數不同。應用上述技術方案，在被預測時刻與當前時刻的第一差值小於等於SVR模型的個數的情況下，選取與差值對應的SVR模型，對選取的t-Τ+Ι時刻至當前t時刻之間的T個歷史數據，直接利用該SVR模型獲得被預測時刻的預測值。本申請的一步預測獲得預測值的方式相對於現有技術多步預測獲得被預測時刻的預測值的方式，預測誤差的累積減少，進而獲得預測值的精確度提高。
為了更清楚地說明本申請實施例或現有技術中的技術方案，下面將對實施例或現有技術描述中所需要使用的附圖作簡單地介紹，顯而易見地，下面描述中的附圖僅僅是本申請中記載的一些實施例，對於本領域普通技術人員來講，在不付出創造性勞動的前提下， 還可以根據這些附圖獲得其他的附圖。圖1為本申請實施例公開的基於支持向量回歸的時間序列預測方法的一種流程圖；圖2為本申請實施例公開的基於支持向量回歸的時間序列預測方法的另一種流程圖；圖3為本申請實施例公開的基於支持向量回歸的時間序列預測系統的一種結構示意圖；圖4為本申請實施例公開的基於支持向量回歸的時間序列預測系統的另一種結構示意圖；圖5為本申請實施例公開的基於支持向量回歸的時間序列預測系統中第二預測模塊的結構示意圖。
具體實施例方式為使本申請的上述目的、特徵和優點能夠更加明顯易懂，下面結合附圖和具體實施方式
對本申請作進一步詳細的說明。一個實施例請參閱圖1，示出了本申請一種在線業務請求識別方法實施例1的流程圖，可以包括以下步驟SlOl 從已有的時間序列數據集中選取歷史數據，得出多個訓練數據集。
其中，每個訓練數據集包括多個已有的時間序列數據子集和與各個時間序列數據子集對應的預測值，任一時間序列數據子集和其對應的預測值為所述時間序列數據集中的歷史數據。假設時間序列數據集中歷史數據為x(k)，k = 0，l，…，t_l，t為當前時刻，得出的訓練數據集的個數為T個，第j個訓練數據集可以用h表示，其中& ={ k,yk}Z+]_2，第 j個訓練數據集h包括t-d-j+l個時間序列數據子集uk，uk = [x(k-d+l)…x(k-l)x(k)] T e Rd，每個時間序列數據子集uk對應有一個預測值yk，yk = x(k+j) e R，R表示實數集，任一時間序列數據子集和其對應的預測值為所述時間序列數據集中的歷史數據，d為時延，表示每個時間序列數據子集Uk的樣本空間維數，d = T。上述多個訓練數據集中，由於不同訓練數據集的j取值不同，所以不同訓練數據集包括的時間序列數據子集個數不同。S102 確定待構建的SVR模型的正則參數和高斯核參數，依據所述正則參數和高斯核參數，分別對每個訓練數據集進行訓練，構建自身對應的支持向量回歸SVR模型。確定待構建的SVR模型的正則參數和高斯核參數可以採用現有方法，如交叉驗證方法確定正則參數和高斯核參數。對於任一訓練數據集進行訓練構建與其對應的SVR模型的過程與現有基於單個 SVR模型的一步時間預測方法中SVR模型的構建過程相同，以第j個訓練數據集h來說，即可以利用其內的時間序列數據子集Uk和每個時間序列數據子集Uk對應的yk進行訓練，獲得第j個訓練數據集^對應的第j個SVR模型，具體訓練過程不再加以闡述。S103 選取t-Τ+Ι時刻至當前t時刻之間的T個歷史數據。其中，選取的T個歷史數據分別為x(t_T+l)，…，x(t-l)，x(t)，其組成一個時間序列數據子集 Ut，ut = [χ (t-T+1)…X (t-1) X (t) ]τ。S104 判斷被預測時刻與當前時刻的第一差值是否大於SVR模型的個數，在被預測時刻與當前時刻的第一差值小於等於所述SVR模型的個數的情況下，執行步驟S105 ；在被預測時刻與當前時刻的第一差值大於所述SVR模型的個數的情況下，執行步驟S106。假設預測步長為τ，則被測時刻為t+ τ，被測時刻與當前時刻的第一差值則為預測步長τ。訓練數據集的個數為T個，則SVR模型的個數也為T個。因此，在判斷第一差值是否大於SVR模型的個數時，即可以通過判斷τ與T的大小來判斷。S105:選取與第一差值對應的SVR模型，對T個歷史數據直接利用該SVR模型獲得被預測時刻的預測值。其中選取與第一差值對應的SVR模型為選取第τ個SVR模型。再對T個歷史數據直接利用第τ個SVR模型獲得被預測時刻的預測值。S106 對T個歷史數據利用多個SVR模型獲得被預測時刻的預測值。步驟S106是在第一差值大於所述SVR模型的個數的情況下，利用多個SVR模型獲得被預測時刻的預測值，在此過程中需要對T個歷史數據以及被測時刻進行更新，在重新判斷被測時刻和當前時刻的差值是否大於SVR模型的個數，並在不同情況下執行不同過程，具體請參閱圖2。圖2為本申請實施例公開的基於支持向量回歸的時間序列預測方法的另一種流程圖，其在圖1基礎上，詳細介紹了步驟S106。步驟S106可以包括如下步驟
S1061 利用選取的T個歷史數據分別對應的SVR模型，得出T個歷史數據自身的
預測值。其中，T個歷史數據分別對應的SVR模型為歷史數據x(t_T+l)對應由訓練數據集SJII練得出的第1個SVR模型，歷史數據x(t_T+2)對應由訓練數據集&訓練得出的第
2個SVR模型，......，以此類推，歷史數據x(t)對應由訓練數據集&訓練得出的第T個
SVR模型。每個歷史數據分別使用自身對應的SVR模型進行預測，得出預測值。需要說明的是本步驟歷史數據在進行預測時，預測步長互不相同，歷史數據
x(t-T+l)的預測步長為1，歷史數據x(t-T+2)的預測步長為2，......，以此類推，歷史數據
x(t)的預測步長為Τ。T個歷史數據得出的預測值可以分別為4 + 1)3( + 2),···3( + Γ)。S1062:將所述得出的T個歷史數據自身的預測值更新為選取的t-T+1時刻至當前 t時刻之間的T個歷史數據，並將所述第一差值與SVR模型的個數的第二差值作為被測時刻。上述提及，第一差值為預測步長τ，則被測時刻為τ-Τ。S1063:判斷該被測時刻與當前時刻的差值是否大於所述SVR模型的個數，在所述差值小於等於所述SVR模型的個數的情況下，執行步驟S105 ；在所述差值大於所述SVR模型的個數的情況下，返回執行步驟S1061。應用上述技術方案，在被預測時刻與當前時刻的第一差值小於等於SVR模型的個數的情況下，選取與差值對應的SVR模型，對選取的t-Τ+Ι時刻至當前t時刻之間的T個歷史數據，直接利用該SVR模型獲得被預測時刻的預測值。本申請的一步預測獲得預測值的方式相對於現有技術多步預測獲得被預測時刻的預測值的方式，預測誤差的累積減少，進而獲得預測值的精確度提高。更進一步地，在被預測時刻與當前時刻的第一差值大於SVR模型的個數的情況下，T個歷史數據分別使用自身對應的SVR模型進行預測，得出T個預測值。同時將T個歷史數據更新為T個預測值，將第一差值與SVR模型的個數的第二差值作為被測時刻，在重新判斷被測時刻與當前時刻的差值是否大於所述SVR模型的個數，直至差值小於等於SVR模型的個數。雖然，上述步驟導致了預測誤差的累積，但是該預測誤差累積小於現有單個SVR 模型的一步時間預測方法中預測誤差的累積，同樣可以提高預測值的精確度。下面通過實驗對比結果驗證本申請實施例提供的基於支持向量回歸的時間序列預測方法的有效性。仿真數據產生自Mackey-Glass時序系統，Mackey-Glass時序系統是一個時延的
dx… 0.2x(t-S)
非線性微分系統，其形式為1 = -0.1坊)+1 + 『 —彳。。其中，δ = 17。產生1000個歷史數
據，令時延d = 6，則T = 6。從k = 5開始獲取歷史數據，第一個時間序列數據子集為U5 = [x (0) "·χ (4) χ (5) ]τ，依此類推，6個SVR模型對應的訓練數據集h的大小為994，993，992， 991,990和989。分別取前600個歷史數據構成訓練訓練集。。實驗分別進行五步預測、十步預測和一百步預測，S卩τ = 5，τ = 10和τ = 100。 實驗採用兩種方式構建SVR模型，一種是每個時間序列數據子集Uk對應的預測值yk中未加入噪聲，一種是預測值yk中加白噪聲，信噪比為3 1。SVR模型的參數設置為正則參數C = 10，高斯核參數為0. 25。本實驗對6個SVR模型分別進行訓練，然後對不同預測步長計算得出預測值。在本實施例中若τ =5，預測步長，即第一差值小於SVR模型的個數，因此，本實驗可以直接採用第5個SVR模型進行預測得出預測值。而對於τ =10和τ = 100，本實驗採用多個SVR模型進行預測得出預測值。本實驗是對50次預測的平均，其校驗性能參數包括均方差和檢驗時間，實驗結果請參見表1。表1 檢驗性能對比
權利要求
1.一種基於支持向量回歸的時間序列預測方法，其特徵在於，包括從已有的時間序列數據集中選取歷史數據，得出多個訓練數據集；確定待構建的SVR模型的正則參數和高斯核參數，依據所述正則參數和高斯核參數， 分別對每個訓練數據集進行訓練，構建自身對應的支持向量回歸SVR模型；選取t-Τ+Ι時刻至當前t時刻之間的T個歷史數據，其中，T為所述SVR模型的個數；在被預測時刻與當前時刻的第一差值小於等於所述SVR模型的個數的情況下，選取與所述第一差值對應的SVR模型，對所述T個歷史數據直接利用該SVR模型獲得被預測時刻的預測值。
2.根據權利要求1所述的基於支持向量回歸的時間序列預測方法，其特徵在於，還包括在被預測時刻與當前時刻的第一差值大於所述SVR模型的個數的情況下，對所述T個歷史數據利用多個SVR模型獲得被預測時刻的預測值。
3.根據權利要求2所述的基於支持向量回歸的時間序列預測方法，其特徵在於，所述對T個歷史數據利用多個SVR模型直接獲得被預測時刻的預測值包括在被預測時刻與當前時刻的第一差值大於所述SVR模型的個數的情況下，利用選取的T個歷史數據分別對應的SVR模型，得出T個歷史數據自身的預測值；將所述得出的T個歷史數據自身的預測值更新為選取的t-Τ+Ι時刻至當前t時刻之間的T個歷史數據，並將所述第一差值與SVR模型的個數的第二差值作為被測時刻；判斷該被測時刻與當前時刻的差值是否大於所述SVR模型的個數，在所述差值小於等於所述SVR模型的個數的情況下，執行選取與所述第一差值對應的SVR模型，對所述T個歷史數據直接利用該SVR模型獲得被預測時刻的預測值的步驟，在所述差值大於所述SVR模型的個數的情況下，執行利用選取的T個歷史數據分別對應的SVR模型，得出T個歷史數據自身的預測值的步驟。
4.根據權利要求1至3任意一項所述的基於支持向量回歸的時間序列預測方法，其特徵在於，採用交叉驗證方法，確定待構建的SVR模型的正則參數和高斯核參數。
5.根據權利要求1至3任意一項所述的基於支持向量回歸的時間序列預測方法，其特徵在於，不同訓練數據集包括的時間序列數據子集個數不同。
6.一種基於支持向量回歸的時間序列預測系統，其特徵在於，包括數據集得出模塊，用於從已有的時間序列數據集中選取歷史數據，得出多個訓練數據集；SVR模型構建模塊，用於確定待構建的SVR模型的正則參數和高斯核參數，依據所述正則參數和高斯核參數，分別對每個訓練數據集進行訓練，構建自身對應的支持向量回歸SVR 模型；數據選取模塊，用於選取t-Τ+Ι時刻至當前t時刻之間的T個歷史數據，其中，T為所述SVR模型的個數；第一預測模塊，用於在被預測時刻與當前時刻的第一差值小於等於所述SVR模型的個數的情況下，選取與所述第一差值對應的SVR模型，對所述T個歷史數據直接利用該SVR模型獲得被預測時刻的預測值。
7.根據權利要求6所述的基於支持向量回歸的時間序列預測系統，其特徵在於，還包括第二預測模塊，用於在被預測時刻與當前時刻的第一差值大於所述SVR模型的個數的情況下，對所述T個歷史數據利用多個SVR模型獲得被預測時刻的預測值。
8.根據權利要求7所述的基於支持向量回歸的時間序列預測系統，其特徵在於，所述第二預測模塊包括預測值得出單元，用於在被預測時刻與當前時刻的第一差值大於所述SVR模型的個數的情況下，利用選取的T個歷史數據分別對應的SVR模型，得出T個歷史數據自身的預測值；更新單元，用於將所述得出的T個歷史數據自身的預測值更新為選取的t-Τ+Ι時刻至當前t時刻之間的T個歷史數據，並將所述第一差值與SVR模型的個數的第二差值作為被測時刻；判斷單元，用於判斷該被測時刻與當前時刻的差值是否大於所述SVR模型的個數；觸發器，用於在所述差值小於等於所述SVR模型的個數的情況下，觸發所述第一預測模塊，在所述差值大於所述SVR模型的個數的情況下，觸發所述第二預測模塊。
9.根據權利要求6至8任意一項所述的基於支持向量回歸的時間序列預測系統，其特徵在於，所述SVR模型構建模塊具體採用交叉驗證方法，確定待構建的SVR模型的正則參數和高斯核參數。
10.根據權利要求6至8任意一項所述的基於支持向量回歸的時間序列預測系統，其特徵在於，數據集得出模塊得出的不同訓練數據集包括的時間序列數據子集個數不同。
全文摘要
本申請公開了一種基於支持向量回歸的時間序列預測方法及系統。一種基於支持向量回歸的時間序列預測方法，包括從已有的時間序列數據集中選取歷史數據，得出多個訓練數據集；確定待構建的SVR模型的正則參數和高斯核參數，構建每個訓練數據集對應的支持向量回歸SVR模型；選取t-T+1時刻至當前t時刻之間的T個歷史數據；在被預測時刻與當前時刻的第一差值小於等於SVR模型的個數的情況下，選取與所述第一差值對應的SVR模型，對T個歷史數據直接利用該SVR模型獲得被預測時刻的預測值。本申請的一步預測獲得預測值的方式相對於現有技術多步預測獲得被預測時刻的預測值的方式，預測誤差的累積減少，進而獲得預測值的精確度提高。
文檔編號G06F17/30GK102360388SQ20111032048
公開日2012年2月22日 申請日期2011年10月20日 優先權日2011年10月20日
發明者何書萍, 周偉達, 張莉, 李凡長, 楊季文, 王邦軍 申請人:蘇州大學