基於支持向量機正則化路徑的貝葉斯模型平均模型組合方法
2023-09-18 01:26:20 2
專利名稱:基於支持向量機正則化路徑的貝葉斯模型平均模型組合方法
技術領域:
在本發明涉及支持向量機正則化路徑上的模型組合,特別是一種基於貝葉斯模型平均的模型組合方法。
背景技術:
支持向量機(Support Vector Machine, SVM)是Vapnik等人提出的一種基於統計學習理論的機器學習方法,它以最大化分類間隔構造最優分類超平面來提高分類器的泛化能力,較好地解決了非線性、高維數、局部極小點等問題。與傳統的神經網絡學習方法相比, SVM具有結構風險最小,可以逼近任意函數且保證全局最優,適用於小樣本、非線性核高維建模的領域。目前,SVM已廣泛應用於手寫字識別、文本分類、語音識別等方面,並取得了良好的應用效果。對於2-分類支持向量機,已知訓練集
權利要求
1. 一種基於支持向量機正則化路徑的貝葉斯模型平均模型組合方法,該方法包括以下步驟步驟一,計算支持向量機2-分類模型的正則化路徑,得到初始模型集; 根據正則化路徑算法,在訓練數據集上運行正則化路徑算法,得到初始模型集Μ ,Μ={/Λ)\^ε
,M中的模型個數等於svmpath算法的迭代次數況,且況為伐!!!^!^及)),ι的取值範圍大概為W,6], 表示正類訓練樣本個數;I表示負類訓練樣本個數;步驟二,在得到的正則化路徑上應用貝葉斯公式求解模型的後驗概率; 模型/』的先驗被賦予一個簡單的高斯過程,高斯過程先驗的協方差矩陣是正定矩陣,作為SVM的核矩陣
全文摘要
本發明公開了一種基於支持向量機正則化路徑的貝葉斯模型平均模型組合方法,該方法包括以下步驟計算支持向量機2-分類模型的正則化路徑,得到初始模型集;在得到的正則化路徑上應用貝葉斯公式求解模型的後驗概率;貝葉斯模型平均預測;步驟四,得到預測輸出;與廣義近似交叉驗證方法相比,基於支持向量機正則化路徑的貝葉斯模型平均模型組合算法具有更低的分類誤差,在保證較高預測精確率的同時,較大的減少了運行時間並降低了操作複雜度。
文檔編號G06K9/62GK102208030SQ20111014924
公開日2011年10月5日 申請日期2011年6月3日 優先權日2011年6月3日
發明者廖士中, 趙寧, 趙志輝 申請人:天津大學