一種基於無監督特徵選擇的分類方法

2023-05-10 18:51:36

一種基於無監督特徵選擇的分類方法
【專利摘要】本發明公開了一種基於無監督特徵選擇的分類方法，將高維數據表述成相似圖形式，用信息理論度量學習（ITML）得到樣本點之間的距離，建立原高維數據的相似矩陣；接著對相似矩陣和其對應的對角矩陣，採用SM算法完成原始樣本集到特徵向量空間的映射；然後通過學習稀疏係數向量和MCFS得分，得到原始樣本集中每個屬性的權重係數，並選出最能表達原樣本信息的屬性；最後用支持向量機對特徵選擇後的數據建立分類模型，對駕駛員的疲勞狀況進行預測。本方法在建立分類模型前，對高維數據在保留數據簇結構的情況下進行特徵選擇，從而解決了維度災難給數據分類帶來的負面影響。
【專利說明】一種基於無監督特徵選擇的分類方法
【技術領域】
[0001]本發明涉 及信號處理、數據挖掘以及聚類分析等數據處理領域，具體涉及一種利用基於信息度量學習的無監督特徵選擇方法對高維數據進行降維，然後用支持向量機建立分類模型的方法。
【背景技術】
[0002]隨著網際網路和信息行業的不斷發展，經濟、電子信息、醫學、氣象等多個領域的數據信息也迎來了爆發式增長的階段,其中不乏海量的高維數據。如何對高維數據進行分類，以更好地發現潛在的有用信息，是數據挖掘領域的研究熱點。
[0003]分類是通過建立描述預先定義的數據類或概念集的分類器，預測數據類標號的過程，有助於我們更好地全面了解數據，廣泛應用於數據挖掘、機器學習、模式識別等領域，在電子商務等實際應用中創造了巨大的價值。
[0004]針對高維數據分類問題，傳統方法通常是先對數據進行特徵選擇，再建立分類模型。然而在特徵選擇的時候通常是通過某種評價標準來對高維數據的特徵進行重要性排序，忽略了不同的特徵之間可能存在的關聯，因此不能產生最優的特徵子集，從而不能得到最優的分類結果。

【發明內容】

[0005]本發明的目的在於針對現有技術的不足，提供一種基於無監督特徵選擇的分類方法。
[0006]本發明的目的是通過以下技術方案來實現的:一種基於無監督特徵選擇的分類方法，該方法包括以下步驟:
[0007](I)採集疲勞駕駛實驗中志願者的腦電圖，對腦電圖數據進行預處理，並進行特徵抽取和歸一化，得到樣本數據集；
[0008](2)將步驟I得到的樣本數據集表述成相似圖形式，並採用信息理論度量學習得
到到樣本數據集中不同樣本點之間的距離，即
【權利要求】
1.一種基於無監督特徵選擇的分類方法，其特徵在於，包括以下步驟: (1)採集疲勞駕駛實驗中志願者的腦電圖，對腦電圖數據進行預處理，並進行特徵抽取和歸一化，得到樣本數據集； (2)將步驟I得到的樣本數據集表述成相似圖形式，並採用信息理論度量學習得到樣本數據集中不同樣本點之間的距離，即
2.根據權利要求1所述基於無監督特徵選擇的分類方法，其特徵在於，所述步驟2中所述的相似矩陣的建立方法如下: (2.1)將樣本數據集表示成相似圖形式，具體方法為:若數據點為X = [X1, ，xj，將樣本數據集中的每個對象看作是圖的頂點V，將頂點間的相似度量化作相應頂點連接邊E的權值，得到一個基於相似度的無向加權圖G (V，E)，每個頂點只與k個相似度最高的點連邊，以簡化計算複雜度； (2.2)採用信息理論度量學習(ITML)算法計算相似圖中不同頂點的距離，其中馬氏距離的定義為
3.根據權利要求1所述基於無監督特徵選擇的分類方法，其特徵在於，所述步驟3中所述的樣本數據集到特徵向量空間的映射的方法具體如下: (3.1)定義一個對角矩陣D，其對角線上的數為W中對應行的和，即Dii = Σ JffiJ0則相似圖的非規格拉普拉斯矩陣L定義為L = D-W; (3.2)通過Ly= λ Dy計算得到拉普拉斯矩陣的前k個特徵向量,記為Y= Ly1,..., yk],完成了樣本數據集到特徵向量空間的映射。
4.根據權利要求1所述的基於無監督特徵選擇的分類方法，其特徵在於，所述步驟4中所述的得到每個維度對於樣本數據集的相關係數的方法具體如下:(4.1)根據步驟3得到的yi(i = l，2，...，k)，通過最小化擬合誤差公式
【文檔編號】G06K9/62GK103942568SQ201410166747
【公開日】2014年7月23日 申請日期:2014年4月22日 優先權日:2014年4月22日
【發明者】鄭寶芬, 蘇宏業, 羅林 申請人:浙江大學