偽標籤模型的訓練方法、裝置、存儲介質及電子設備與流程
2023-10-27 22:08:10 4
1.本發明涉及網際網路領域，具體而言，涉及一種偽標籤模型的訓練方法、裝置、存儲介質及電子設備。
背景技術：
2.隨著移動網際網路的發展，行動電話已經是人們日常生活中不可或缺的一部分。然而，近年來電話詐騙時常湧現。欺詐行為將損害用戶利益，同時影響運營商的信譽，造成客戶流失，因此檢測出欺詐用戶並予以處理能夠有效地避免損失。隨著機器學習的廣泛應用，現如今湧現出了一些基於機器學習的詐騙用戶識別模型，其基本方法是通過構建用戶之間的通話關係網再藉助機器學習進行欺詐用戶識別。然而現有的基於機器學習欺詐分類模型大多基於監督學習的方法，需要獲取大量的有標籤數據，即明確標記為欺詐用戶和正常用戶的數據，然後在理想的環境下進行有監督學習。而在真實場景中，被明確標記的欺詐用戶數量是有限的，絕大部分獲取的是無標籤的數據，這將限制監督學習模型的應用。
3.在詐騙識別系統的設計中，獲取的實時樣本數據非常龐大，具有豐富的語義信息，但其中大部分均為無標籤數據。目前，研究者主要通過基於監督學習的方法來識別欺詐用戶，這種方法在進行模型訓練時，會將無標籤數據忽略，因此會導致兩個問題：1)容易造成模型過擬合，2)無法利用利用海量無標籤數據中所蘊含的重要語義信息。
4.針對上述無法利用無標籤數據進行模型訓練的問題，目前尚未提出有效的解決方案。
技術實現要素：
5.本發明實施例提供了一種偽標籤模型的訓練方法、裝置、存儲介質及電子設備，以至少解決無法利用無標籤數據進行模型訓練的技術問題。
6.根據本發明實施例的一個方面，提供了一種偽標籤模型的訓練方法，包括：獲取多個樣本通信關係數據，其中，每個所述樣本通信關係數據用於表示已添加樣本標籤的一組通信對象之間的通信關係；使用第一分類模型對所述樣本通信關係數據進行分析，生成第一分類標籤，其中，所述第一分類模型為使用乾淨標籤數據通過機器學習訓練出的，所述乾淨標籤數據為已添加預設標籤的預設通信關係數據；使用第二分類模型對所述樣本通信關係數據進行分析，生成第二分類標籤，其中，所述第二分類模型為使用混合數據通過機器學習訓練出的，所述混合數據包括：所述乾淨標籤數據、噪聲標籤數據和無標籤數據，所述噪聲標籤數據為已添加噪聲標籤的預設關係數據，所述噪聲標籤為所述預設標籤的幹擾，所述無標籤數據為未添加標籤的預設通信關係數據；確定所述樣本標籤與所述第二分類標籤的差異為第一差異，確定所述第一分類標籤與所述第二分類標籤的差異為第二差異；使用預設損失函數模型對所述第一差異和所述第二差異進行分析，確定偽標籤模型，其中，所述預設損失函數模型用於為所述第一差異和所述第二差異分配預設信任權重，並基於所述第一差異、所述第二差異，以及預設信任權重定義所述偽標籤模型，所述偽標籤模型用於為所
述無標籤數據和所述噪聲標籤數據添加所述預設標籤。
7.可選地，獲取多個樣本通信關係數據包括：獲取預設通信關係網絡，其中，所述預設通信關係網絡記錄有多個預設通信關係數據，每個所述預設通信關係數據用於表示一組通信對象之間的通信關係；在所述預設通信關係網絡中，確定具有所述預設標籤的預設通信關係數據為所述乾淨標籤數據；從所述乾淨標籤數據中選取所述樣本通信關係數據。
8.可選地，在從所述乾淨標籤數據中選取所述樣本通信關係數據之後，所述方法還包括：將所述樣本通信關係數據以外的乾淨標籤數據確定為訓練所述第一分類模型的乾淨標籤數據。
9.可選地，確定所述樣本標籤與所述第二分類標籤的差異為第一差異，確定所述第一分類標籤與所述第二分類標籤的差異為第二差異包括：使用預設交叉熵損失函數確定所述樣本標籤相對於所述第二分類標籤的損失為第一差異；使用所述預設交叉熵損失函數確定第一分類標籤相對於所述第二分類標籤的損失為第二差異。
10.可選地，所述預設信任權重包括：第一信任權重和第二信任權重，使用預設損失函數模型對所述第一差異和所述第二差異進行分析，確定偽標籤模型包括：分析所述樣本標籤與所述第二分類標籤的差異，確定對所述第一分類模型的信任程度；根據所述信任程度為所述第一差異分配所述第一信任權重；根據所述信任程度為所述第二差異分配所述第二信任權重；根據所述第一差異與所述第一信任權重的乘積，和所述第二差異與第二信任權重的乘積，確定所述偽標籤模型。
11.可選地，分析所述樣本標籤與所述第二分類標籤的差異，確定對所述第一分類模型的信任程度包括：分析所述樣本標籤與所述第二分類標籤的差異，確定所述第一分類標籤符合所述樣本標籤的標籤符合概率；根據所述標籤符合概率確定對所述第一分類模型的信任程度。
12.可選地，在使用預設損失函數模型對所述第一差異和所述第二差異進行分析，確定偽標籤模型之後，所述方法還包括：使用所述偽標籤模型為所述無標籤數據和所述噪聲標籤數據添加偽標籤，生成偽標籤數據；將所述偽標籤數據和所述乾淨標籤數據作為訓練數據，訓練預設分類模型，其中，所述預設分類模型用於對目標通信關係數據進行分析，確定所述目標通信關係數據的目標標籤。
13.根據本發明實施例的另一方面，還提供了一種偽標籤模型的訓練裝置，包括：獲取模塊，用於獲取多個樣本通信關係數據，其中，每個所述樣本通信關係數據用於表示已添加樣本標籤的一組通信對象之間的通信關係；第一分析模塊，用於使用第一分類模型對所述樣本通信關係數據進行分析，生成第一分類標籤，其中，所述第一分類模型為使用乾淨標籤數據通過機器學習訓練出的，所述乾淨標籤數據為已添加預設標籤的預設通信關係數據；第二分析模塊，用於使用第二分類模型對所述樣本通信關係數據進行分析，生成第二分類標籤，其中，所述第二分類模型為使用混合數據通過機器學習訓練出的，所述混合數據包括：所述乾淨標籤數據、噪聲標籤數據和無標籤數據，所述噪聲標籤數據為已添加噪聲標籤的預設關係數據，所述噪聲標籤為所述預設標籤的幹擾，所述無標籤數據為未添加標籤的預設通信關係數據；確定模塊，用於確定所述樣本標籤與所述第二分類標籤的差異為第一差異，確定所述第一分類標籤與所述第二分類標籤的差異為第二差異；第三分析模塊，用於使用預設損失函數模型對所述第一差異和所述第二差異進行分析，確定偽標籤模型，其中，
所述預設損失函數模型用於為所述第一差異和所述第二差異分配預設信任權重，並基於所述第一差異、所述第二差異，以及預設信任權重定義所述偽標籤模型，所述偽標籤模型用於為所述無標籤數據和所述噪聲標籤數據添加所述預設標籤。
14.根據本發明實施例的另一方面，還提供了一種非易失性存儲介質，其特徵在於，所述非易失性存儲介質中存儲有程序，其中，在所述程序運行時控制所述非易失性存儲介質所在設備執行上述所述偽標籤模型的訓練方法。
15.根據本發明實施例的另一方面，還提供了一種電子設備，其特徵在於，包括：存儲器和處理器，所述處理器用於運行存儲在所述存儲器中的程序，其中，所述程序運行時執行上述所述的偽標籤模型的訓練方法。
16.在本發明實施例中，獲取多個樣本通信關係數據，其中，每個樣本通信關係數據用於表示已添加樣本標籤的一組通信對象之間的通信關係；使用第一分類模型對樣本通信關係數據進行分析，生成第一分類標籤，其中，第一分類模型為使用乾淨標籤數據通過機器學習訓練出的，乾淨標籤數據為已添加預設標籤的預設通信關係數據；使用第二分類模型對樣本通信關係數據進行分析，生成第二分類標籤，其中，第二分類模型為使用混合數據通過機器學習訓練出的，混合數據包括：乾淨標籤數據、噪聲標籤數據和無標籤數據，噪聲標籤數據為已添加噪聲標籤的預設關係數據，噪聲標籤為預設標籤的幹擾，無標籤數據為未添加標籤的預設通信關係數據；確定樣本標籤與第二分類標籤的差異為第一差異，確定第一分類標籤與第二分類標籤的差異為第二差異；使用預設損失函數模型對第一差異和第二差異進行分析，確定偽標籤模型，其中，預設損失函數模型用於為第一差異和第二差異分配預設信任權重，並基於第一差異、第二差異，以及預設信任權重定義偽標籤模型，偽標籤模型用於為無標籤數據和噪聲標籤數據添加預設標籤，通過偽標籤模型為無標籤數據和噪聲標籤數據添加偽標籤，生成偽標籤數據，然後再利用乾淨標籤數據和偽標籤數據共同進行模型訓練，從而實現了利用無標籤數據進行模型訓練的技術效果，進而解決了無法利用無標籤數據進行模型訓練技術問題。
附圖說明
17.此處所說明的附圖用來提供對本發明的進一步理解，構成本技術的一部分，本發明的示意性實施例及其說明用於解釋本發明，並不構成對本發明的不當限定。在附圖中：
18.圖1是根據本發明實施例的一種偽標籤模型的訓練方法的流程圖；
19.圖2是根據本發明實施例的一種基於偽標籤技術訓練預設分類模型的示意圖；
20.圖3是根據本發明實施例的一種構建時空異構通話網絡的示意圖；
21.圖4是根據本發明實施例的一種利用條件信任訓練生成偽標籤的示意圖；
22.圖5是根據本發明實施例的一種偽標籤模型的訓練裝置的示意圖；
23.圖6是根據本發明實施例的一種計算機終端的結構框圖。
具體實施方式
24.為了使本技術領域的人員更好地理解本發明方案，下面將結合本發明實施例中的附圖，對本發明實施例中的技術方案進行清楚、完整地描述，顯然，所描述的實施例僅僅是本發明一部分的實施例，而不是全部的實施例。基於本發明中的實施例，本領域普通技術人
員在沒有做出創造性勞動前提下所獲得的所有其他實施例，都應當屬於本發明保護的範圍。
25.需要說明的是，本發明的說明書和權利要求書及上述附圖中的術語「第一」、「第二」等是用於區別類似的對象，而不必用於描述特定的順序或先後次序。應該理解這樣使用的數據在適當情況下可以互換，以便這裡描述的本發明的實施例能夠以除了在這裡圖示或描述的那些以外的順序實施。此外，術語「包括」和「具有」以及他們的任何變形，意圖在於覆蓋不排他的包含，例如，包含了一系列步驟或單元的過程、方法、系統、產品或設備不必限於清楚地列出的那些步驟或單元，而是可包括沒有清楚地列出的或對於這些過程、方法、產品或設備固有的其它步驟或單元。
26.根據本發明實施例，提供了一種偽標籤模型的訓練方法實施例，需要說明的是，在附圖的流程圖示出的步驟可以在諸如一組計算機可執行指令的計算機系統中執行，並且，雖然在流程圖中示出了邏輯順序，但是在某些情況下，可以以不同於此處的順序執行所示出或描述的步驟。
27.圖1是根據本發明實施例的一種偽標籤模型的訓練方法的流程圖，如圖1所示，該方法包括如下步驟：
28.步驟s102，獲取多個樣本通信關係數據，其中，每個樣本通信關係數據用於表示已添加樣本標籤的一組通信對象之間的通信關係；
29.步驟s104，使用第一分類模型對樣本通信關係數據進行分析，生成第一分類標籤，其中，第一分類模型為使用乾淨標籤數據通過機器學習訓練出的，乾淨標籤數據為已添加預設標籤的預設通信關係數據；
30.步驟s106，使用第二分類模型對樣本通信關係數據進行分析，生成第二分類標籤，其中，第二分類模型為使用混合數據通過機器學習訓練出的，混合數據包括：乾淨標籤數據、噪聲標籤數據和無標籤數據，噪聲標籤數據為已添加噪聲標籤的預設關係數據，噪聲標籤為預設標籤的幹擾，無標籤數據為未添加標籤的預設通信關係數據；
31.步驟s108，確定樣本標籤與第二分類標籤的差異為第一差異，確定第一分類標籤與第二分類標籤的差異為第二差異；
32.步驟s110，使用預設損失函數模型對第一差異和第二差異進行分析，確定偽標籤模型，其中，預設損失函數模型用於為第一差異和第二差異分配預設信任權重，並基於第一差異、第二差異，以及預設信任權重定義偽標籤模型，偽標籤模型用於為無標籤數據和噪聲標籤數據添加預設標籤。
33.在本發明實施例中，獲取多個樣本通信關係數據，其中，每個樣本通信關係數據用於表示已添加樣本標籤的一組通信對象之間的通信關係；使用第一分類模型對樣本通信關係數據進行分析，生成第一分類標籤，其中，第一分類模型為使用乾淨標籤數據通過機器學習訓練出的，乾淨標籤數據為已添加預設標籤的預設通信關係數據；使用第二分類模型對樣本通信關係數據進行分析，生成第二分類標籤，其中，第二分類模型為使用混合數據通過機器學習訓練出的，混合數據包括：乾淨標籤數據、噪聲標籤數據和無標籤數據，噪聲標籤數據為已添加噪聲標籤的預設關係數據，噪聲標籤為預設標籤的幹擾，無標籤數據為未添加標籤的預設通信關係數據；確定樣本標籤與第二分類標籤的差異為第一差異，確定第一分類標籤與第二分類標籤的差異為第二差異；使用預設損失函數模型對第一差異和第二差
異進行分析，確定偽標籤模型，其中，預設損失函數模型用於為第一差異和第二差異分配預設信任權重，並基於第一差異、第二差異，以及預設信任權重定義偽標籤模型，偽標籤模型用於為無標籤數據和噪聲標籤數據添加預設標籤，通過偽標籤模型為無標籤數據和噪聲標籤數據添加偽標籤，生成偽標籤數據，然後再利用乾淨標籤數據和偽標籤數據共同進行模型訓練，從而實現了利用無標籤數據進行模型訓練的技術效果，進而解決了無法利用無標籤數據進行模型訓練技術問題。
34.在上述步驟s102中，樣本標籤用於表示樣本通信數據的性質，例如，樣本標籤用於表示該樣本通信數據為詐騙通信數據，或非詐騙通信數據。
35.在上述步驟s102中，通信對象為用戶或設備，樣本通信關係數據，用於表示作為樣本的用戶與用戶的通信關係或呼叫關係，以及作為樣本的用戶與設備的通信關係或呼叫關係。
36.作為一種可選的實施例，獲取多個樣本通信關係數據包括：獲取預設通信關係網絡，其中，預設通信關係網絡記錄有多個預設通信關係數據，每個預設通信關係數據用於表示一組通信對象之間的通信關係；在預設通信關係網絡中，確定具有預設標籤的預設通信關係數據為乾淨標籤數據；從乾淨標籤數據中選取樣本通信關係數據。
37.可選地，預設通信關係網絡中記錄有預設通信關係數據，該預設通信關係數據包括已添加了標籤的預設通信關係數據和未添加標籤的預設通信關係數據，確定未添加標籤的預設通信關係數據為無標籤數據。
38.可選地，識別已添加了標籤的預設通信關係數據中通信雙方的預設通信對象，判斷該預設通信對象是否存在於預設白名單或預設黑名單中，若通信雙方的預設通信對象存在於預設白名單或預設黑名單中的情況下，確定該預設通信關係數據為乾淨標籤數據；若通信雙方的預設通信對象存在於預設白名單或預設黑名單中的情況下，確定該預設通信關係數據為噪聲標籤數據。
39.本發明上述實施例，可以從乾淨標籤數據中選取樣本通信關係數據。
40.作為一種可選的實施例，在從乾淨標籤數據中選取樣本通信關係數據之後，方法還包括：將樣本通信關係數據以外的乾淨標籤數據確定為訓練第一分類模型的乾淨標籤數據。
41.本發明上述實施例，可以從乾淨標籤數據中選取部分乾淨標籤數據作為樣本通信關係數據；將乾淨標籤數據中剩餘部分的幹將標籤數據作為訓練第一分類模型的乾淨標籤數據，進而基於部分乾淨標籤數據訓練第一分類模型，基於樣本通信關係數據對第一分類模型進行測試，進而訓練偽標籤模型。
42.作為一種可選的實施例，確定樣本標籤與第二分類標籤的差異為第一差異，確定第一分類標籤與第二分類標籤的差異為第二差異包括：使用預設交叉熵損失函數確定樣本標籤相對於第二分類標籤的損失為第一差異；使用預設交叉熵損失函數確定第一分類標籤相對於第二分類標籤的損失為第二差異。
43.本發明上述實施例，使用預設交叉熵損失函數確定樣本標籤yi相對於第二分類標籤f(xi)的損失l(yi,f(xi))為第一差異，使用預設交叉熵損失函數確定第一分類標籤si相對於第二分類標籤f(xi)的損失l(si,f(xi))為第二差異。
44.作為一種可選的實施例，預設信任權重包括：第一信任權重和第二信任權重，使用
預設損失函數模型對第一差異和第二差異進行分析，確定偽標籤模型包括：分析樣本標籤與第二分類標籤的差異，確定對第一分類模型的信任程度；根據信任程度為第一差異分配第一信任權重；根據信任程度為第二差異分配第二信任權重；根據第一差異與第一信任權重的乘積，和第二差異與第二信任權重的乘積，確定偽標籤模型。
45.本發明上述實施例，根據樣本標籤與第二分類標籤的差異，確定第一分類模型的信任程度，進而根據該信任程度分別為第一差異分配第一信任權重，為第二差異分配第二信任權重，並將第一差異與第一信任權重的乘積，和第二差異與第二信任權重的乘積確定為預設損失函數模型，進而根據預設損失函數模型，可以定義偽標籤模型。
46.作為一種可選的實施例，分析所述樣本標籤與所述第二分類標籤的差異，確定對第一分類模型的信任程度包括：分析所述樣本標籤與所述第二分類標籤的差異，確定第一分類標籤符合樣本標籤的標籤符合概率；根據標籤符合概率確定對第一分類模型的信任程度。
47.本發明上述實施例，標籤符合概率用於表示第二分類模型對目標通信關係數據進行分析得到的第一分類標籤，與目標通信關係預先添加的目標標籤相同的概率，根據該標籤符合概率，可以確定對第一分類模型的信任程度，即確定si。
48.可選地，預設損失函數模型為：ld(yi,f(xi))＝s
iγ
l(yi,f(xi))+(1-siγ)l(si,f(xi))，其中，yi是樣本標籤，si為第一分類標籤，f(xi)為第二分類標籤，l是交叉熵損失函數，l(yi,f(xi))為第一差異，l(si,f(xi))為第二差異，si為標籤符合概率，s
iγ
為第一信任權重，(1-si)
γ
為第二信任權重，γ∈(0,1)，即si越大，越信任輔助判斷模型(即第二分類模型)，反之則降低輔助模型(即第二分類模型)的權重。
49.作為一種可選的實施例，在使用預設損失函數模型對第一差異和第二差異進行分析，確定偽標籤模型之後，方法還包括：使用偽標籤模型為無標籤數據和噪聲標籤數據添加偽標籤，生成偽標籤數據；將偽標籤數據和乾淨標籤數據作為訓練數據，訓練預設分類模型，其中，預設分類模型用於對目標通信關係數據進行分析，確定目標通信關係數據的目標標籤。
50.本發明上述實施例，利用偽標籤模型，可以為無標籤數據和噪聲標籤數據添加偽標籤，並將偽標籤數據和乾淨標籤數據作為預設分類模型的訓練數據，進而根據訓練好的預設分類模型對目標通信關係數據進行分析，確定目標通信關係數據的目標標籤，實現了利用無標籤數據進行模型訓練的技術效果，進而解決了無法利用無標籤數據進行模型訓練技術問題。
51.本發明還提供了一種優選實施例，該優選實施例提供了一種基於偽標籤技術的詐騙用戶識別方法。
52.為了充分地利用標籤數據和無標籤數據的語義信息，本技術提出了一種基於偽標籤技術的詐騙用戶識別方法，通過有標籤數據所訓練的模型對未標記的數據進行標註，根據標註結果對樣本進行篩選，再重新訓練，以提升模型的性能，通過魯棒性的偽標籤生成技術可以用來緩解詐騙用戶識別中數據標籤不足的問題。
53.本發明提供的技術方案，利用收集原始數據構建出通話用戶關係網絡，然後從網絡中篩選出標籤純淨子圖(即乾淨標籤數據)，並利用純淨子圖訓練分類模型fc(即第一分類模型)；再利用提出的條件信任學習框架(即偽標籤模型)生成魯棒性偽標籤，最後訓練分
類模型fa(即預設分類模型)，過生成魯棒性的偽標籤，輔助模型進一步訓練，提升檢測性能；通過條件信任學習框架(即預設損失函數模型)利用標籤數據(即乾淨標籤數據)和無標籤數據的語義信息，從而生成更加魯棒性偽標籤。
54.圖2是根據本發明實施例的一種基於偽標籤技術訓練預設分類模型的示意圖，如圖2所示，包括步驟如下：
55.s21，數據預處理。
56.s22，構建時空異構通話網絡。
57.s23，篩選出一個純淨標籤子圖(即確定乾淨標籤數據)。
58.s24，訓練分類模型fc(即訓練第一分類模型)。
59.s25，條件信任學習，生成偽標籤。
60.s26，訓練分類模型fa(即訓練預設分類模型)。
61.圖3是根據本發明實施例的一種構建時空異構通話網絡的示意圖，如圖3所示，獲取用戶通話的相關信息構建異構通話網絡g＝＜v,e,h,w＞，其中v為頂點集，包括用戶或設備(即通信關係)，e為邊集，h為節點屬性，如用戶類型，w為邊屬性，如通話時間。用三元組來表示，其包含兩種三元組：(用戶，呼叫，用戶)和(用戶，呼叫，設備)，即g有兩種節點類型和兩種邊類型。為了避免網絡過度離散，加入時間信息，將一周內通話關係進行統計，去掉高度孤立的分支，留下較為稠密、重要的統計信息。此時的通話網絡包含了大量的無標籤數據。
62.作為一種可選的實施例，構建時空異構通話網絡包括：篩選純淨標籤子圖(即確定乾淨標籤數據)。
63.可選地，將白名單(確定是正常用戶的名單)和黑名單(確定是惡意用戶的名單)的用戶記為乾淨標籤的用戶，從ga中保留僅僅和白名單與黑名單標籤純淨的節點相關的節點和邊，從而構建一個純淨標籤的時空異構通話網絡，記為gc，作為乾淨標籤數據。由於乾淨標籤有限，所以gc的規模將遠遠小於ga，定義gn＝g
a-gc，則gn中包含大量的無標籤數據和噪聲標籤數據。
64.作為一種可選的實施例，訓練分類模型fc包括：利用純淨子圖(即乾淨標籤數據)訓練分類模型fc(即訓練第一分類模型)。
65.可選地，而graphsage是一種經典的歸納式圖嵌入算法，其通過鄰居節點採樣和聚合函數學習網絡節點的嵌入表示，然而傳統的graphsage無法聚合所有的鄰居信息(由於固定鄰居數量採樣)，且無法處理帶權異構網絡，因此將基於graphsage的框架提出一種適應於帶權異構圖的歸納式圖嵌入學習方法，簡稱為rw-graphsage，能夠泛化到不同網絡結構的圖嵌入算法。
66.可選地，在預處理的情況下，為了緩解graphsage無法聚合所有的鄰居信息而可能損失有用的信息，因為首先初始化所有節點特徵(即上文提的用戶特徵和設備特徵)為自身節點特徵拼接一階鄰居節點特徵的平均值。
67.可選地，在加權特徵聚合的情況下，在rw-graphsage中，邊權重越大的鄰居節點對目標節點影響就越大。
68.可選地，通過rw-graphsage將高維的圖數據轉為低維的向量表示後，可以訓練出分類模型fc(即第一分類模型)為：fc＝argmin
fedct
{l[y
*
,f(xc)]}，其中，dct是gc測試數據，y*
是樣本x的真實標籤(即預設通信關係數據的預設標籤)，f(xc)是模型輸出(即第一分類標籤)，l是交叉熵損失函數。e表示期望。
[0069]
需要說明的是，若直接通過實時的時空異構通話網絡ga訓練分類模型fa(即第二分類模型)為：fa＝argmin
fedct
{l[y
*
,f(xa)]}，其中，dct是ga測試數據，y
*
是樣本x的真實標籤(即預設通信關係數據的預設標籤)，f(xa)是模型輸出。l損失函數。e表示期望。但由於ga包含了大量的噪聲標籤樣本(即噪聲標籤數據)和無標籤樣本(即無標籤數據)，得到的模型性能有限。
[0070]
圖4是根據本發明實施例的一種利用條件信任訓練生成偽標籤的示意圖，如圖4所示，為了充分地學習ga中的語義信息，利用條件信任訓練生成偽標籤，再進一步對fa進行訓練，具體包括：將訓練的模型fc(即第一分類模型)作為指導模型，這是由於gc中樣本的標籤都是乾淨的，因此fc的輸出結果具有一定的可信度；利用一個新的損失函數(即預設損失函數模型)作為ld，名為條件信任損失(conditional trust loss，ctloss)。
[0071]
需要是說明的是，與現有一些工作選擇無條件信任輔助模型不同，根據輔助模型的輸出來決定信任的程度。
[0072]
可選地，預設損失函數模型為：其中，yi是已確定的預設標籤(即樣本標籤)，si為第一分類標籤，f(xi)為第二分類標籤，l是交叉熵損失函數，l(yi,f(xi))為主要損失(即第一差異)，l(si,f(xi))為輔助判斷損失(即第二差異)，si為標籤符合概率，s
iγ
為第一信任權重，(1-si)
γ
為第二信任權重，γ∈(0,1)，即si越大，越信任輔助判斷模型(即第二分類模型)，反之則降低輔助模型(即第二分類模型)的權重。
[0073]
需要說明的是，第二分類模型處理可以根據樣本通信關係數據輸出第一分類標籤，還可以在第一分類標籤攜帶有第一分類標籤和樣本標籤的標籤符合概率。
[0074]
可選地，標籤符合概率用於表示第二分類模型對目標通信關係數據進行分析得到的第一分類標籤，與目標通信關係預先添加的目標標籤相同的概率。
[0075]
可選地，由於l為交叉墒損失，損失函數對於標籤yi是線性的，因此，可以重寫為：進而可以定義偽標籤模型為：通過條件信任訓練，可以得到魯棒性的偽標籤。
[0076]
可選地，利用生成的偽標籤可以重新對模型(即預設分類模型)進行訓練，將得到一個更具魯棒性的識別欺詐用戶的系統。
[0077]
本發明提供的技術方案，能夠充分利用有標籤、噪聲標籤數據和無標籤數據進行學習；條件信任損失ctloss(即預設損失函數模型)，能夠靈活地用輔助模型進行條件信任訓練。
[0078]
根據本發明實施例，還提供了一種偽標籤模型的訓練裝置實施例，需要說明的是，該偽標籤模型的訓練裝置可以用於執行本發明實施例中的偽標籤模型的訓練方法，本發明實施例中的偽標籤模型的訓練方法可以在該偽標籤模型的訓練裝置中執行。
[0079]
圖5是根據本發明實施例的一種偽標籤模型的訓練裝置的示意圖，如圖5所示，該裝置可以包括：獲取模塊51，用於獲取多個樣本通信關係數據，其中，每個樣本通信關係數據用於表示已添加樣本標籤的一組通信對象之間的通信關係；第一分析模塊53，用於使用
第一分類模型對樣本通信關係數據進行分析，生成第一分類標籤，其中，第一分類模型為使用乾淨標籤數據通過機器學習訓練出的，乾淨標籤數據為已添加預設標籤的預設通信關係數據；第二分析模塊55，用於使用第二分類模型對樣本通信關係數據進行分析，生成第二分類標籤，其中，第二分類模型為使用混合數據通過機器學習訓練出的，混合數據包括：乾淨標籤數據、噪聲標籤數據和無標籤數據，噪聲標籤數據為已添加噪聲標籤的預設關係數據，噪聲標籤為預設標籤的幹擾，無標籤數據為未添加標籤的預設通信關係數據；確定模塊57，用於確定樣本標籤與第二分類標籤的差異為第一差異，確定第一分類標籤與第二分類標籤的差異為第二差異；第三分析模塊59，用於使用預設損失函數模型對第一差異和第二差異進行分析，確定偽標籤模型，其中，預設損失函數模型用於為第一差異和第二差異分配預設信任權重，並基於第一差異、第二差異，以及預設信任權重定義偽標籤模型，偽標籤模型用於為無標籤數據和噪聲標籤數據添加預設標籤。
[0080]
需要說明的是，該實施例中的獲取模塊51可以用於執行本技術實施例中的步驟s102，該實施例中的第一分析模塊53可以用於執行本技術實施例中的步驟s104，該實施例中的第二分析模塊55可以用於執行本技術實施例中的步驟s106，該實施例中的確定模塊57可以用於執行本技術實施例中的步驟s108，該實施例中的第三分析模塊59可以用於執行本技術實施例中的步驟s110。上述模塊與對應的步驟所實現的示例和應用場景相同，但不限於上述實施例所公開的內容。
[0081]
在本發明實施例中，獲取多個樣本通信關係數據，其中，每個樣本通信關係數據用於表示已添加樣本標籤的一組通信對象之間的通信關係；使用第一分類模型對樣本通信關係數據進行分析，生成第一分類標籤，其中，第一分類模型為使用乾淨標籤數據通過機器學習訓練出的，乾淨標籤數據為已添加預設標籤的預設通信關係數據；使用第二分類模型對樣本通信關係數據進行分析，生成第二分類標籤，其中，第二分類模型為使用混合數據通過機器學習訓練出的，混合數據包括：乾淨標籤數據、噪聲標籤數據和無標籤數據，噪聲標籤數據為已添加噪聲標籤的預設關係數據，噪聲標籤為預設標籤的幹擾，無標籤數據為未添加標籤的預設通信關係數據；確定樣本標籤與第二分類標籤的差異為第一差異，確定第一分類標籤與第二分類標籤的差異為第二差異；使用預設損失函數模型對第一差異和第二差異進行分析，確定偽標籤模型，其中，預設損失函數模型用於為第一差異和第二差異分配預設信任權重，並基於第一差異、第二差異，以及預設信任權重定義偽標籤模型，偽標籤模型用於為無標籤數據和噪聲標籤數據添加預設標籤，通過偽標籤模型為無標籤數據和噪聲標籤數據添加偽標籤，生成偽標籤數據，然後再利用乾淨標籤數據和偽標籤數據共同進行模型訓練，從而實現了利用無標籤數據進行模型訓練的技術效果，進而解決了無法利用無標籤數據進行模型訓練技術問題。
[0082]
作為一種可選的實施例，獲取模塊包括：獲取模塊，用於獲取預設通信關係網絡，其中，預設通信關係網絡記錄有多個預設通信關係數據，每個預設通信關係數據用於表示一組通信對象之間的通信關係；第一確定單元，用於在預設通信關係網絡中，確定具有預設標籤的預設通信關係數據為乾淨標籤數據；選取單元，用於從乾淨標籤數據中選取樣本通信關係數據。
[0083]
作為一種可選的實施例，裝置還包括：第二確定單元，用於在從乾淨標籤數據中選取樣本通信關係數據之後，將樣本通信關係數據以外的乾淨標籤數據確定為訓練第一分類
模型的乾淨標籤數據。
[0084]
作為一種可選的實施例，確定模塊包括：第三確定單元，用於使用預設交叉熵損失函數確定樣本標籤相對於第二分類標籤的損失為第一差異；第四確定單元，用於使用預設交叉熵損失函數確定第一分類標籤相對於第二分類標籤的損失為第二差異。
[0085]
作為一種可選的實施例，預設信任權重包括：第一信任權重和第二信任權重，第三分析模塊包括：分析單元，用於分析樣本標籤與第二分類標籤的差異，確定對第一分類模型的信任程度；第一分配單元，用於根據信任程度為第一差異分配第一信任權重；第二分配單元，用於根據信任程度為第二差異分配第二信任權重；第五確定單元，用於根據第一差異與第一信任權重的乘積，和第二差異與第二信任權重的乘積，確定偽標籤模型。
[0086]
作為一種可選的實施例，分析單元包括：分析子單元，用於分析樣本標籤與第二分類標籤的差異，確定第一分類標籤符合樣本標籤的標籤符合概率；確定子單元，用於根據標籤符合概率確定對第一分類模型的信任程度。
[0087]
作為一種可選的實施例，裝置還包括：生成模塊，用於在使用預設損失函數模型對第一差異和第二差異進行分析，確定偽標籤模型之後，使用偽標籤模型為無標籤數據和噪聲標籤數據添加偽標籤，生成偽標籤數據；訓練模塊，用於將偽標籤數據和乾淨標籤數據作為訓練數據，訓練預設分類模型，其中，預設分類模型用於對目標通信關係數據進行分析，確定目標通信關係數據的目標標籤。
[0088]
本發明的實施例可以提供一種計算機終端，該計算機終端可以是計算機終端群中的任意一個計算機終端設備。可選地，在本實施例中，上述計算機終端也可以替換為移動終端等終端設備。
[0089]
可選地，在本實施例中，上述計算機終端可以位於計算機網絡的多個網絡設備中的至少一個網絡設備。
[0090]
在本實施例中，上述計算機終端可以執行偽標籤模型的訓練方法中以下步驟的程序代碼：獲取多個樣本通信關係數據，其中，每個樣本通信關係數據用於表示已添加樣本標籤的一組通信對象之間的通信關係；使用第一分類模型對樣本通信關係數據進行分析，生成第一分類標籤，其中，第一分類模型為使用乾淨標籤數據通過機器學習訓練出的，乾淨標籤數據為已添加預設標籤的預設通信關係數據；使用第二分類模型對樣本通信關係數據進行分析，生成第二分類標籤，其中，第二分類模型為使用混合數據通過機器學習訓練出的，混合數據包括：乾淨標籤數據、噪聲標籤數據和無標籤數據，噪聲標籤數據為已添加噪聲標籤的預設關係數據，噪聲標籤為預設標籤的幹擾，無標籤數據為未添加標籤的預設通信關係數據；確定樣本標籤與第二分類標籤的差異為第一差異，確定第一分類標籤與第二分類標籤的差異為第二差異；使用預設損失函數模型對第一差異和第二差異進行分析，確定偽標籤模型，其中，預設損失函數模型用於為第一差異和第二差異分配預設信任權重，並基於第一差異、第二差異，以及預設信任權重定義偽標籤模型，偽標籤模型用於為無標籤數據和噪聲標籤數據添加預設標籤。
[0091]
可選地，圖6是根據本發明實施例的一種計算機終端的結構框圖。如圖6所示，該計算機終端60可以包括：一個或多個(圖中僅示出一個)處理器62、和存儲器64。
[0092]
其中，存儲器可用於存儲軟體程序以及模塊，如本發明實施例中的偽標籤模型的訓練方法和裝置對應的程序指令/模塊，處理器通過運行存儲在存儲器內的軟體程序以及
模塊，從而執行各種功能應用以及數據處理，即實現上述的偽標籤模型的訓練方法。存儲器可包括高速隨機存儲器，還可以包括非易失性存儲器，如一個或者多個磁性存儲裝置、快閃記憶體、或者其他非易失性固態存儲器。在一些實例中，存儲器可進一步包括相對於處理器遠程設置的存儲器，這些遠程存儲器可以通過網絡連接至終端a。上述網絡的實例包括但不限於網際網路、企業內部網、區域網、移動通信網及其組合。
[0093]
處理器可以通過傳輸裝置調用存儲器存儲的信息及應用程式，以執行下述步驟：獲取多個樣本通信關係數據，其中，每個樣本通信關係數據用於表示已添加樣本標籤的一組通信對象之間的通信關係；使用第一分類模型對樣本通信關係數據進行分析，生成第一分類標籤，其中，第一分類模型為使用乾淨標籤數據通過機器學習訓練出的，乾淨標籤數據為已添加預設標籤的預設通信關係數據；使用第二分類模型對樣本通信關係數據進行分析，生成第二分類標籤，其中，第二分類模型為使用混合數據通過機器學習訓練出的，混合數據包括：乾淨標籤數據、噪聲標籤數據和無標籤數據，噪聲標籤數據為已添加噪聲標籤的預設關係數據，噪聲標籤為預設標籤的幹擾，無標籤數據為未添加標籤的預設通信關係數據；確定樣本標籤與第二分類標籤的差異為第一差異，確定第一分類標籤與第二分類標籤的差異為第二差異；使用預設損失函數模型對第一差異和第二差異進行分析，確定偽標籤模型，其中，預設損失函數模型用於為第一差異和第二差異分配預設信任權重，並基於第一差異、第二差異，以及預設信任權重定義偽標籤模型，偽標籤模型用於為無標籤數據和噪聲標籤數據添加預設標籤。
[0094]
可選的，上述處理器還可以執行如下步驟的程序代碼：獲取預設通信關係網絡，其中，預設通信關係網絡記錄有多個預設通信關係數據，每個預設通信關係數據用於表示一組通信對象之間的通信關係；在預設通信關係網絡中，確定具有預設標籤的預設通信關係數據為乾淨標籤數據；從乾淨標籤數據中選取樣本通信關係數據。
[0095]
可選的，上述處理器還可以執行如下步驟的程序代碼：在從乾淨標籤數據中選取樣本通信關係數據之後，將樣本通信關係數據以外的乾淨標籤數據確定為訓練第一分類模型的乾淨標籤數據。
[0096]
可選的，上述處理器還可以執行如下步驟的程序代碼：使用預設交叉熵損失函數確定樣本標籤相對於第二分類標籤的損失為第一差異；使用預設交叉熵損失函數確定第一分類標籤相對於第二分類標籤的損失為第二差異。
[0097]
可選的，預設信任權重包括：第一信任權重和第二信任權重，上述處理器還可以執行如下步驟的程序代碼：分析樣本標籤與第二分類標籤的差異，確定對第一分類模型的信任程度；根據信任程度為第一差異分配第一信任權重；根據信任程度為第二差異分配第二信任權重；根據第一差異與第一信任權重的乘積，和第二差異與第二信任權重的乘積，確定偽標籤模型。
[0098]
可選的，上述處理器還可以執行如下步驟的程序代碼：分析樣本標籤與第二分類標籤的差異，確定第一分類標籤符合樣本標籤的標籤符合概率；根據標籤符合概率確定對第一分類模型的信任程度。
[0099]
可選的，上述處理器還可以執行如下步驟的程序代碼：在使用預設損失函數模型對第一差異和第二差異進行分析，確定偽標籤模型之後，使用偽標籤模型為無標籤數據和噪聲標籤數據添加偽標籤，生成偽標籤數據；將偽標籤數據和乾淨標籤數據作為訓練數據，
訓練預設分類模型，其中，預設分類模型用於對目標通信關係數據進行分析，確定目標通信關係數據的目標標籤。
[0100]
採用本發明實施例，提供了一種偽標籤模型的訓練方案。獲取多個樣本通信關係數據，其中，每個樣本通信關係數據用於表示已添加樣本標籤的一組通信對象之間的通信關係；使用第一分類模型對樣本通信關係數據進行分析，生成第一分類標籤，其中，第一分類模型為使用乾淨標籤數據通過機器學習訓練出的，乾淨標籤數據為已添加預設標籤的預設通信關係數據；使用第二分類模型對樣本通信關係數據進行分析，生成第二分類標籤，其中，第二分類模型為使用混合數據通過機器學習訓練出的，混合數據包括：乾淨標籤數據、噪聲標籤數據和無標籤數據，噪聲標籤數據為已添加噪聲標籤的預設關係數據，噪聲標籤為預設標籤的幹擾，無標籤數據為未添加標籤的預設通信關係數據；確定樣本標籤與第二分類標籤的差異為第一差異，確定第一分類標籤與第二分類標籤的差異為第二差異；使用預設損失函數模型對第一差異和第二差異進行分析，確定偽標籤模型，其中，預設損失函數模型用於為第一差異和第二差異分配預設信任權重，並基於第一差異、第二差異，以及預設信任權重定義偽標籤模型，偽標籤模型用於為無標籤數據和噪聲標籤數據添加預設標籤，通過偽標籤模型為無標籤數據和噪聲標籤數據添加偽標籤，生成偽標籤數據，然後再利用乾淨標籤數據和偽標籤數據共同進行模型訓練，從而實現了利用無標籤數據進行模型訓練的技術效果，進而解決了無法利用無標籤數據進行模型訓練技術問題。
[0101]
本領域普通技術人員可以理解，圖6所示的結構僅為示意，計算機終端也可以是智慧型手機(如android手機、ios手機等)、平板電腦、掌聲電腦以及移動網際網路設備(mobile internet devices，mid)、pad等終端設備。圖6其並不對上述電子裝置的結構造成限定。例如，計算機終端60還可包括比圖6中所示更多或者更少的組件(如網絡接口、顯示裝置等)，或者具有與圖6所示不同的配置。
[0102]
本領域普通技術人員可以理解上述實施例的各種方法中的全部或部分步驟是可以通過程序來指令終端設備相關的硬體來完成，該程序可以存儲於一計算機可讀存儲介質中，存儲介質可以包括：快閃記憶體盤、只讀存儲器(read-only memory，rom)、隨機存取器(random access memory，ram)、磁碟或光碟等。
[0103]
本發明的實施例還提供了一種非易失性存儲介質。可選地，在本實施例中，上述存儲介質可以用於保存上述實施例所提供的偽標籤模型的訓練方法所執行的程序代碼。
[0104]
可選地，在本實施例中，上述存儲介質可以位於計算機網絡中計算機終端群中的任意一個計算機終端中，或者位於移動終端群中的任意一個移動終端中。
[0105]
可選地，在本實施例中，非易失性存儲介質被設置為存儲用於執行以下步驟的程序代碼：獲取多個樣本通信關係數據，其中，每個樣本通信關係數據用於表示已添加樣本標籤的一組通信對象之間的通信關係；使用第一分類模型對樣本通信關係數據進行分析，生成第一分類標籤，其中，第一分類模型為使用乾淨標籤數據通過機器學習訓練出的，乾淨標籤數據為已添加預設標籤的預設通信關係數據；使用第二分類模型對樣本通信關係數據進行分析，生成第二分類標籤，其中，第二分類模型為使用混合數據通過機器學習訓練出的，混合數據包括：乾淨標籤數據、噪聲標籤數據和無標籤數據，噪聲標籤數據為已添加噪聲標籤的預設關係數據，噪聲標籤為預設標籤的幹擾，無標籤數據為未添加標籤的預設通信關係數據；確定樣本標籤與第二分類標籤的差異為第一差異，確定第一分類標籤與第二分類
標籤的差異為第二差異；使用預設損失函數模型對第一差異和第二差異進行分析，確定偽標籤模型，其中，預設損失函數模型用於為第一差異和第二差異分配預設信任權重，並基於第一差異、第二差異，以及預設信任權重定義偽標籤模型，偽標籤模型用於為無標籤數據和噪聲標籤數據添加預設標籤。
[0106]
可選地，在本實施例中，非易失性存儲介質被設置為存儲用於執行以下步驟的程序代碼：獲取預設通信關係網絡，其中，預設通信關係網絡記錄有多個預設通信關係數據，每個預設通信關係數據用於表示一組通信對象之間的通信關係；在預設通信關係網絡中，確定具有預設標籤的預設通信關係數據為乾淨標籤數據；從乾淨標籤數據中選取樣本通信關係數據。
[0107]
可選地，在本實施例中，非易失性存儲介質被設置為存儲用於執行以下步驟的程序代碼：在從乾淨標籤數據中選取樣本通信關係數據之後，將樣本通信關係數據以外的乾淨標籤數據確定為訓練第一分類模型的乾淨標籤數據。
[0108]
可選地，在本實施例中，非易失性存儲介質被設置為存儲用於執行以下步驟的程序代碼：使用預設交叉熵損失函數確定樣本標籤相對於第二分類標籤的損失為第一差異；使用預設交叉熵損失函數確定第一分類標籤相對於第二分類標籤的損失為第二差異。
[0109]
可選地，在本實施例中，預設信任權重包括：第一信任權重和第二信任權重，非易失性存儲介質被設置為存儲用於執行以下步驟的程序代碼：分析樣本標籤與第二分類標籤的差異，確定對第一分類模型的信任程度；根據信任程度為第一差異分配第一信任權重；根據信任程度為第二差異分配第二信任權重；根據第一差異與第一信任權重的乘積，和第二差異與第二信任權重的乘積，確定偽標籤模型。
[0110]
可選地，在本實施例中，非易失性存儲介質被設置為存儲用於執行以下步驟的程序代碼：分析樣本標籤與第二分類標籤的差異，確定第一分類標籤符合樣本標籤的標籤符合概率；根據標籤符合概率確定對第一分類模型的信任程度。
[0111]
可選地，在本實施例中，非易失性存儲介質被設置為存儲用於執行以下步驟的程序代碼：在使用預設損失函數模型對第一差異和第二差異進行分析，確定偽標籤模型之後，使用偽標籤模型為無標籤數據和噪聲標籤數據添加偽標籤，生成偽標籤數據；將偽標籤數據和乾淨標籤數據作為訓練數據，訓練預設分類模型，其中，預設分類模型用於對目標通信關係數據進行分析，確定目標通信關係數據的目標標籤。
[0112]
上述本發明實施例序號僅僅為了描述，不代表實施例的優劣。
[0113]
在本發明的上述實施例中，對各個實施例的描述都各有側重，某個實施例中沒有詳述的部分，可以參見其他實施例的相關描述。
[0114]
在本技術所提供的幾個實施例中，應該理解到，所揭露的技術內容，可通過其它的方式實現。其中，以上所描述的裝置實施例僅僅是示意性的，例如所述單元的劃分，可以為一種邏輯功能劃分，實際實現時可以有另外的劃分方式，例如多個單元或組件可以結合或者可以集成到另一個系統，或一些特徵可以忽略，或不執行。另一點，所顯示或討論的相互之間的耦合或直接耦合或通信連接可以是通過一些接口，單元或模塊的間接耦合或通信連接，可以是電性或其它的形式。
[0115]
所述作為分離部件說明的單元可以是或者也可以不是物理上分開的，作為單元顯示的部件可以是或者也可以不是物理單元，即可以位於一個地方，或者也可以分布到多個
單元上。可以根據實際的需要選擇其中的部分或者全部單元來實現本實施例方案的目的。
[0116]
另外，在本發明各個實施例中的各功能單元可以集成在一個處理單元中，也可以是各個單元單獨物理存在，也可以兩個或兩個以上單元集成在一個單元中。上述集成的單元既可以採用硬體的形式實現，也可以採用軟體功能單元的形式實現。
[0117]
所述集成的單元如果以軟體功能單元的形式實現並作為獨立的產品銷售或使用時，可以存儲在一個計算機可讀取存儲介質中。基於這樣的理解，本發明的技術方案本質上或者說對現有技術做出貢獻的部分或者該技術方案的全部或部分可以以軟體產品的形式體現出來，該計算機軟體產品存儲在一個存儲介質中，包括若干指令用以使得一臺計算機設備(可為個人計算機、伺服器或者網絡設備等)執行本發明各個實施例所述方法的全部或部分步驟。而前述的存儲介質包括：u盤、只讀存儲器(rom，read-only memory)、隨機存取存儲器(ram，random access memory)、移動硬碟、磁碟或者光碟等各種可以存儲程序代碼的介質。
[0118]
以上所述僅是本發明的優選實施方式，應當指出，對於本技術領域的普通技術人員來說，在不脫離本發明原理的前提下，還可以做出若干改進和潤飾，這些改進和潤飾也應視為本發明的保護範圍。