【技術實現步驟摘要】
本專利技術涉及機器遺忘學習與輻射源個體識別領域，具體涉及一種基于雙教師-學生遺忘框架的模型更新方法，用于在遭受數據污染時快速修正輻射源個體識別模型。
技術介紹
1、輻射源個體識別技術是利用無線電信號指紋來識別不同發射源的一種技術。指紋特征通常由發射器組件中的硬件缺陷產生，這些特征可用于區分不同的設備。隨著深度學習技術的發展，基于深度學習的輻射源個體識別方法已經能夠自動從輸入數據中提取指紋特征，并識別出不同的發射器，相較于傳統方法，展現出了更高的性能和魯棒性。
2、然而，深度學習模型在面對數據安全問題時存在一定的脆弱性。例如，在廣播式自動相關監視(ads-b)系統中，飛機識別信息可能被篡改，導致潛在的安全風險。同樣，在自動識別系統(ais)中，信號所攜帶的信息也可能受到敵意行為的破壞。深度學習方法在系統安全性方面常常未能充分考慮，因此容易受到精心設計的攻擊技術，例如對抗性攻擊、后門攻擊和數據混淆等。
3、這些安全威脅對輻射源個體識別系統構成了潛在的挑戰。攻擊者可能使用觸發器執行后門攻擊，導致模型在被投毒的樣本上進行訓練，進而嚴重影響模型性能。雖然通過在清除了投毒數據的干凈數據集上重新訓練模型是有效的，但由于計算成本高昂，這種方法在實踐中往往不切實際。
技術實現思路
1、為了解決上述存在的問題，本文提出了一種雙重教師-學生遺忘學習框架，旨在解決輻射源個體識別任務中因數據被投毒而導致的模型性能下降問題。通過生成損失最大化的噪聲干擾原始模型，該方法能夠有效地忘記被投
2、本專利技術的技術方案如下：一種輻射源個體識別模型快速修正方法，包括以下步驟：
3、步驟1：提出損失最大化的噪聲注入機制，提出了一種針對被投毒類別的噪聲注入方法，通過優化問題尋找最大化分類損失的噪聲，迫使模型忘記被投毒數據。為遺忘集生成噪聲矩陣，原始模型使用噪聲矩陣來忽略cf遺忘類別對應的信息。考慮到輻射源個體的特性，學習到的噪聲是自適應的輸入信號具有各種調制方式和其他參數。具體來說，用正態分布初始化噪聲矩陣，
4、具體如下：,
5、步驟1-1數據準備：收集并準備完整的訓練數據集dc，包含n個樣本和m個類別，識別并分離出被投毒的樣本集df及其對應的類別cf、遺忘的類別總數nf，保留未被投毒的樣本集dr，
6、步驟1-2噪聲矩陣初始化：對于被投毒類別cf，初始化噪聲矩陣wnoise，每個元素從標準正態分布中抽取，
7、步驟1-3損失最大化噪聲生成：
8、利用原始模型對被投毒樣本集df進行訓練，通過以下優化問題生成噪聲矩陣：
9、
10、其中，pi(y)是第i個被遺忘類別的真實標簽概率，qi(ui)是原模型對第i個被遺忘類別的輸出概率，wnoise是噪聲的參數，λ為用于平衡優化問題參數。目的是找到使原始模型的在cf上分類損失最大化的l2范數有界噪聲。
11、目前，深度神經網絡模型都是基于最小化損失函數進行設計的。然而，本專利技術在該步驟采用最大化損失函數，建立了一個可用的基于損失最大化噪聲生成的遺忘噪聲矩陣模塊。顯然，最大化一個僅針對被投毒類別cf的噪聲矩陣在接下來的步驟中有助于遺忘相關指定知識，并且產生的噪聲可以被視為破壞先前學習的知識的反樣本，在接下來的步驟中用于實現消除被投毒的樣本集df的信息。
12、步驟2：多階段模型修復與性能優化，具體如下，
13、在噪聲注入后，通過多階段的模型修復過程，逐步恢復模型在保留集上的性能，同時保持對被投毒數據的遺忘狀態。
14、將獲得的噪聲添加到從保留集的一個隨機選擇的子集中，形成擾動集dn。
15、在擾動集dn上訓練模型一個歷元，以損害模型對被投毒集df的識別能力：
16、
17、在保留集的子集上進行多次修復訓練，以恢復模型性能：
18、
19、其中，表示原模型，為噪聲損傷后的模型；mu(x；θu)是噪聲損傷和多次修復后的模型，觀察到即使單個歷元的損傷也足以破壞模型關于保留集dr的權重。
20、在該步驟中，基于損失最大化的噪聲，本專利技術提出多階段模型修復與性能優化，其目的在于誘導模型被投毒類別cf相關模型參數并逐漸恢復模型在保留集dr上性能。值得注意的是，在正常情況下，這個過程通常只需要執行少量歷元，并且是在少量樣本上執行相關操作。因此，相較于在較大樣本數量的保留集dr重新訓練，本步驟大大縮短了遺忘相關樣本的時間。
21、步驟3：雙重教師模型的知識蒸餾策略，具體如下，
22、執行了多次修復，模型在保留集dr上的性能仍然很弱。本專利技術提出了一種基于師生互動的知識蒸餾方法來解決這一問題。
23、引入了兩個教師模型：一個經過噪聲注入處理的無能教師模型，用于遺忘被投毒數據；另一個是有能教師模型，包含完整數據集的知識。通過這種策略，學生模型能夠在遺忘和學習之間達到平衡。
24、知識蒸餾方法：
25、定義無能教師模型ti(x；θu)和有能教師模型tc(x；φt)，以及學生模型fs(x；φt)。
26、通過kullback-leibler(kl)散度計算無能教師和學生模型之間的知識轉移：
27、
28、式中：τ為蒸餾溫度；其中和分別表示對類別i無能教師和學生模型的輸出概率分布。gi(x)和gs(x)分別為無能力教師和學生的分類器。
29、通過kl散度計算有能教師和學生模型之間的知識轉移：
30、
31、式中：其中表示對類別i有能教師的輸出概率分布。gc(x)為有能教師的分類器。
32、步驟4：優化目標函數，具體如下，
33、通過kl散度計算有能教師和學生模型之間的知識轉移，并優化學生模型以最小化與有能教師的kl散度，同時最大化與無能教師的kl散度。訓練學生模型，通過優化以下目標函數來獲得關于保留集dr的準確知識，并遺忘關于被投毒集df的錯誤知識：
34、
35、其中，λ是平衡兩種教師模型對知識蒸餾過程貢獻的超參數。
36、優化的目的是通過最小化學生和有能教師之間的kl散度來獲得關于保留集dr的準確知識。類似地，我們最小化了學生和無能教師之間的kl散度，以獲得關于被投毒集df的錯誤知識。學生模型fs(x；φt)具有關于被投毒集df的專門知識，但無能教師ti卻經歷了最大化噪聲的損傷過程，這將嚴重破壞關于被投毒集df的權重。由于兩類教師超參數平衡的影響，學生模型在保留集dr信息的同時，舍棄了關于本文檔來自技高網...
【技術保護點】
1.一種輻射源個體識別模型快速修正方法，其特征在于，所述方法包括以下步驟：
2.根據權利要求1所述的輻射源個體識別模型快速修正方法，其特征在于，步驟1提出損失最大化的噪聲注入機制，具體如下：,
3.根據權利要求2所述的輻射源個體識別模型快速修正方法，其特征在于，所述步驟2：多階段模型修復與性能優化，具體如下，
4.根據權利要求3所述的輻射源個體識別模型快速修正方法，其特征在于，所述步驟3：雙重教師模型的知識蒸餾策略，具體如下，
5.根據權利要求2所述的輻射源個體識別模型快速修正方法，其特征在于，步驟4：優化目標函數，具體如下，
【技術特征摘要】
1.一種輻射源個體識別模型快速修正方法，其特征在于，所述方法包括以下步驟：
2.根據權利要求1所述的輻射源個體識別模型快速修正方法，其特征在于，步驟1提出損失最大化的噪聲注入機制，具體如下：,
3.根據權利要求2所述的輻射源個體識別模型快速修正方法，其特征在于，所述...
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。