【技術(shù)實現(xiàn)步驟摘要】
本專利技術(shù)涉及網(wǎng)絡(luò)安全領(lǐng)域，尤其是涉及一種優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法。
技術(shù)介紹
1、在當(dāng)今數(shù)字化時代，聯(lián)邦學(xué)習(xí)作為一種新興的分布式機器學(xué)習(xí)技術(shù)，正逐漸在各個領(lǐng)域展現(xiàn)出巨大的潛力。它允許多個參與方在不共享原始數(shù)據(jù)的情況下共同訓(xùn)練模型，從而保護了數(shù)據(jù)隱私。
2、然而，這一技術(shù)也面臨著安全威脅，其中聯(lián)邦學(xué)習(xí)后門攻擊成為了一個備受關(guān)注的問題。聯(lián)邦學(xué)習(xí)后門攻擊是攻擊方在聯(lián)邦學(xué)習(xí)系統(tǒng)中通過篡改數(shù)據(jù)、優(yōu)化觸發(fā)器或破壞模型更新過程等手段，在模型中植入特定“后門”，以在特定條件下操縱模型輸出達成惡意目的的攻擊方式。目前已有一些自適應(yīng)的攻擊方法，在聯(lián)邦學(xué)習(xí)環(huán)境中，后門攻擊手段不斷演變且極具隱蔽性。攻擊方可以巧妙地在本地訓(xùn)練數(shù)據(jù)中混入帶有特定觸發(fā)模式的惡意樣本。為應(yīng)對后門攻擊，研究人員提出了大量防御機制。包括基于魯棒聚合算法的方法，旨在識別和過濾掉異常的模型更新；基于差分隱私技術(shù)的改進方案，在保證模型訓(xùn)練效果的同時，增強對惡意數(shù)據(jù)注入的抵抗力；還有基于可信執(zhí)行環(huán)境的方案，從硬件層面保障模型訓(xùn)練過程的安全。然而，目前缺乏一種系統(tǒng)、全面且有效的評估這些防御機制性能的方法。不同的評估指標(biāo)在不同場景下各有優(yōu)劣，有的側(cè)重于檢測準(zhǔn)確率，有的關(guān)注對正常模型訓(xùn)練的影響程度。沒有統(tǒng)一的評估方法，難以準(zhǔn)確比較不同防御機制的優(yōu)劣，也無法確定某種防御機制在實際復(fù)雜環(huán)境中的適用性，從而阻礙了防御技術(shù)的進一步優(yōu)化和推廣應(yīng)用。綜上所述，針對目前沒有統(tǒng)一評估方法和指標(biāo)等問題，提出一種能夠優(yōu)化評估聯(lián)邦學(xué)習(xí)模型防御后門攻擊機制性能的方法，能夠彌補該領(lǐng)
技術(shù)實現(xiàn)思路
1、為克服現(xiàn)有技術(shù)中的問題，本專利技術(shù)的目的是提供一種優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，來評估基于檢測算法防御機制性能。
2、本專利技術(shù)的基于優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法。首先在了解檢測方法機理下，通過對觸發(fā)器優(yōu)化從而降低投毒后的數(shù)據(jù)集與原有數(shù)據(jù)集的分布差異來降低正常更新與惡意更新的差異來躲避防御。并且攻擊采取提前優(yōu)化的策略，利用訓(xùn)練中期的全局模型提前優(yōu)化觸發(fā)器。攻擊方選擇在訓(xùn)練后期進行后門攻擊，同時為了適應(yīng)全局模型的動態(tài)變化，交替進行優(yōu)化觸發(fā)器。通過重復(fù)性實驗，來更加準(zhǔn)確的評估防御方法的性能。
3、為了實現(xiàn)上述目的，本專利技術(shù)采用的具體技術(shù)方案如下：
4、一方面，本專利技術(shù)提出了一種優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，包括：
5、s1：建立包括一個發(fā)起方和多個參與方的聯(lián)邦學(xué)習(xí)評估體系，發(fā)起方擁有待評估的全局模型，參與方擁有各自的用于全局模型訓(xùn)練的本地訓(xùn)練數(shù)據(jù)集，定義其中一個參與方為攻擊方，預(yù)設(shè)訓(xùn)練總輪次、初期訓(xùn)練輪次和中期訓(xùn)練輪次；在所述發(fā)起方和參與方之間進行聯(lián)邦學(xué)習(xí)訓(xùn)練過程中設(shè)有待評估的用于抵御后門攻擊的防御機制；
6、s2：各參與方根據(jù)本地訓(xùn)練數(shù)據(jù)集對發(fā)起方的全局模型進行初期的聯(lián)邦學(xué)習(xí)訓(xùn)練，直至達到初期訓(xùn)練輪次，得到初期的全局模型；
7、s3：各參與方根據(jù)本地訓(xùn)練數(shù)據(jù)集對初期的全局模型進行中期的聯(lián)邦學(xué)習(xí)訓(xùn)練，直至達到中期訓(xùn)練輪次，得到中期的全局模型；在中期的聯(lián)邦學(xué)習(xí)訓(xùn)練期間，攻擊方初始化觸發(fā)器并將觸發(fā)器添加至本地訓(xùn)練數(shù)據(jù)集中，采用未添加觸發(fā)器的訓(xùn)練數(shù)據(jù)集參與聯(lián)邦學(xué)習(xí)訓(xùn)練，同時備份每輪聯(lián)邦學(xué)習(xí)訓(xùn)練的全局模型，并在備份模型上采用添加觸發(fā)器的訓(xùn)練數(shù)據(jù)集進行并行訓(xùn)練，基于兩種訓(xùn)練對模型參數(shù)更新的差異采用自適應(yīng)優(yōu)化方法對觸發(fā)器的參數(shù)進行優(yōu)化更新；
8、s4：各參與方根據(jù)本地訓(xùn)練數(shù)據(jù)集對中期的全局模型進行后期的聯(lián)邦學(xué)習(xí)訓(xùn)練，直至達到訓(xùn)練總輪次；在后期的聯(lián)邦學(xué)習(xí)訓(xùn)練期間，攻擊方將當(dāng)前的觸發(fā)器添加至本地訓(xùn)練數(shù)據(jù)集中，采用添加觸發(fā)器的訓(xùn)練數(shù)據(jù)集參與聯(lián)邦學(xué)習(xí)訓(xùn)練，同時備份每輪聯(lián)邦學(xué)習(xí)訓(xùn)練的全局模型，并在備份模型上采用未添加觸發(fā)器的訓(xùn)練數(shù)據(jù)集進行并行訓(xùn)練，基于兩種訓(xùn)練對模型參數(shù)更新的差異采用自適應(yīng)優(yōu)化方法對觸發(fā)器的參數(shù)進行優(yōu)化更新；
9、s5：基于最終的觸發(fā)器構(gòu)建測試數(shù)據(jù)集，對訓(xùn)練完成的全局模型進行測試，計算模型輸出的準(zhǔn)確率，基于準(zhǔn)確率評估防御機制性能。
10、進一步地，所述待訓(xùn)練的全局模型為圖像識別模型，所述訓(xùn)練數(shù)據(jù)集包括圖像樣本及其標(biāo)簽；將觸發(fā)器添加至本地訓(xùn)練數(shù)據(jù)集是指依據(jù)觸發(fā)器參數(shù)修改訓(xùn)練數(shù)據(jù)集中的圖像樣本。
11、進一步地，每輪聯(lián)邦學(xué)習(xí)訓(xùn)練包括：將全局模型下發(fā)給各參與方，各參與方在本地訓(xùn)練數(shù)據(jù)集上對全局模型進行本地訓(xùn)練，將本地訓(xùn)練完成后更新的模型參數(shù)上傳至發(fā)起方，發(fā)起方綜合上傳的所有模型參數(shù)更新全局模型；
12、進一步地，所述防御機制包括：在每輪聯(lián)邦學(xué)習(xí)訓(xùn)練期間，發(fā)起方在綜合上傳的所有模型參數(shù)更新全局模型之前，還對各參與方上傳的模型參數(shù)進行檢測過濾，綜合過濾后的模型參數(shù)更新全局模型，更新后的模型即為訓(xùn)練完成的全局模型。
13、進一步地，所述聯(lián)邦學(xué)習(xí)訓(xùn)練具體包括：攻擊方采用參與聯(lián)邦學(xué)習(xí)訓(xùn)練的訓(xùn)練數(shù)據(jù)集對當(dāng)前接收到的全局模型進行本地訓(xùn)練，在每一輪本地訓(xùn)練后將訓(xùn)練更新的模型參數(shù)上傳至發(fā)起方；所述并行訓(xùn)練具體包括：在每一輪本地訓(xùn)練時，攻擊方采用參與聯(lián)邦學(xué)習(xí)訓(xùn)練的訓(xùn)練數(shù)據(jù)集對備份的全局模型進行本地訓(xùn)練，訓(xùn)練更新的模型參數(shù)不上傳至發(fā)起方；并行訓(xùn)練的輪次與聯(lián)邦學(xué)習(xí)訓(xùn)練的輪次同步。
14、進一步地，步驟s6中，所述基于最終的觸發(fā)器對聯(lián)邦學(xué)習(xí)模型進行后門攻擊測試，具體為：獲取測試數(shù)據(jù)集，向測試數(shù)據(jù)集添加最終的觸發(fā)器，采用添加觸發(fā)器的測試數(shù)據(jù)集對聯(lián)邦學(xué)習(xí)模型進行測試。
15、另一方面，本專利技術(shù)還提出了一種優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估系統(tǒng)，用于實現(xiàn)上述方法。
16、與現(xiàn)有技術(shù)相比，本專利技術(shù)的有益效果至少包括：
17、(1)是通過對觸發(fā)器優(yōu)化，在了解檢測方法機理的基礎(chǔ)上，降低投毒后的數(shù)據(jù)集與原有數(shù)據(jù)集的分布差異，進而減少正常更新與惡意更新的差異，以此成功躲避防御，這為更精準(zhǔn)地分析防御機制應(yīng)對攻擊的情況創(chuàng)造了條件。
18、(2)是攻擊采取提前優(yōu)化策略，利用訓(xùn)練中期的全局模型提前優(yōu)化觸發(fā)器，同時攻擊方選擇在訓(xùn)練后期進行后門攻擊，而且為適應(yīng)全局模型的動態(tài)變化，交替進行優(yōu)化觸發(fā)器，這種攻擊策略的創(chuàng)新使評估過程更貼合實際復(fù)雜的攻擊場景。此外，通過重復(fù)性實驗，能夠更加準(zhǔn)確地評估防御方法的性能，從而為改進和優(yōu)化防御機制提供更可靠的數(shù)據(jù)支持。
本文檔來自技高網(wǎng)...【技術(shù)保護點】
1.一種優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，包括：
2.根據(jù)權(quán)利要求1所述的優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，所述全局模型為圖像識別模型，所述訓(xùn)練數(shù)據(jù)集包括圖像樣本及其標(biāo)簽；將觸發(fā)器添加至本地訓(xùn)練數(shù)據(jù)集是指依據(jù)觸發(fā)器參數(shù)修改訓(xùn)練數(shù)據(jù)集中的圖像樣本。
3.根據(jù)權(quán)利要求1所述的優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，每輪聯(lián)邦學(xué)習(xí)訓(xùn)練包括：將全局模型下發(fā)給各參與方，各參與方在本地訓(xùn)練數(shù)據(jù)集上對全局模型進行本地訓(xùn)練，將本地訓(xùn)練完成后更新的模型參數(shù)上傳至發(fā)起方，發(fā)起方綜合上傳的所有模型參數(shù)更新全局模型。
4.根據(jù)權(quán)利要求3所述的優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，所述綜合上傳的所有模型參數(shù)更新全局模型具體為：對各參與方上傳的模型參數(shù)計算平均值，作為更新后的全局模型的參數(shù)。
5.根據(jù)權(quán)利要求3所述的優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，所述防御機制包括：在每輪聯(lián)邦學(xué)習(xí)訓(xùn)練期間，發(fā)起方在綜合上傳的所有模型參數(shù)更新全局模型之
6.根據(jù)權(quán)利要求1所述的優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，所述聯(lián)邦學(xué)習(xí)訓(xùn)練具體包括：攻擊方采用參與聯(lián)邦學(xué)習(xí)訓(xùn)練的訓(xùn)練數(shù)據(jù)集對當(dāng)前接收到的全局模型進行本地訓(xùn)練，在每一輪本地訓(xùn)練后將訓(xùn)練更新的模型參數(shù)上傳至發(fā)起方；
7.根據(jù)權(quán)利要求1所述的優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，所述自適應(yīng)優(yōu)化方法具體為：
8.根據(jù)權(quán)利要求5所述的優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，步驟S5中，所述檢測過濾采用異常檢測算法進行，所述異常檢測算法包括HDBSCAN算法和PCA算法。
9.根據(jù)權(quán)利要求1所述的優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，步驟S6中，所述基于最終的觸發(fā)器對聯(lián)邦學(xué)習(xí)模型進行后門攻擊測試，具體為：獲取測試數(shù)據(jù)集，向測試數(shù)據(jù)集添加最終的觸發(fā)器，采用添加觸發(fā)器的測試數(shù)據(jù)集對聯(lián)邦學(xué)習(xí)模型進行測試。
10.一種優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估系統(tǒng)，用于實現(xiàn)權(quán)利要求1所述方法，其特征在于，所述系統(tǒng)包括：
...【技術(shù)特征摘要】
1.一種優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，包括：
2.根據(jù)權(quán)利要求1所述的優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，所述全局模型為圖像識別模型，所述訓(xùn)練數(shù)據(jù)集包括圖像樣本及其標(biāo)簽；將觸發(fā)器添加至本地訓(xùn)練數(shù)據(jù)集是指依據(jù)觸發(fā)器參數(shù)修改訓(xùn)練數(shù)據(jù)集中的圖像樣本。
3.根據(jù)權(quán)利要求1所述的優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，每輪聯(lián)邦學(xué)習(xí)訓(xùn)練包括：將全局模型下發(fā)給各參與方，各參與方在本地訓(xùn)練數(shù)據(jù)集上對全局模型進行本地訓(xùn)練，將本地訓(xùn)練完成后更新的模型參數(shù)上傳至發(fā)起方，發(fā)起方綜合上傳的所有模型參數(shù)更新全局模型。
4.根據(jù)權(quán)利要求3所述的優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，所述綜合上傳的所有模型參數(shù)更新全局模型具體為：對各參與方上傳的模型參數(shù)計算平均值，作為更新后的全局模型的參數(shù)。
5.根據(jù)權(quán)利要求3所述的優(yōu)化后門攻擊下的聯(lián)邦學(xué)習(xí)模型防御機制性能評估方法，其特征在于，所述防御機制包括：在每輪聯(lián)邦學(xué)習(xí)訓(xùn)練期間，發(fā)起方在綜合上傳的所有模型參數(shù)更新全局模型之前，還對各參與方上傳的模型參數(shù)進行檢測過濾，綜...
【專利技術(shù)屬性】
技術(shù)研發(fā)人員：紀(jì)守領(lǐng)，陳曦，曾睿，周純毅，蒲譽文，李清明，
申請(專利權(quán))人：浙江大學(xué)，
類型：發(fā)明
國別省市：
還沒有人留言評論。發(fā)表了對其他瀏覽者有用的留言會獲得科技券。