【技術實現步驟摘要】
本申請涉及數據處理，尤其涉及一種聯邦學習的攻擊者識別方法、裝置、電子設備及存儲介質。
技術介紹
1、聯邦學習作為一種新興的機器學習范式，允許多個參與者(或客戶端)協作訓練一個共享的模型，同時無需直接交換他們的數據。這種方法能夠保護參與者的數據隱私和數據所有權，因此在醫療、金融、通信等數據敏感領域受到廣泛關注。然而，聯邦學習面臨的最大挑戰之一是如何確保在開放和不可靠的網絡環境中進行安全可靠的模型訓練。
2、在聯邦學習的常見場景中，各個客戶端根據自己持有的本地數據計算模型更新(例如梯度信息)，然后將這些更新發送到中央服務器。服務器聚合這些來自多個客戶端的更新以形成全局模型更新，然后再將更新后的模型發送回客戶端。此過程反復進行，直至模型收斂。盡管這種分布式的訓練方法在理論上能夠有效保護數據隱私，但它引入了多種安全風險和挑戰，特別是當參與的客戶端中存在惡意攻擊者時。
3、一種常見的攻擊是模型污染攻擊，惡意客戶端通過發送錯誤的模型更新來破壞全局模型的質量。例如，通過投毒攻擊(data?poisoning)和模型更新篡改(model?updatetampering)，攻擊者可以故意修改訓練數據或梯度更新，使得整個模型偏離預期的學習目標。這類攻擊對聯邦學習尤其危險，因為一旦全局模型被污染，所有依賴此模型進行決策的客戶端都會受到影響。
4、除了模型污染攻擊，信息泄露也是聯邦學習中一個嚴重的問題。雖然客戶端不直接共享其原始數據，但通過模型更新共享的信息仍然可能被用來推斷出敏感數據。例如，基于梯度更新的推斷攻擊(
5、針對這些問題，當前異常檢測技術也被用于識別異常的模型更新。但是這些技術依賴于統計分析、聚類分析等方法來判定哪些更新可能由惡意客戶端生成。雖然這些方法在某些情況下有效，但它們往往需要調整多個參數，并且對新型攻擊的適應性可能較差。由此，導致當前無法在確保模型準確性的情況下準確地識別攻擊者。
技術實現思路
1、本申請提供一種聯邦學習的攻擊者識別方法、裝置、電子設備及存儲介質，用以解決現有技術中無法在確保模型準確性的情況下準確地識別攻擊者的缺陷，實現在確保模型準確性的情況下準確地識別攻擊者。
2、本申請提供一種聯邦學習的攻擊者識別方法，包括：接收參與同一聯邦學習的各客戶端上傳的模型更新信息；對各模型更新信息分別進行信息提取，得到相應的更新行為特征；將各更新行為特征分別輸入異常檢測模型，得到所述異常檢測模型分別輸出的異常檢測結果；所述異常檢測模型是基于樣本更新行為特征及其更新行為標簽進行模型訓練得到的；基于各異常檢測結果，針對客戶端進行攻擊者識別，得到攻擊者識別結果。
3、根據本申請提供的一種聯邦學習的攻擊者識別方法，在得到所述異常檢測模型分別輸出的異常檢測結果之后，針對每一異常檢測結果，還分別執行如下操作：若當前異常檢測結果為異常更新，則確定當前異常檢測結果對應的客戶端的當前信任值與當前不確定性值；根據當前異常檢測結果中異常更新的預測概率值，結合當前異常檢測結果對應的客戶端的當前信任值與當前不確定性值，確定當前異常檢測結果對應客戶端的模型權重。
4、根據本申請提供的一種聯邦學習的攻擊者識別方法，所述根據當前異常檢測結果中異常更新的預測概率值，結合當前異常檢測結果對應的客戶端的當前信任值與當前不確定性值，確定當前異常檢測結果對應客戶端的模型權重，包括：根據當前異常檢測結果中異常更新的預測概率值、當前異常檢測結果對應的客戶端的當前信任值與預設分配值，確定當前異常檢測結果對應的客戶端的更新信任值；根據當前異常檢測結果對應的客戶端的當前不確定性值與預設分配值，確定當前異常檢測結果對應的客戶端的更新不確定性值；根據所述更新信任值與所述更新不確定性值，確定當前異常檢測結果對應客戶端的模型權重。
5、根據本申請提供的一種聯邦學習的攻擊者識別方法，所述根據所述更新信任值與更新不確定性值，確定當前異常檢測結果對應客戶端的模型權重，包括：根據所述更新不確定性值與所述預設分配值，確定中間值；將所述更新信任值與所述中間值相加，得到相加結果；將所述相加結果確定為當前異常檢測結果對應客戶端的模型權重。
6、根據本申請提供的一種聯邦學習的攻擊者識別方法，所述對各模型更新信息分別進行信息提取，得到相應的更新行為特征，包括：通過預設深度學習模型對各模型更新信息分別進行信息提取，得到相應的更新行為特征；所述預設深度學習模型包括卷積神經網絡模型與遞歸神經網絡模型中的一種。
7、根據本申請提供的一種聯邦學習的攻擊者識別方法，所述模型更新信息為池化處理后的更新信息。
8、根據本申請提供的一種聯邦學習的攻擊者識別方法，異常檢測結果為正常更新或異常更新；所述基于各異常檢測結果，針對客戶端進行攻擊者識別，得到攻擊者識別結果，包括：將為異常更新的異常檢測結果對應的客戶端確定為攻擊者。
9、本申請還提供一種聯邦學習的攻擊者識別裝置，包括：接收模塊，用于接收參與同一聯邦學習的各客戶端上傳的模型更新信息；提取模塊，用于對各模型更新信息分別進行信息提取，得到相應的更新行為特征；輸入模塊，用于將各更新行為特征分別輸入異常檢測模型，得到所述異常檢測模型分別輸出的異常檢測結果；所述異常檢測模型是基于樣本更新行為特征及其更新行為標簽進行模型訓練得到的；識別模塊，用于基于各異常檢測結果，針對客戶端進行攻擊者識別，得到攻擊者識別結果。
10、本申請還提供一種電子設備，包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序，所述處理器執行所述程序時實現如上述任一種所述聯邦學習的攻擊者識別方法。
11、本申請還提供一種存儲介質，所述存儲介質為非暫態計算機可讀存儲介質，其上存儲有計算機程序，該計算機程序被處理器執行時實現如上述任一種所述聯邦學習的攻擊者識別方法。
12、本申請提供的聯邦學習的攻擊者識別方法、裝置、電子設備及存儲介質，在接收到參與同一聯邦學習的各客戶端上傳的模型更新信息后，通過對各模型更新信息分別進行信息提取，由此識別和放大模型更新信息中潛在的異常模式并提取出有關模型更新行為的信息，得到相應的更新行為特征；進而可以將各更新行為特征分別輸入異常檢測模型，得到異常檢測模型分別輸出的異常檢測結果；基于各異常檢測結果可以快速、準確地針對客戶端進行攻擊者識別，得到攻擊者識別結果，通過提取模型更新行為的相關信息進行檢測，無需調整模型參數即可進行攻擊者識別，并且可以適應各種新型攻擊，因此可以在確保模型準確性的情況下準確地識別攻擊者。
本文檔來自技高網...【技術保護點】
1.一種聯邦學習的攻擊者識別方法，其特征在于，包括：
2.根據權利要求1所述的聯邦學習的攻擊者識別方法，其特征在于，在得到所述異常檢測模型分別輸出的異常檢測結果之后，針對每一異常檢測結果，還分別執行如下操作：
3.根據權利要求2所述的聯邦學習的攻擊者識別方法，其特征在于，所述根據當前異常檢測結果中異常更新的預測概率值，結合當前異常檢測結果對應的客戶端的當前信任值與當前不確定性值，確定當前異常檢測結果對應客戶端的模型權重，包括：
4.根據權利要求3所述的聯邦學習的攻擊者識別方法，其特征在于，所述根據所述更新信任值與更新不確定性值，確定當前異常檢測結果對應客戶端的模型權重，包括：
5.根據權利要求1所述的聯邦學習的攻擊者識別方法，其特征在于，所述對各模型更新信息分別進行信息提取，得到相應的更新行為特征，包括：
6.根據權利要求1所述的聯邦學習的攻擊者識別方法，其特征在于，所述模型更新信息為池化處理后的更新信息。
7.根據權利要求1-6任一項所述的聯邦學習的攻擊者識別方法，其特征在于，異常檢測結果為正常更新或異常更
8.一種聯邦學習的攻擊者識別裝置，其特征在于，包括：
9.一種電子設備，包括存儲器、處理器及存儲在所述存儲器上并可在所述處理器上運行的計算機程序，其特征在于，所述處理器執行所述程序時實現如權利要求1至7任一項所述聯邦學習的攻擊者識別方法。
10.一種非暫態計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，所述計算機程序被處理器執行時實現如權利要求1至7任一項所述聯邦學習的攻擊者識別方法。
...【技術特征摘要】
1.一種聯邦學習的攻擊者識別方法，其特征在于，包括：
2.根據權利要求1所述的聯邦學習的攻擊者識別方法，其特征在于，在得到所述異常檢測模型分別輸出的異常檢測結果之后，針對每一異常檢測結果，還分別執行如下操作：
3.根據權利要求2所述的聯邦學習的攻擊者識別方法，其特征在于，所述根據當前異常檢測結果中異常更新的預測概率值，結合當前異常檢測結果對應的客戶端的當前信任值與當前不確定性值，確定當前異常檢測結果對應客戶端的模型權重，包括：
4.根據權利要求3所述的聯邦學習的攻擊者識別方法，其特征在于，所述根據所述更新信任值與更新不確定性值，確定當前異常檢測結果對應客戶端的模型權重，包括：
5.根據權利要求1所述的聯邦學習的攻擊者識別方法，其特征在于，所述對各模型更新信息分別進行信息提取，得到相應的更新行為特征...
【專利技術屬性】
技術研發人員：周贊，孫溢，楊樹杰，許長橋，李騰飛，黃思喆，
申請(專利權)人：北京郵電大學，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。