【技術實現步驟摘要】
本專利技術涉及隱私計算，尤其涉及一種魯棒且安全的聯邦聚合方法及系統。
技術介紹
1、近年來，數據隱私問題被日益重視，集體和個人數據不出本地的訴求日漸增加；而另一方面，基于大數據的機器學習和深度學習算法需要大量的數據賦能，數據孤島現象顯然阻礙了當前人工智能的發展,聯邦學習的提出，打破了數據孤島的束縛，這種技術可以使得在保證數據不出本地的隱私前提下，實現機器學習或深度學習的模型訓練,然而，傳統聯邦學習仍面臨嚴峻的安全挑戰，具體包括：(1)、隱私問題：攻擊者可以通過分析用戶提交的本地模型，或者分析連續的全局模型的變化，竊取用戶的本地數據庫信息；(2)、模型完整性問題：攻擊者可以通過向聚合服務器發送異常的本地模型來使全局模型的訓練過程偏向于攻擊者選定的方向，破壞正常模型。
2、為解決聯邦學習的隱私保護問題，bonawitz?et?a?l.在2017年提出了半誠實安全的安全聚合算法secagg，其使用雙線性掩碼技術保護本地模型不被攻擊者得到；然而，secagg只是保護了本地模型的隱私性，卻沒有保護全局模型的隱私性，雖然攻擊者利用連續的全局模型分析每個用戶的本地數據仍然很困難，但已有一些工作顯示，這在理論上是可行的，因此，聯邦學習過程中，每輪的全局模型(除最后一輪外)都應該進行隱私保護，而目前能做到這種強隱私保護的技術有同態加密和差分隱私，同態加密(he)可以使數據在密文狀態下，仍保持運算性質，因此在隱私計算中得到廣泛的運用，但由于同態加密的計算復雜度過高，在聯邦學習這種需要大量運算的場景中并不十分適合，chengl?iang?
3、為解決聯邦模型的完整性問題，即防御惡意用戶的中毒攻擊(包括數據中毒攻擊和模型中毒攻擊)，現有工作主要有檢測異常模型更新和拜占庭魯棒性緩解兩種方法。其中異常模型更新的檢測通常只是驗證模型訓練的正確性，因此無法防御攻擊者的數據中毒攻擊；拜占庭魯棒性緩解方法基于對惡意模型和正常模型的不同點的分析，排除異常模型，以保證模型的魯棒性。然而，這兩種方法都需要使用準確的本地模型向量來評估，若在本地模型中添加差分隱私噪聲，則會大幅度降低這種評估的水平。
技術實現思路
1、有鑒于此，本專利技術提出一種魯棒且安全的聯邦聚合方法及系統，可以解決現有技術所存在的在使用差分隱私技術保護模型隱私的場景中不可實現魯棒性評估的缺陷。
2、本專利技術的技術方案是這樣實現的：
3、一種魯棒且安全的聯邦聚合方法，具體包括：
4、用戶在本地完成每輪訓練后，將本地模型參數向量使用可驗證秘密分享技術分發給輔助服務器和聚合服務器，同時，輔助服務器與聚合服務器通過安全信道協商獲得可驗證差分隱私噪聲；
5、輔助服務器接收到來自用戶的參數份額后，計算出可驗證魯棒性認證信息，并在本地模型參數向量中添加可驗證差分隱私噪聲，將可驗證魯棒性認證信息和添加可驗證差分隱私噪聲的本地模型參數向量發送給聚合服務器；
6、聚合服務器驗證輔助服務器提交的信息的正確性，并檢查每個用戶的可驗證魯棒性認證信息和添加可驗證差分隱私噪聲的本地模型參數向量是否符合要求，過濾掉異常的本地模型參數，并完成聚合操作，得到帶噪聲的魯棒全局模型并將其發布。
7、作為所述魯棒且安全的聯邦聚合方法的進一步可選方案，所述用戶在本地完成每輪訓練后，將本地模型參數向量使用可驗證秘密分享技術分發給輔助服務器和聚合服務器，具體包括：
8、設用戶u∈u的本地模型參數向量為wu＝{wu，1，...，wu，n}，使用算術分享將其分為|s|份：{[wu]s|s∈s}，使得wu＝∑s∈s[wu]s；
9、用戶u選擇一個隨機數ru，使用算術分享將其分為|s|份：{[ru]s|s∈s}，計算并公開pedersen承諾:
10、
11、其中q是一個大素數，g和h是的兩個不同的生成元，是q階整數域；
12、用戶u向輔助服務器s∈s分發秘密分享份額{[wu]s，[ru]s}，并向聚合服務器發送其承諾cu。
13、作為所述魯棒且安全的聯邦聚合方法的進一步可選方案，所述輔助服務器與聚合服務器通過安全信道協商獲得可驗證差分隱私噪聲，具體包括：
14、輔助服務器s隨機選擇n*nb個一比特的隨機數，記為：bs，i∈{0，1}和n*nb個隨機數并生成每個比特的pedersen承諾值：cs，i＝com(bs，i，rs，i)；
15、輔助服務器s將所有承諾值發送給聚合服務器；
16、聚合服務器接收到所有輔助服務器的承諾值{cs|s∈s}后，隨機選擇n*nb*|s|個比特的隨機數{βs，i|s∈s，i＝1，...，n*nb}，分成|s|份分別發送給每個輔助服務器；
17、輔助服務器s計算異或值：
18、
19、依據異或值結果，求和得到可驗證差分隱私噪聲(vs，rs)。
20、作為所述魯棒且安全的聯邦聚合方法的進一步可選方案，所述輔助服務器接收到來自用戶的參數份額后，計算出可驗證魯棒性認證信息，具體包括：
21、輔助服務器s利用算術分享的加法同態特性和乘法三元組技術構造魯棒性評估函數的算術電路，再將用戶的參數份額代入算術電路中運算，得到用戶u的魯棒性評估值的分享[valid(wu)]s，從而計算出可驗證魯棒性認證信息。
22、作為所述魯棒且安全的聯邦聚合方法的進一步可選方案，所述在本地模型參數向量中添加可驗證差分隱私噪聲，具體包括：
23、獲取可驗證差分隱私噪聲；
24、依據魯棒性評估函數的算術電路、可驗證差分隱私噪聲和本地模型參數向量，得到添加可驗證差分隱私噪聲的本地模型參數向量[valid(wu)]s。
25、作為所述魯棒且安全的聯邦聚合方法的進一步可選方案，所述聚合服務器驗證輔助服務器提交的信息的正確性，具體包括：
26、聚合服務器檢查每個輔助服務器提交的用戶更新模型的數量是否一致，若有少量輔助服務器提交的本文檔來自技高網...
【技術保護點】
1.一種魯棒且安全的聯邦聚合方法，其特征在于，具體包括：
2.根據權利要求1所述的一種魯棒且安全的聯邦聚合方法，其特征在于，所述用戶在本地完成每輪訓練后，將本地模型參數向量使用可驗證秘密分享技術分發給輔助服務器和聚合服務器，具體包括：
3.根據權利要求2所述的一種魯棒且安全的聯邦聚合方法，其特征在于，所述輔助服務器與聚合服務器通過安全信道協商獲得可驗證差分隱私噪聲，具體包括：
4.根據權利要求3所述的一種魯棒且安全的聯邦聚合方法，其特征在于，所述輔助服務器接收到來自用戶的參數份額后，計算出可驗證魯棒性認證信息，具體包括：
5.根據權利要求4所述的一種魯棒且安全的聯邦聚合方法，其特征在于，所述在本地模型參數向量中添加可驗證差分隱私噪聲，具體包括：
6.根據權利要求5所述的一種魯棒且安全的聯邦聚合方法，其特征在于，所述聚合服務器驗證輔助服務器提交的信息的正確性，具體包括：
7.根據權利要求6所述的一種魯棒且安全的聯邦聚合方法，其特征在于，所述檢查每個用戶的可驗證魯棒性認證信息和添加可驗證差分隱私噪聲的本地模型參數
8.根據權利要求7所述的一種魯棒且安全的聯邦聚合方法，其特征在于，所述過濾掉異常的本地模型參數，并完成聚合操作，得到帶噪聲的魯棒全局模型，具體包括：
9.一種魯棒且安全的聯邦聚合系統，其特征在于，包括：
...【技術特征摘要】
1.一種魯棒且安全的聯邦聚合方法，其特征在于，具體包括：
2.根據權利要求1所述的一種魯棒且安全的聯邦聚合方法，其特征在于，所述用戶在本地完成每輪訓練后，將本地模型參數向量使用可驗證秘密分享技術分發給輔助服務器和聚合服務器，具體包括：
3.根據權利要求2所述的一種魯棒且安全的聯邦聚合方法，其特征在于，所述輔助服務器與聚合服務器通過安全信道協商獲得可驗證差分隱私噪聲，具體包括：
4.根據權利要求3所述的一種魯棒且安全的聯邦聚合方法，其特征在于，所述輔助服務器接收到來自用戶的參數份額后，計算出可驗證魯棒性認證信息，具體包括：
5.根據權利要求4所述的一種魯棒且安全的聯邦聚合方...
【專利技術屬性】
技術研發人員：曾立波，童瑤，彭家明，田新軍，林吉達，彭乾，戴永林，
申請(專利權)人：廣州芳禾數據有限公司，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。