【技術實現步驟摘要】
本公開涉及人工智能檢測，尤其涉及一種智能決策系統的魯棒性檢測方法、裝置、電子設備及介質。
技術介紹
1、智能決策系統可應用于多個領域幫助用戶進行決策，魯棒性檢測是檢測智能決策系統的穩定性和可靠性的一種手段。
2、目前，一種對智能決策系統的魯棒性進行檢測的方法為，通過對原始數據進行線性變換、仿射變換等處理，生成檢測用例，再通過智能決策系統對檢測用例進行處理，以處理結果的準確性代表智能決策系統的魯棒性，但不能保證準確的確定智能決策系統的魯棒性。
技術實現思路
1、為了解決上述技術問題，本公開提供了一種智能決策系統的魯棒性檢測方法、裝置、電子設備及介質。
2、第一方面，本公開提供了一種智能決策系統的魯棒性檢測方法，包括：
3、對原始數據集中的原始數據進行處理，生成檢測數據集；所述檢測數據集包括：對所述原始數據進行處理得到的變換數據、對抗性數據、以及基于模糊算法得到的優化數據；
4、將所述檢測數據集輸入所述智能決策系統，基于所述智能決策系統對所述檢測數據集中的數據進行處理；
5、獲取處理過程中所述智能決策系統的神經元覆蓋率、網絡層覆蓋率、以及神經元對覆蓋率；
6、基于所述神經元覆蓋率、所述網絡層覆蓋率、以及所述神經元對覆蓋率確定所述智能決策系統的魯棒性。
7、在一些實施例中，所述對原始數據集中的原始數據進行處理，生成檢測數據集，包括：
8、對所述原始數據集中的原始數據進行線性變換和/或仿射變換，
9、將所述原始數據輸入訓練好的生成對抗網絡模型進行處理，得到并輸出所述對抗性數據；
10、利用多覆蓋引導模糊測試對所述原始數據進行處理，得到所述優化數據。
11、在一些實施例中，所述獲取處理過程中所述智能決策系統的神經元覆蓋率，包括：
12、針對所述智能決策系統中的每個神經元，根據所述神經元的輸出值與激活閾值的關系，確定所述神經元的激活狀態數據；
13、基于所述神經元的激活狀態數據計算所述智能決策系統的神經元覆蓋率。
14、在一些實施例中，所述基于所述神經元的激活狀態數據計算所述智能決策系統的神經元覆蓋率，包括：
15、根據所述神經元的激活狀態數據計算所述智能決策系統的激活神經元覆蓋率、k多節神經元覆蓋率、以及神經元邊界覆蓋率；
16、通過對所述激活神經元覆蓋率、所述k多節神經元覆蓋率、以及所述神經元邊界覆蓋率加權求和，得到所述智能決策系統的神經元覆蓋率。
17、在一些實施例中，所述獲取處理過程中所述智能決策系統的網絡層覆蓋率，包括：
18、針對所述智能決策系統中的每個網絡層，獲取所述網絡層中各神經元的輸出值，確定輸出值排在前k位的神經元在所述網絡層的所有神經元中所占的比例，作為所述網絡層對應的前k位神經元覆蓋率；
19、通過對各網絡層的前k位神經元覆蓋率進行加權求和，得到所述智能決策系統中的網絡層覆蓋率。
20、在一些實施例中，所述獲取處理過程中所述智能決策系統的神經元對覆蓋率，包括：
21、針對所述智能決策系統中每個神經元對，確定所述神經元對中兩個神經元的輸出值、符號、以及距離；
22、根據每個神經元對中兩個神經元的輸出值、符號、以及距離，確定所述智能決策系統中的神經元對覆蓋率。
23、在一些實施例中，所述根據每個神經元對中兩個神經元的輸出值、符號、以及距離，確定所述智能決策系統中的神經元對覆蓋率，包括：
24、針對每個神經元對，若所述神經元對中兩個神經元的符號相同，則確定所述神經元對被覆蓋；或，
25、若所述神經元對中兩個神經元的符號相同，且所述兩個神經元輸出值的差值大于第一閾值，則確定所述神經元對被覆蓋；或，
26、若所述神經元對中兩個神經元的符號相同，且所述兩個神經元的輸出值均大于第二閾值，則確定所述神經元對被覆蓋；或，
27、若所述神經元對中兩個神經元輸出值的差值大于第一閾值，且所述兩個神經元的輸出值均大于第二閾值，則確定所述神經元對被覆蓋；
28、計算被覆蓋的神經元對在所述智能決策系統的神經元對中所占的比例，確定所述智能決策系統中的神經元對覆蓋率。
29、第二方面，本公開提供一種智能決策系統的魯棒性檢測裝置，包括：
30、原始數據處理模塊，用于對原始數據集中的原始數據進行處理，生成檢測數據集；所述檢測數據集包括：對所述原始數據進行處理得到的變換數據、對抗性數據、以及基于模糊算法得到的優化數據；
31、檢測數據處理模塊，用于將所述檢測數據集輸入所述智能決策系統，基于所述智能決策系統對所述檢測數據集中的數據進行處理；
32、覆蓋率計算模塊，用于在處理過程中，計算所述智能決策系統的神經元覆蓋率、網絡層覆蓋率、以及神經元對覆蓋率；
33、魯棒性評估模塊，用于基于所述神經元覆蓋率、所述網絡層覆蓋率、以及所述神經元對覆蓋率確定所述智能決策系統的魯棒性。
34、第三方面，本公開實施例提供一種電子設備，包括：存儲器和處理器，所述存儲器用于存儲計算機程序，所述處理器用于在調用計算機程序時執行第一方面或第一方面任一種可選的實施方式所述的智能決策系統的魯棒性檢測方法。
35、第四方面，本公開實施例提供一種計算機可讀存儲介質，其上存儲有計算機程序，所述計算機程序被處理器執行時實現第一方面或第一方面任一種可選的實施方式所述的智能決策系統的魯棒性檢測方法。
36、本公開實施例提供的技術方案與現有技術相比具有如下優點：
37、本公開實施例提供的智能決策系統的魯棒性檢測方法包括：對原始數據集中的原始數據進行處理，生成檢測數據集；檢測數據集包括：對原始數據進行處理得到的變換數據、對抗性數據、以及基于模糊算法得到的優化數據；將檢測數據集輸入所述智能決策系統，基于智能決策系統對檢測數據集中的數據進行處理；獲取處理過程中智能決策系統的神經元覆蓋率、網絡層覆蓋率、以及神經元對覆蓋率；基于神經元覆蓋率、網絡層覆蓋率、以及神經元對覆蓋率確定智能決策系統的魯棒性。一方面，本公開實施例通過多種數據處理方式對原始數據集進行處理，得到多樣性的檢測數據集用于智能決策系統的魯棒性檢測，可提升魯棒性檢測的全面性。另一方面，本公開實施例通過基于神經元覆蓋率、網絡層覆蓋率、以及神經元對覆蓋率等多個維度的評價指標確定智能決策系統的魯棒性，可提高評估結果的可靠性。多樣性的檢測數據和多維度的評價指標，提高了確定智能決策系統魯棒性的準確性。
本文檔來自技高網...【技術保護點】
1.一種智能決策系統的魯棒性檢測方法，其特征在于，包括：
2.根據權利要求1所述的方法，其特征在于，所述對原始數據集中的原始數據進行處理，生成檢測數據集，包括：
3.根據權利要求1所述的方法，其特征在于，所述獲取處理過程中所述智能決策系統的神經元覆蓋率，包括：
4.根據權利要求3所述的方法，其特征在于，所述基于所述神經元的激活狀態數據計算所述智能決策系統的神經元覆蓋率，包括：
5.根據權利要求1所述的方法，其特征在于，所述獲取處理過程中所述智能決策系統的網絡層覆蓋率，包括：
6.根據權利要求1所述的方法，其特征在于，所述獲取處理過程中所述智能決策系統的神經元對覆蓋率，包括：
7.根據權利要求6所述的方法，其特征在于，所述根據每個神經元對中兩個神經元的輸出值、符號、以及距離，確定所述智能決策系統中的神經元對覆蓋率，包括：
8.一種智能決策系統的魯棒性檢測裝置，其特征在于，包括：
9.一種電子設備，包括：存儲器和處理器，所述存儲器存儲有計算機程序，其特征在于，所述處理器執行所述計算機程序時
10.一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，所述計算機程序被處理器執行時實現權利要求1至7中任一項所述的智能決策系統的魯棒性檢測方法。
...【技術特征摘要】
1.一種智能決策系統的魯棒性檢測方法，其特征在于，包括：
2.根據權利要求1所述的方法，其特征在于，所述對原始數據集中的原始數據進行處理，生成檢測數據集，包括：
3.根據權利要求1所述的方法，其特征在于，所述獲取處理過程中所述智能決策系統的神經元覆蓋率，包括：
4.根據權利要求3所述的方法，其特征在于，所述基于所述神經元的激活狀態數據計算所述智能決策系統的神經元覆蓋率，包括：
5.根據權利要求1所述的方法，其特征在于，所述獲取處理過程中所述智能決策系統的網絡層覆蓋率，包括：
6.根據權利要求1所述的方法，其特征在于，所述獲取處理過程中所述智能決策...
【專利技術屬性】
技術研發人員：趙國亮，穆培培，趙琪，郭振洲，李尚杰，姜晶，
申請(專利權)人：航天中認軟件測評科技北京有限責任公司，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。