【技術實現步驟摘要】
本專利技術涉及入侵檢測，具體為基于特征選擇及transformer-bigru的入侵檢測方法及系統。
技術介紹
1、根據檢測方法，入侵檢測系統可分為基于誤用的入侵檢測系統和基于異常的入侵檢測體系。如果入侵檢測系統在數據庫中發現未知網絡流量和已知網絡流量簽名之間的匹配，則入侵檢測系統立即提供警告。高檢測精度是一個好處，但缺點是該系統強烈依賴于當前的數據庫，這使得識別未識別的網絡攻擊具有挑戰性?；诋惓５娜肭謾z測系統檢測正常行為和異常行為之間的差異，當網絡行為與預期大相徑庭時，入侵檢測系統會發出警告。為了更好地檢測真實網絡中的未知流量，這是當前主流的研究熱點。
2、從模型學習的角度來看，傳統的機器學習、深度學習和強化學習都是基于異常的入侵檢測系統的流行方法。機器學習算法通常分為有監督和無監督兩類。常見的監督學習方法包括樸素貝葉斯、k-最近鄰、隨機森林、支持向量機等。非監督學習包括k-均值算法、層次聚類、高斯混合模型等。傳統的機器學習方法在面對高維特征時，由于網絡數據量的增加、誤報率的增加和準確性的降低，難以從大量的網絡數據中提取特征。數據量在增長，但異常流量在減少，這限制了傳統機器學習技術的發展。為了解決傳統機器學習技術存在的對網絡數據流量比例不平衡情況下準確率低下、性能差等問題。用于檢測入侵的系統采用深度學習分類算法、特征選擇技術。
技術實現思路
1、鑒于上述存在的問題，提出了本專利技術。
2、因此，本專利技術解決的技術問題是：解決實現現有入侵檢測算法存在的由
3、為解決上述技術問題，本專利技術提供如下技術方案：基于特征選擇及transformer-bigru的入侵檢測方法，包括：
4、對入侵檢測數據集進行歸一化處理，使用獨熱編碼處理字符型特征，轉換為數值型特征；通過改進后的lightgbm算法進行特征選擇，利用貝葉斯優化器優化lightgbm的參數；將處理好的數據輸入到transformer的編碼器，捕捉數據間的全局聯系并進行初步特征提取，使用雙向門控循環單元網絡提取時間特征；使用softmax分類器對特征進行分類，完成入侵檢測。
5、作為本專利技術所述的基于特征選擇及transformer-bigru的入侵檢測方法的一種優選方案，其中：所述轉換為數值型特征包括將獨熱編碼應用于將非數字特征，映射到二值空間向量中，在數據預處理中采用min-max縮放的方法，將數據縮小到特定的區間[0,1]，進行歸一化處理。
6、作為本專利技術所述的基于特征選擇及transformer-bigru的入侵檢測方法的一種優選方案，其中：所述歸一化處理表示為，
7、
8、其中，f是數據特征的值，fmin表示特征最小值，fmax為特征最大值，fnorm為歸一化后的值。
9、作為本專利技術所述的基于特征選擇及transformer-bigru的入侵檢測方法的一種優選方案，其中：所述特征選擇包括確定最優超參數組合，引入貝葉斯優化算法進行模型參數尋優，貝葉斯優化算法以貝葉斯定理為基礎，通過最大化采集函數到下一個最有潛力的評估點xt，進而評估目標函數yt，將新得到的(xt，yt)添加到已知評估點集合中，更新概率代理模型一次循環從而得到最優解。
10、作為本專利技術所述的基于特征選擇及transformer-bigru的入侵檢測方法的一種優選方案，其中：所述捕捉數據間的全局聯系并進行初步特征提取包括在預測模型中加入transformer，將自注意力層放在卷積層前面，在計算完qkv的相關值之后，再傳輸給卷積層，使用自注意力機制進行全局歸納，自注意力機制的計算中qkv的值表示為，
11、q＝wq·i
12、k＝wk·i
13、v＝wv·i
14、其中，q、k、v分別代表query、key、value矩陣，i為輸入矩陣。
15、作為本專利技術所述的基于特征選擇及transformer-bigru的入侵檢測方法的一種優選方案，其中：自注意力機制的attention值表示為，
16、
17、其中，q、k、v分別代表query、key、value矩陣；dk為key的維度。
18、作為本專利技術所述的基于特征選擇及transformer-bigru的入侵檢測方法的一種優選方案，其中：所述完成入侵檢測包括通過結合transformer和bigru網絡構建分層網絡模型，連續獲得數據的動態特性，在數據預處理階段使用了改進后的lightgbm進行特征選擇，剔除冗余特征，通過transformer和bigru進行進一步的特征選取，transformer模塊通過多頭注意力機制關注不同特征之間的聯系，提取特征，bigru捕捉到被單向gru忽略的特征信息，提高長時間跨度的序列數據精度，通過softmax分類器獲得分類結果，并使用softmax函數來計算最終分類模型的權重；
19、所述softmax函數表示為
20、
21、其中，z代表輸入數據，exp代表指數運算。。
22、本專利技術的另外一個目的是提供基于特征選擇及transformer-bigru的入侵檢測系統，其能通過將transformer與雙向門控循環單元網絡結合來提高分類準確率。
23、為解決上述技術問題，本專利技術提供如下技術方案：基于特征選擇及transformer-bigru的入侵檢測系統，包括：數據處理模塊、特征選擇模塊、特征提取模塊以及特征分類模塊；所述數據處理模塊用于對入侵檢測數據集進行歸一化處理，使用獨熱編碼處理字符型特征，轉換為數值型特征；所述特征選擇模塊用于通過改進后的lightgbm算法進行特征選擇，利用貝葉斯優化器優化lightgbm的參數；所述特征提取模塊用于將處理好的數據輸入到transformer的編碼器，捕捉數據間的全局聯系并進行初步特征提取，使用雙向門控循環單元網絡提取時間特征；所述特征分類模塊用于使用softmax分類器對特征進行分類，完成入侵檢測。
24、一種計算機設備，包括存儲器和處理器，所述存儲器存儲有計算機程序，所述處理器執行所述計算機程序時實現如上所述基于特征選擇及transformer-bigru的入侵檢測方法的步驟。
25、一種計算機可讀存儲介質，其上存儲有計算機程序，所述計算機程序被處理器執行時實現如上所述基于特征選擇及transformer-bigru的入侵檢測方法的步驟。
26、本專利技術的有益效果：本專利技術提供的基于特征選擇及transformer-bigru的入侵檢測方法將transformer和雙向門控循環單元網絡相結合，建立了一個新的組合預測模型。該模型中使用了transformer模塊通過多頭注意力機制關注不同特征之間的聯系，提取更加豐富的特征，bigru能夠捕捉到可能被單向gru忽略的特征信息，提高長時間跨度的序列數據精度。使用lightgbm進行特征選本文檔來自技高網...
【技術保護點】
1.基于特征選擇及transformer-BiGRU的入侵檢測方法，其特征在于，包括：
2.如權利要求1所述的基于特征選擇及transformer-BiGRU的入侵檢測方法，其特征在于：所述轉換為數值型特征包括將獨熱編碼應用于將非數字特征，映射到二值空間向量中，在數據預處理中采用MIN-MAX縮放的方法，將數據縮小到特定的區間[0,1]，進行歸一化處理。
3.如權利要求2所述的基于特征選擇及transformer-BiGRU的入侵檢測方法，其特征在于：所述歸一化處理表示為，
4.如權利要求3所述的基于特征選擇及transformer-BiGRU的入侵檢測方法，其特征在于：所述特征選擇包括確定最優超參數組合，引入貝葉斯優化算法進行模型參數尋優，貝葉斯優化算法以貝葉斯定理為基礎，通過最大化采集函數到下一個最有潛力的評估點xt，進而評估目標函數yt，將新得到的(xt，yt)添加到已知評估點集合中，更新概率代理模型一次循環從而得到最優解。
5.如權利要求4所述的基于特征選擇及transformer-BiGRU的入侵檢測方法，其特征在于：所述
6.如權利要求5所述的基于特征選擇及transformer-BiGRU的入侵檢測方法，其特征在于：自注意力機制的Attention值表示為，
7.如權利要求6所述的基于特征選擇及transformer-BiGRU的入侵檢測方法，其特征在于：所述完成入侵檢測包括通過結合Transformer和BiGRU網絡構建分層網絡模型，連續獲得數據的動態特性，在數據預處理階段使用了改進后的LightGBM進行特征選擇，剔除冗余特征，通過transformer和BiGRU進行進一步的特征選取，Transformer模塊通過多頭注意力機制關注不同特征之間的聯系，提取特征，BiGRU捕捉到被單向GRU忽略的特征信息，提高長時間跨度的序列數據精度，通過softmax分類器獲得分類結果，并使用Softmax函數來計算最終分類模型的權重；
8.一種采用如權利要求1～7任一所述的基于特征選擇及transformer-BiGRU的入侵檢測方法的系統，其特征在于，包括：
9.一種計算機設備，包括存儲器和處理器，所述存儲器存儲有計算機程序，其特征在于，所述處理器執行所述計算機程序時實現權利要求1至7中任一項所述的基于特征選擇及transformer-BiGRU的入侵檢測方法的步驟。
10.一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，所述計算機程序被處理器執行時實現權利要求1至7中任一項所述的基于特征選擇及transformer-BiGRU的入侵檢測方法的步驟。
...【技術特征摘要】
1.基于特征選擇及transformer-bigru的入侵檢測方法，其特征在于，包括：
2.如權利要求1所述的基于特征選擇及transformer-bigru的入侵檢測方法，其特征在于：所述轉換為數值型特征包括將獨熱編碼應用于將非數字特征，映射到二值空間向量中，在數據預處理中采用min-max縮放的方法，將數據縮小到特定的區間[0,1]，進行歸一化處理。
3.如權利要求2所述的基于特征選擇及transformer-bigru的入侵檢測方法，其特征在于：所述歸一化處理表示為，
4.如權利要求3所述的基于特征選擇及transformer-bigru的入侵檢測方法，其特征在于：所述特征選擇包括確定最優超參數組合，引入貝葉斯優化算法進行模型參數尋優，貝葉斯優化算法以貝葉斯定理為基礎，通過最大化采集函數到下一個最有潛力的評估點xt，進而評估目標函數yt，將新得到的(xt，yt)添加到已知評估點集合中，更新概率代理模型一次循環從而得到最優解。
5.如權利要求4所述的基于特征選擇及transformer-bigru的入侵檢測方法，其特征在于：所述捕捉數據間的全局聯系并進行初步特征提取包括在預測模型中加入transformer，將自注意力層放在卷積層前面，在計算完qkv的相關值之后，再傳輸給卷積層，使用自注意力機制進行全局歸納，自注意力機制的計算中qkv的值表示為，
6.如權利要求5所述的基于特征選擇及tr...
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。