【技術實現步驟摘要】
本專利技術涉及圖像分類識別，尤其涉及一種基于元注意力機制的火星表面巖石分類系統和方法。
技術介紹
1、目前，研究人員通常采用遙感圖像和深度學習技術對火星表面的巖石進行分類。遙感圖像提供了大范圍、高分辨率的火星表面信息，而深度學習技術，尤其是卷積神經網絡，在圖像識別和分類任務中表現出了優異的性能。
2、相關技術中，基于自注意力機制的transformer模型逐漸受到關注，能夠捕捉全局信息并提高分類精度。然而，transformer模型在處理復雜地質圖像時，仍然存在一些不足之處。例如，火星表面的巖石類型多樣，且其紋理、顏色和形態特征復雜，transformer模型存在分類精度低的問題。并且，transformer模型在面對不同的圖像分類任務時，需要進行由于大量的參數調節和模型再訓練，需要大量的計算資源和時間，但由于設置在火星的計算設備配置的計算資源有限，因此導致transformer模型的適應性和泛化能力弱，無法滿足對火星表面的巖石進行準確分類的需求。
3、因此，亟須一種基于元注意力機制的火星表面巖石分類系統和方法，能夠提升分類精度，并且避免模型進行大規模的參數調節和模型再訓練，節約計算資源和時間，滿足對火星表面的巖石進行準確分類的需求。
技術實現思路
1、本專利技術實施例提供一種基于元注意力機制的火星表面巖石分類系統和方法，在面對不同的火星巖石分類任務時，能夠有效提升分類精度，并且避免模型進行大規模的參數調節和模型再訓練，節約計算資源和時間，滿足對火星表面的巖
2、為達到上述目的，本專利技術的實施例采用如下技術方案：
3、第一方面，提供一種基于元注意力機制的火星表面巖石分類系統，上述系統包括：圖像獲取模塊和神經網絡模型；圖像獲取模塊的輸出端與神經網絡模型的輸入端連接；圖像獲取模塊，用于獲取火星圖像，火星圖像包括巖石區域；神經網絡模型，用于對火星圖像進行處理，得到巖石區域對應的分類結果；其中，神經網絡模型包括依次層級連接的嵌入單元、多個transformer單元和前饋神經網絡，嵌入單元用于確定火星圖像包括的多個圖像塊中每個圖像塊對應的特征向量；多個transformer單元和前饋神經網絡用于根據每個圖像塊對應的特征向量得到巖石區域對應的分類結果；神經網絡模型配置有元注意力機制，對于每個transformer單元，元注意力機制用于為每個圖像塊分配注意力掩碼，以及用于根據注意力掩碼對每個圖像塊對應的自注意力值進行調整，得到每個圖像塊對應的調整注意力值；元注意力機制還用于確定前饋神經網絡中每個神經元的權重值，以及用于基于前饋神經網絡中每個神經元的權重值調整前饋神經網絡的權重矩陣。
4、在第一方面的一種可能的實現方式中，第i個圖像塊對應的調整注意力值的確定公式為：
5、
6、其中，mj為第i個圖像塊對第j個圖像塊的注意力掩碼，為第i個圖像塊對第j個圖像塊的自注意力值，ms為第i個圖像塊對第s個圖像塊的注意力掩碼，為第i個圖像塊對第s個圖像塊的自注意力值。
7、在第一方面的一種可能的實現方式中，前饋神經網絡中每個神經元的權重值wi的確定公式為：
8、
9、其中，ti,l為第i個圖像塊在第l個分類任務中對應的關系值，ti,k為第i個圖像塊在第k個分類任務中對應的關系值，gi為gumbel分布中的隨機采樣值，τ為預設參數，且τ大于0；
10、前饋神經網絡的權重矩陣的確定公式ωi,j為：
11、w2＝wi,jw1；
12、其中，w2為調整后的前饋神經網絡的權重矩陣，w1為調整前的前饋神經網絡的權重矩陣，wi,j為根據每個神經元的權重值確定的權重矩陣。
13、在第一方面的一種可能的實現方式中，圖像獲取模塊還用于獲取第一數量的訓練樣本，每個訓練樣本包括巖石區域的火星圖像以及巖石區域對應的分類結果；圖像獲取模塊還用于對第一數量的訓練樣本進行旋轉處理、翻轉處理和/或鏡像處理，得到訓練樣本集，訓練樣本集包括第二數量的訓練樣本，其中，第一數量小于第二數量，且第二數量的訓練樣本中包括每個分類結果的巖石區域的火星圖像的數量相同；上述系統還包括模型訓練模塊；模型訓練模塊用于構建目標函數；基于目標函數，根據訓練樣本集對神經網絡模型進行迭代訓練，得到訓練完成的神經網絡模型；其中，目標函數為交叉熵函數lce和丟棄控制函數ldc的加和；
14、在第一方面的一種可能的實現方式中，交叉熵函數為：
15、lce(ρ1，ρ2)＝-(ρ1log(ρ2))+(1-ρ1)log(1-ρ2)；
16、其中，ρ1為真實概率，ρ2為預測概率；
17、丟棄控制函數為：
18、
19、其中，l為第二數量，n為每個訓練樣本包括的圖像塊數量，為第l個訓練樣本的第i個圖像塊的二進制掩碼；λ為預設系數。
20、本專利技術的有益效果為：本專利技術提供的系統通過為神經網絡模型配置元注意力機制，以為火星圖像的每個圖像塊分配注意力掩碼，以實現對神經網絡模型的每個transformer單元的自注意力值進行調整。同時元注意力機制還能夠確定每個神經元對應的權重值，并通過權重值調整神經網絡模型的前饋神經網絡的權重矩陣，這樣一來，在面對不同的火星巖石分類任務時，能夠有效提升分類精度，并且，由于部署在火星的計算設備的計算資源有限，本專利技術提供的系統能夠避免模型在面對不同的分類任務和不同種類的巖石區域時，進行大規模的參數調節和模型再訓練，節約計算資源和時間，滿足對火星表面的巖石進行準確分類的需求。
21、第二方面，本專利技術實施例提供一種基于元注意力機制的火星表面巖石分類方法，應用于火星表面巖石分類系統，上述系統包括圖像獲取模塊和神經網絡模型；圖像獲取模塊的輸出端與神經網絡模型的輸入端連接；上述方法包括：圖像獲取模塊獲取火星圖像，火星圖像包括巖石區域；神經網絡模型對火星圖像進行處理，得到巖石區域對應的分類結果；其中，神經網絡模型包括依次層級連接的嵌入單元、多個transformer單元和前饋神經網絡，嵌入單元用于確定火星圖像包括的多個圖像塊中每個圖像塊對應的特征向量；多個transformer單元和前饋神經網絡用于根據每個圖像塊對應的特征向量得到巖石區域對應的分類結果；神經網絡模型配置有元注意力機制，對于每個transformer單元，元注意力機制用于為每個圖像塊分配注意力掩碼，以及用于根據注意力掩碼對每個圖像塊對應的自注意力值進行調整，得到每個圖像塊對應的調整注意力值；元注意力機制還用于確定前饋神經網絡中每個神經元的權重值，以及用于基于前饋神經網絡中每個神經元的權重值調整前饋神經網絡的權重矩陣。
22、在第二方面的一種可能的實現方式中，第i個圖像塊對應的調整注意力值的確定公式為：
23、
24、其中，mj為第i個圖像塊對第j個圖像塊的注意力掩碼，為第i個圖像塊對第j個圖像塊的自注意力值，ms為第i個圖像塊對第s個圖本文檔來自技高網...
【技術保護點】
1.一種基于元注意力機制的火星表面巖石分類系統，其特征在于，所述系統包括：
2.根據權利要求1所述的系統，其特征在于，第i個圖像塊對應的調整注意力值的確定公式為：
3.根據權利要求2所述的系統，其特征在于，所述前饋神經網絡中每個神經元的權重值wi的確定公式為：
4.根據權利要求3所述的系統，其特征在于，所述圖像獲取模塊還用于獲取第一數量的訓練樣本，每個訓練樣本包括巖石區域的火星圖像以及巖石區域對應的分類結果；所述圖像獲取模塊還用于對所述第一數量的訓練樣本進行旋轉處理、翻轉處理和/或鏡像處理，得到訓練樣本集，所述訓練樣本集包括第二數量的訓練樣本，其中，第一數量小于第二數量，且所述第二數量的訓練樣本中包括每個分類結果的巖石區域的火星圖像的數量相同；
5.根據權利要求4所述的系統，其特征在于，所述交叉熵函數為：
6.一種基于元注意力機制的火星表面巖石分類方法，其特征在于，應用于火星表面巖石分類系統，所述系統包括圖像獲取模塊和神經網絡模型；所述圖像獲取模塊的輸出端與所述神經網絡模型的輸入端連接；
7.根據權利要求6所
8.根據權利要求7所述的系統，其特征在于，所述前饋神經網絡中每個神經元的權重值wi的確定公式為：
9.根據權利要求8所述的系統，其特征在于，所述系統還包括模型訓練模塊，所述方法還包括：
10.根據權利要求9所述的系統，其特征在于，所述交叉熵函數為：
...【技術特征摘要】
1.一種基于元注意力機制的火星表面巖石分類系統，其特征在于，所述系統包括：
2.根據權利要求1所述的系統，其特征在于，第i個圖像塊對應的調整注意力值的確定公式為：
3.根據權利要求2所述的系統，其特征在于，所述前饋神經網絡中每個神經元的權重值wi的確定公式為：
4.根據權利要求3所述的系統，其特征在于，所述圖像獲取模塊還用于獲取第一數量的訓練樣本，每個訓練樣本包括巖石區域的火星圖像以及巖石區域對應的分類結果；所述圖像獲取模塊還用于對所述第一數量的訓練樣本進行旋轉處理、翻轉處理和/或鏡像處理，得到訓練樣本集，所述訓練樣本集包括第二數量的訓練樣本，其中，第一數量小于第二數量，且所述第二數量的訓練樣本中包括每個分類結果的巖石區域的火星圖...
【專利技術屬性】
技術研發人員：王瑞，周可法，王金林，張清，畢建濤，汪瑋，李超，馬秀梅，白泳，裘賀順，屈廣俊，王彬彬，孫慧中，周懿文，廖濤，李冬，趙崇，邱子蕓，寇雁菲，原衛亭，高岳，趙得全，呂志鴻，單禹，盧應鵬，
申請(專利權)人：中國科學院空間應用工程與技術中心，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。