System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本申請涉及圖像處理,特別是涉及一種基于自監督三重神經網絡的圖像特征提取方法。
技術介紹
1、在計算機視覺領域,圖像識別和圖像分割是眾多應用的關鍵環節,廣泛應用于醫療、交通等多個領域。然而,當前許多圖像在進行圖像識別和圖像分割時,精度往往不盡如人意。在醫療領域,例如醫學影像的分析,由于圖像的復雜性和多樣性,傳統的圖像識別和分割技術難以準確地識別病變組織,導致誤診率較高。在交通領域,道路監控攝像頭拍攝的圖像,在復雜天氣或光照條件下,對車輛、行人等目標的識別和分割精度也會受到影響。這些問題的根源在于圖像特征提取的精度不足。圖像特征是圖像識別和分割的基礎,準確提取圖像特征能夠為后續的分析和決策提供有力支持。
2、現有的圖像特征提取方法存在諸多局限性。深度學習在眾多領域的圖像任務中成績斐然,如圖像分類、圖像偽造、語義分割等。然而,監督學習方法依賴手動設計的標簽,在醫療、軍事等領域,標簽成本高昂且難以獲取,這使得相關數據獲取困難,無法有效進行訓練。自監督學習作為一種無監督學習方法,能有效解決這些問題。早期自監督學習方法如?k-?means,從數據相似性出發,在特征空間進行相似性分析以實現圖像分類,但在處理特征差異較小或不同模態的數據時表現欠佳。例如在醫學影像、偵察等復雜圖像場景中,圖像的特征差異較小,傳統的?k?-?means?方法難以準確提取特征,導致圖像識別和分割精度不高。同時,一些方法從圖像內容出發,使用旋轉、蒙版或拼圖來預測圖像屬性,但在復雜圖像場景的語義識別上存在困難。例如在交通監控圖像中,不同天氣、光照條件下的圖像語
3、然而,這些方法大多針對圖像數據設計,在面對多模態任務時,如結合紅外圖像與可見光圖像、超聲圖像與磁共振圖像等,難以有效處理不同模態數據的特征差異,導致圖像識別和分割精度難以提升。因此,提高圖像特征提取精度成為解決圖像識別和分割精度問題的關鍵所在。通過改進圖像特征提取方法,能夠更好地捕捉圖像的關鍵特征,減少信息丟失,提高圖像識別和分割的準確性,滿足各個領域對圖像識別和分割精度的需求。
技術實現思路
1、基于此,有必要針對上述技術問題,提供一種能夠提高圖像特征提取精度的基于自監督三重神經網絡的圖像特征提取方法。
2、一種基于自監督三重神經網絡的圖像特征提取方法,所述方法包括:
3、獲取待提取的領域圖像;構建基于自監督三重神經網絡的圖像特征提取模型;圖像特征提取模型包括學生網絡編碼器、與學生網絡編碼器具備相同結構的同構教師網絡編碼器以及異構教師網絡編碼器;學生網絡編碼器和同構教師網絡編碼器構成第一師生網絡蒸餾結構;學生網絡編碼器和異構教師網絡編碼器構成第二師生網絡蒸餾結構;同構教師網絡編碼器和異構教師網絡編碼器構建教師-教師網絡蒸餾結構;
4、根據預先設計的特征差分回歸損失和預先設計的特征多樣性保留損失分別對第一師生網絡蒸餾結構和教師-教師網絡蒸餾結構以及第二師生網絡蒸餾結構進行蒸餾訓練,得到訓練好的圖像特征提取模型;
5、利用訓練好的圖像特征提取模型對待提取的領域圖像進行特征提取。
6、上述基于自監督三重神經網絡的圖像特征提取方法,本申請針對傳統暹羅網絡在處理多模態數據時的不足,引入異構教師網絡分支形成三重異構網絡架構,這種結構能夠利用同構及異構網絡對同一目標網絡(學生網絡)進行蒸餾訓練,使得學生網絡可以從不同角度學習特征表示,不同網絡分支可以捕捉到各自獨特的特征信息,然后通過蒸餾訓練傳遞給學生網絡,從而提高學生網絡對復雜多模態圖像特征的提取能力,進而提升圖像識別和分割的精度。在由同構教師網絡?-?學生網絡組成的師生蒸餾模型結構中,通過設計特征差分回歸損失進行歸一化來防止出現梯度消失的現象。這確保了在訓練過程中,學生網絡能夠穩定地從同構教師網絡學習到相似但更優的特征表示,從而提高圖像特征提取的精度。
7、在教師?-?教師網絡蒸餾結構中,使用特征差分回歸損失,使得兩個教師網絡在追求編碼器獲取特征的一致性過程中,相互學習和優化。這有助于在多模態數據處理時,將不同模態下的特征進行更好的對齊和融合,使學生網絡能夠學習到全面的視覺特征表示,提高對多模態圖像特征提取的準確性。在由異構教師網絡?-?學生網絡組成的師生網絡蒸餾結構中,使用預先設計的特征多樣性保留損失可以防止來自編碼器的非信息向量差異過大帶來的梯度爆炸現象,避免出現網絡崩潰。這保證了學生網絡在從異構教師網絡學習特征時的穩定性,能夠充分吸收異構網絡所捕捉到的獨特特征信息,同時避免因梯度爆炸而無法正常訓練,從而提升對復雜圖像特征的提取能力,尤其是在領域復雜天氣或光照條件下的圖像時,能夠更準確地提取特征,提高圖像識別和分割精度。
本文檔來自技高網...【技術保護點】
1.一種基于自監督三重神經網絡的圖像特征提取方法,其特征在于,所述方法包括:
2.根據權利要求1所述的方法,其特征在于,所述預先設計的特征差分回歸損失的過程包括:
3.根據權利要求2所述的方法,其特征在于,所述定義回歸損失為:
4.根據權利要求1所述的方法,其特征在于,通過計算模型生成的特征與目標特征之間的平方誤差并進行歸一化構建表示不變性損失為
5.根據權利要求1所述的方法,其特征在于,利用歸一化的特征數據矩陣計算標準差為:
6.根據權利要求5所述的方法,其特征在于,根據標準差構建標準差損失為:
7.根據權利要求1所述的方法,其特征在于,定義協方差正則化項為協方差矩陣的非對角系數的平方和為
8.根據權利要求7所述的方法,其特征在于,根據所述協方差正則化項構建相關性損失為
9.根據權利要求1所述的方法,其特征在于,將所述不變性損失、標準差損失和相關性損失進行加權平均,得到特征多樣性保留損失,包括:
【技術特征摘要】
1.一種基于自監督三重神經網絡的圖像特征提取方法,其特征在于,所述方法包括:
2.根據權利要求1所述的方法,其特征在于,所述預先設計的特征差分回歸損失的過程包括:
3.根據權利要求2所述的方法,其特征在于,所述定義回歸損失為:
4.根據權利要求1所述的方法,其特征在于,通過計算模型生成的特征與目標特征之間的平方誤差并進行歸一化構建表示不變性損失為
5.根據權利要求1所述的方法,其特征在于,利用歸一化的...
【專利技術屬性】
技術研發人員:蔣杰,周天健,周秉泉,鐘一,詹禮新,謝毓湘,魏迎梅,
申請(專利權)人:中國人民解放軍國防科技大學,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。