System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 久久亚洲精品无码AV红樱桃 ,日产无码1区2区在线观看,尤物永久免费AV无码网站
  • 
    <ul id="o6k0g"></ul>
    <ul id="o6k0g"></ul>

    基于通道混合和自注意力機制的U型網絡的醫學圖像自動分割方法技術

    技術編號:43809913 閱讀:17 留言:0更新日期:2024-12-27 13:26
    本發明專利技術公開了一種基于通道混合和自注意力機制的U型網絡的醫學圖像自動分割方法。該方法將通道分組和擾動策略引入自注意力機制,有效的緩解了傳統自注意力方法通道冗余,運算成本昂貴等問題,并將卷積層提取局部空間信息和全局通道信息與自注意力層提取長距離空間依賴和建模局部通道信息的能力更加緊密的結合,以對特征有更加全面的建模能力。該方法使用的網絡首先將輸入的醫學核磁共振圖像或計算機斷層掃描圖像經過一個下采樣層以初步提取特征信息并縮小他的空間維度,接著將特征圖送入一個多層級對稱的編碼器?解碼器網絡,每個層級包含一個設計好的模塊,該模塊結構為一個由于深度可分離卷積構成的補丁嵌入模塊,一個基于通道分組和通道擾動的的自注意力層,一個由不同維度的卷積層構成的瓶頸卷積層。其中補丁嵌入模塊用于提取位置信息,中間的自注意力層用于提取長距離依賴關系,并通過通道分組和擾動提取局部通道信息。瓶頸卷積層用于探索歸納偏置并聚合全局通道信息。此外,在解碼器的跳躍連接過程中,我們構建了一個通道和空間交叉注意力的高效融合模塊,進一步增強了特征信息的恢復能力。我們在多個公共數據集上對所提出的模型進行了評估,實驗結果表明,本方法充分利用特征之間的通道信息和空間信息,相較于現有方法取得了較好的分割結果,可用于改善醫學圖像分割的性能,具有重要的應用前景和實際意義。

    【技術實現步驟摘要】

    本專利技術涉及一種醫學圖像自動分割方法,特別是一種基于通道混合和自注意力機制的u型網絡的醫學圖像自動分割方法。


    技術介紹

    1、卷積神經網絡(cnn)已被證明在醫學圖像分割中非常有效,這得益于它們在全面建模通道信息和理解局部空間關系方面的強大能力。然而,受限于感受野大小,傳統的卷積在捕獲長距離相關性和全局上下文方面存在局限性。近年來,transformers憑借其在建模長距離依賴關系和隱式空間關系的能力在醫學圖像分割中顯示出良好的前景。而在transformer模型中,備受關注的就是其自注意力設計,特別是局部窗口自注意力,通過其高效的計算和出色的空間信息捕獲能力,正逐漸成為計算機視覺中的關鍵組成部分。然而盡管transformer取得了重大進展,但目前研究主要集中在自注意力的空間維度上,而缺乏對于通道維度的關注。其中正在被廣泛使用的局部窗口自注意力機制在通道維度上共享權重,這限制了它的通道建模的能力。此外,當前的多頭自注意力機制通常采用切分通道維度的方式實現,然而由于通道信息之間缺乏交互,通道特征沒有得到充分利用。有研究發現一些注意力頭傾向于學習相似的線性投影,從而導致注意力圖冗余。因此,如何有效地緩解自注意力在通道特征建模中的限制,仍需進一步探索。近幾年主要出現了如下幾種方法:

    2、(1)基于注意力頭順序拆分的方法:通過對每個注意力頭執行串行計算,并將上一個頭的計算結果輸入到下一個頭的計算中。這種串行級聯的方式可以增加不同注意力頭部之間的信息交互,從而減少通道冗余,提高計算效率。

    3、(2)基于注意力頭分組并設計特征聚合的方法:通過對注意力頭部進行分組,并將最后的多個注意力頭部輸出組合,利用設計好的模塊進行特征通道聚合。這種方式可以充分的利用多頭注意力并行計算的特性,同時通過最后的特征融合模塊聚合來自多個頭部的通道特征信息。

    4、以上的兩個做法都有著其局限性,導致模型在醫學圖像分割任務上的表現有限。串行級聯的方法雖然通過順序交互促進了信息交換,但這種方法破壞了多頭注意力計算的并行性,降低了計算效率。另一方面,雖然在最后使用特征聚合模塊有助于融合多個頭部的特征信息。但是考慮到現行的transformer模型中,多頭注意力層的使用通常是一系列的連續過程。在這個過程的中仍然缺乏多個頭部之間的信息交互。因此,有必要設計一種適當的結構,能夠良好的利用多頭注意力層并行計算的優勢,同時促進多個頭部之間的信息交流,本專利技術旨在提出一種新方法以克服此困難并帶來更好推理結果。


    技術實現思路

    1、本專利技術的目的在于提供一種基于通道混合和自注意力機制的u型網絡的醫學圖像自動分割方法。實現本專利技術目的的技術解決方案為:對采樣后的圖像塊特征通過基于通道分組和通道擾動的自注意力層思想構建的模型進行特征提取,包括以下步驟:

    2、步驟1、基于已有醫學圖像數據集,對數據進行預處理。

    3、步驟2、將處理完數據劃分為訓練集,驗證集和測試集。

    4、步驟3、基于訓練集訓練設計好的分割網絡模型:

    5、步驟3.1、使用多級的編碼器網絡進行圖形特征的提取。

    6、步驟3.2、在每個編碼器中首先通過前置的補丁嵌入模塊進行位置信息的提取,中間的基于通道混合和通道洗牌的自注意力層提取全局空間信息和局部通道信息后,后置的卷積層提取局部空間信息并整合全局通道特征信息。

    7、步驟3.3、使用和編碼器對稱的解碼器結構進行特征的恢復,同時使用高效融合模塊傳遞編碼器層級中的細節信息。

    8、步驟3.4、基于損失函數計算損失后使用梯度下降算法收斂模型。

    9、步驟4、重復步驟3訓練分割網絡模型。

    10、步驟5、使用訓練后的分割網絡對測試數據進行測試。

    11、與現有技術相比,本專利技術的顯著優點在于:

    12、(1)為了解決多頭注意力通道冗余,提出了基于通道分組和通道擾動的策略,該策略可以充分的利用多頭注意力之間的并行計算的優勢,并無需額外參數的引入即可實現多個頭部之間的信息交流。

    13、(2)結合不同維度卷積的全局通道融合模塊。該模塊由不同維度的卷積構成,每一個編碼器階段的最后使用,不僅可以更加全面的融合來自不同頭部的特征信息,還能進一步提取模型的局部空間信息。這樣的組合有利于結合卷積網絡和transformer網絡各自的優勢。

    14、(3)補充了一個交叉空間和通道注意力的高效特征融合模塊,以進一步加強解碼器中特征信息的恢復。

    15、下面結合附圖對本專利技術作進一步詳細描述。

    本文檔來自技高網...

    【技術保護點】

    1.一種基于通道混合和自注意力機制的醫學圖像自動分割方法,其特征包括以下步驟:

    2.根據權利要求1所述的基于通道混合和自注意力機制的醫學圖像自動分割方法,其特征在于:步驟3中所述訓練的網絡模型,其具體方法為:

    3.根據權利要求1所述的基于通道混合和自注意力機制的醫學圖像自動分割方法,其特征在于:步驟3.2中所述的分割網絡中每個編碼器中的特征提取模塊,其具體方法為:

    【技術特征摘要】

    1.一種基于通道混合和自注意力機制的醫學圖像自動分割方法,其特征包括以下步驟:

    2.根據權利要求1所述的基于通道混合和自注意力機制的醫學圖像自動分割方法,其特征在于:步驟3中所述訓練的...

    【專利技術屬性】
    技術研發人員:紀則軒陳政
    申請(專利權)人:南京理工大學
    類型:發明
    國別省市:

    網友詢問留言 已有0條評論
    • 還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。

    1
    主站蜘蛛池模板: 色综合久久久无码中文字幕波多| 亚洲日韩看片无码电影| 国产成人精品无码专区| 在线播放无码高潮的视频| 国产V亚洲V天堂无码久久久| 无码人妻丰满熟妇啪啪网站| 人妻系列AV无码专区| HEYZO无码中文字幕人妻 | 亚洲av永久无码精品古装片 | 国产成人无码18禁午夜福利p| 亚洲成a∧人片在线观看无码| 成人午夜亚洲精品无码网站| 高清无码一区二区在线观看吞精 | 无码av免费一区二区三区| 无码人妻aⅴ一区二区三区| 日韩人妻无码精品一专区| 亚洲色偷拍另类无码专区| 国产a v无码专区亚洲av| 无码中文人妻在线一区二区三区| 无码人妻久久久一区二区三区| 超清纯白嫩大学生无码网站| 性色AV一区二区三区无码| 亚洲成a人片在线观看天堂无码| 日韩精品无码一区二区三区免费| 亚洲情XO亚洲色XO无码| 丝袜无码一区二区三区| 国产精品无码MV在线观看| 国产成人无码网站| 免费a级毛片无码a∨性按摩| 久久国产精品成人无码网站| 久久久久亚洲AV无码去区首| 午夜寂寞视频无码专区| 97在线视频人妻无码| 无码综合天天久久综合网| 日韩人妻系列无码专区| 国产午夜无码专区喷水| 亚洲AV无码专区国产乱码4SE| 熟妇无码乱子成人精品| 精品日韩亚洲AV无码一区二区三区| 91嫩草国产在线无码观看| 亚洲AV无码专区在线观看成人|