【技術(shù)實(shí)現(xiàn)步驟摘要】
本專利技術(shù)涉及分割，特別是涉及一種基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)。
技術(shù)介紹
1、伴隨當(dāng)代工作壓力大、飲食不當(dāng)?shù)纫蛩兀馨徒Y(jié)相關(guān)疾病發(fā)病率逐年上升，其中淋巴結(jié)結(jié)節(jié)的產(chǎn)生是臨床最常見(jiàn)的淋巴結(jié)疾病癥狀之一，準(zhǔn)確地檢出淋巴結(jié)結(jié)節(jié)有利于后續(xù)醫(yī)生判斷結(jié)節(jié)的良惡性和治療方案的制定，對(duì)患者的身體健康和心理健康都具有關(guān)鍵作用。隨著超聲成像技術(shù)的成熟和人工智能技術(shù)的發(fā)展，ai賦能的淋巴結(jié)結(jié)節(jié)檢出技術(shù)已成為研究的熱門趨勢(shì)，利用深度神經(jīng)網(wǎng)絡(luò)自主學(xué)習(xí)淋巴結(jié)超聲圖像內(nèi)涵的潛在模式特征，進(jìn)而完成結(jié)節(jié)區(qū)域的分割檢出已逐漸成為淋巴結(jié)結(jié)節(jié)識(shí)別的重要方案。
2、盡管深度學(xué)習(xí)方法已經(jīng)廣泛運(yùn)用于淋巴結(jié)結(jié)節(jié)的分割，但模型對(duì)淋巴結(jié)小結(jié)節(jié)的檢出率限制了模型整體的分割性能，無(wú)法準(zhǔn)確地識(shí)別所有小結(jié)節(jié)是目前淋巴結(jié)結(jié)節(jié)分割模型面臨的關(guān)鍵挑戰(zhàn)，這很大程度歸因于模型在提取特征的過(guò)程中會(huì)堆疊大量的卷積神經(jīng)網(wǎng)絡(luò)層和池化層，這些操作雖然增強(qiáng)了特征的語(yǔ)義信息，但由于分辨率的降低，圖像局部區(qū)域的細(xì)節(jié)信息也變得粗糙，最終導(dǎo)致難以成功識(shí)別小結(jié)節(jié)的特征完成準(zhǔn)確分割。然而，對(duì)于淋巴結(jié)結(jié)節(jié)而言，小結(jié)節(jié)的檢出更加重要，對(duì)于專業(yè)醫(yī)生而言，識(shí)別小的淋巴結(jié)具有更大的難度，因此如何準(zhǔn)確的識(shí)別淋巴結(jié)小結(jié)節(jié)具有重要的醫(yī)學(xué)應(yīng)用意義。
3、相關(guān)基于深度學(xué)習(xí)的技術(shù)已經(jīng)開始嘗試解決淋巴結(jié)小結(jié)節(jié)的分割問(wèn)題：一種主流的思路是通過(guò)放大輸入圖像以提高小結(jié)節(jié)的分辨率，進(jìn)而生成高分辨率的特征圖，但數(shù)據(jù)尺寸和特征維度的增加會(huì)導(dǎo)致大量的訓(xùn)練成本消耗和推理時(shí)間消耗，難以滿足醫(yī)學(xué)推理的實(shí)時(shí)性需求；另一種
技術(shù)實(shí)現(xiàn)思路
1、為了解決以上技術(shù)問(wèn)題，本專利技術(shù)提供一種基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，包括
2、數(shù)據(jù)集構(gòu)建模塊，用于對(duì)淋巴結(jié)超聲圖像進(jìn)行數(shù)據(jù)收集、數(shù)據(jù)清理以及數(shù)據(jù)標(biāo)注，構(gòu)成超聲圖像數(shù)據(jù)集以及獲得掩碼標(biāo)注；
3、數(shù)據(jù)集劃分模塊，用于將超聲圖像數(shù)據(jù)集劃分為域內(nèi)數(shù)據(jù)集和域外數(shù)據(jù)集；
4、模型構(gòu)建模塊，用于構(gòu)建分割模型model，分割模型model包括u-net網(wǎng)絡(luò)、單層卷積神經(jīng)網(wǎng)絡(luò)以及自蒸餾監(jiān)督模塊，以淋巴結(jié)結(jié)節(jié)超聲圖像和掩碼標(biāo)注作為分割模型model的輸入；淋巴結(jié)結(jié)節(jié)超聲圖像通過(guò)單層卷積神經(jīng)網(wǎng)絡(luò)后得到結(jié)節(jié)圖像映射，淋巴結(jié)結(jié)節(jié)超聲圖像通過(guò)u-net網(wǎng)絡(luò)后得到結(jié)節(jié)特征映射，將結(jié)節(jié)圖像映射和結(jié)節(jié)特征映射同時(shí)輸入到自蒸餾監(jiān)督模塊中，計(jì)算模型的整體損失函數(shù)；
5、迭代訓(xùn)練模塊，用于構(gòu)建adam優(yōu)化器，利用整體損失函數(shù)對(duì)分割模型model進(jìn)行反向梯度傳播，得到分割模型model的最佳參數(shù)，并且持續(xù)迭代；
6、模型評(píng)估模塊，用于在每個(gè)迭代后對(duì)分割模型model的性能進(jìn)行評(píng)估，并保存歷史訓(xùn)練中評(píng)估指標(biāo)最高的模型；
7、模型泛化性驗(yàn)證模塊，用于加載歷史訓(xùn)練中評(píng)估指標(biāo)最高的模型，利用域外數(shù)據(jù)集驗(yàn)證模型的泛化性能，評(píng)估模型在域外數(shù)據(jù)集上的檢出率和檢出淋巴結(jié)結(jié)節(jié)的準(zhǔn)確性。
8、本專利技術(shù)進(jìn)一步限定的技術(shù)方案是：
9、進(jìn)一步的，數(shù)據(jù)集構(gòu)建模塊中，數(shù)據(jù)收集具體為從多個(gè)醫(yī)院采集不同的淋巴結(jié)超聲圖像和對(duì)應(yīng)的病理報(bào)告；數(shù)據(jù)清理具體為根據(jù)分辨率、對(duì)比度、灰度范圍以及動(dòng)態(tài)范圍對(duì)淋巴結(jié)超聲圖像進(jìn)行篩選，且淋巴結(jié)超聲圖像需與病理報(bào)告一一對(duì)應(yīng)；數(shù)據(jù)標(biāo)注具體為通過(guò)醫(yī)生結(jié)合病理報(bào)告在淋巴結(jié)超聲圖像上勾勒出結(jié)節(jié)范圍。
10、如前所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，數(shù)據(jù)集劃分模塊中，還將域內(nèi)數(shù)據(jù)集劃分為訓(xùn)練集和測(cè)試集，訓(xùn)練集用于分割模型model的迭代訓(xùn)練，測(cè)試集用于分割模型model的性能評(píng)估。
11、如前所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，數(shù)據(jù)集劃分模塊中，按照8∶2的比例將域內(nèi)數(shù)據(jù)集劃分為訓(xùn)練集和測(cè)試集。
12、如前所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，分割模型model中，淋巴結(jié)結(jié)節(jié)超聲圖像通過(guò)單層卷積神經(jīng)網(wǎng)絡(luò)被劃分為不同的區(qū)域，結(jié)合掩碼標(biāo)注對(duì)含結(jié)節(jié)區(qū)域的信息進(jìn)行標(biāo)記，得到結(jié)節(jié)圖像映射。
13、如前所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，分割模型model中，淋巴結(jié)結(jié)節(jié)超聲圖像通過(guò)u-net網(wǎng)絡(luò)各層的處理得到深淺不同的特征信息，利用聚合網(wǎng)絡(luò)對(duì)特性信息進(jìn)行聚合處理，并對(duì)聚合得到的特征圖進(jìn)行區(qū)域劃分，結(jié)合掩碼標(biāo)注對(duì)結(jié)節(jié)的聚合特征進(jìn)行標(biāo)記，得到結(jié)節(jié)特征映射。
14、如前所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，自蒸餾監(jiān)督模塊中，計(jì)算結(jié)節(jié)圖像映射和結(jié)節(jié)特征映射的度量距離，得到損失值ldis；接著根據(jù)預(yù)測(cè)的掩碼和真實(shí)掩碼計(jì)算模型的分割損失，記為lseg；最后對(duì)上述損失值進(jìn)行加權(quán)求和得到總損失lall，總損失如下式所示：
15、lall＝αlseg+βldis
16、其中，lall表示整體損失，ldis表示注意力對(duì)齊關(guān)系損失，lseg表示分割損失，α和β分別表示分割損失和注意力對(duì)齊關(guān)系損失的權(quán)重。
17、如前所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，自蒸餾監(jiān)督模塊中，使用歐式度量自注意力蒸餾損失作為注意力對(duì)齊關(guān)系損失，注意力對(duì)齊關(guān)系損失如下式所示：
18、
19、其中，att表示圖片與特征圖之間的蒸餾注意力關(guān)系，表示通過(guò)真實(shí)分割掩碼計(jì)算的特征對(duì)齊注意力。
20、如前所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，分割損失的權(quán)重α＝1，注意力對(duì)齊關(guān)系損失的權(quán)重β＝0.2。
21、如前所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，模型評(píng)估模塊中，評(píng)估指標(biāo)設(shè)置為dice系數(shù)，在訓(xùn)練過(guò)程中保存歷史結(jié)果dice系數(shù)最高的模型。
22、本專利技術(shù)的有益效果是：
23、(1)本專利技術(shù)中，通過(guò)自蒸餾監(jiān)督模塊對(duì)模型編碼的結(jié)節(jié)特征和原始圖像中的結(jié)節(jié)區(qū)域進(jìn)行注意力指導(dǎo)計(jì)算，用大結(jié)節(jié)的特征信息補(bǔ)償特征圖分辨率降低帶來(lái)的信息損失，由于結(jié)節(jié)區(qū)域成像的相似性，結(jié)節(jié)圖像映射可以指導(dǎo)結(jié)節(jié)特征映射的特征對(duì)齊關(guān)系，量化每個(gè)輸入圖像和相應(yīng)特征圖之間的關(guān)系，將大結(jié)節(jié)區(qū)域?qū)W習(xí)到的特征知識(shí)蒸餾給小結(jié)節(jié)區(qū)域，進(jìn)而提高淋巴結(jié)結(jié)節(jié)分割中小結(jié)節(jié)的分割性能，提升模型對(duì)不同尺寸結(jié)節(jié)檢測(cè)的魯棒性和泛化性，更好地適應(yīng)不同領(lǐng)域的數(shù)據(jù)集和實(shí)際臨床場(chǎng)景；
24、(2)本專利技術(shù)中，通過(guò)相同物體的特征一致性彌補(bǔ)小結(jié)節(jié)的信息損失；且注意力自蒸餾技術(shù)是即插即用的模塊，可以接受任何類型或規(guī)格的編碼網(wǎng)絡(luò)輸入，可以在任何分割模型進(jìn)行復(fù)用，具有更高的操作自由度；
25、(3)本專利技術(shù)中，超聲圖像小目標(biāo)分割系統(tǒng)除了針對(duì)淋巴結(jié)結(jié)節(jié)以外，還可以根據(jù)實(shí)際使用情況，復(fù)用于甲狀腺、皮膚病以及乳腺等各領(lǐng)域的小目標(biāo)分割任務(wù)中，具有更高的實(shí)用性和靈活性。
本文檔來(lái)自技高網(wǎng)...【技術(shù)保護(hù)點(diǎn)】
1.一種基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：包括
2.根據(jù)權(quán)利要求1所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：所述數(shù)據(jù)集構(gòu)建模塊中，數(shù)據(jù)收集具體為從多個(gè)醫(yī)院采集不同的淋巴結(jié)超聲圖像和對(duì)應(yīng)的病理報(bào)告；數(shù)據(jù)清理具體為根據(jù)分辨率、對(duì)比度、灰度范圍以及動(dòng)態(tài)范圍對(duì)淋巴結(jié)超聲圖像進(jìn)行篩選，且淋巴結(jié)超聲圖像需與病理報(bào)告一一對(duì)應(yīng)；數(shù)據(jù)標(biāo)注具體為通過(guò)醫(yī)生結(jié)合病理報(bào)告在淋巴結(jié)超聲圖像上勾勒出結(jié)節(jié)范圍。
3.根據(jù)權(quán)利要求1所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：所述數(shù)據(jù)集劃分模塊中，還將域內(nèi)數(shù)據(jù)集劃分為訓(xùn)練集和測(cè)試集，訓(xùn)練集用于分割模型model的迭代訓(xùn)練，測(cè)試集用于分割模型model的性能評(píng)估。
4.根據(jù)權(quán)利要求3所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：所述數(shù)據(jù)集劃分模塊中，按照8：2的比例將域內(nèi)數(shù)據(jù)集劃分為訓(xùn)練集和測(cè)試集。
5.根據(jù)權(quán)利要求1所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：所述分割模型model中，
6.根據(jù)權(quán)利要求1所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：所述分割模型model中，淋巴結(jié)結(jié)節(jié)超聲圖像通過(guò)U-net網(wǎng)絡(luò)各層的處理得到深淺不同的特征信息，利用聚合網(wǎng)絡(luò)對(duì)特性信息進(jìn)行聚合處理，并對(duì)聚合得到的特征圖進(jìn)行區(qū)域劃分，結(jié)合掩碼標(biāo)注對(duì)結(jié)節(jié)的聚合特征進(jìn)行標(biāo)記，得到結(jié)節(jié)特征映射。
7.根據(jù)權(quán)利要求1所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：所述自蒸餾監(jiān)督模塊中，計(jì)算結(jié)節(jié)圖像映射和結(jié)節(jié)特征映射的度量距離，得到損失值ldis；接著根據(jù)預(yù)測(cè)的掩碼和真實(shí)掩碼計(jì)算模型的分割損失，記為lseg；最后對(duì)上述損失值進(jìn)行加權(quán)求和得到總損失lall，總損失如下式所示：
8.根據(jù)權(quán)利要求7所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：所述自蒸餾監(jiān)督模塊中，使用歐式度量自注意力蒸餾損失作為注意力對(duì)齊關(guān)系損失，注意力對(duì)齊關(guān)系損失如下式所示：
9.根據(jù)權(quán)利要求7所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：所述分割損失的權(quán)重α＝1，注意力對(duì)齊關(guān)系損失的權(quán)重β＝0.2。
10.根據(jù)權(quán)利要求1所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：所述模型評(píng)估模塊中，評(píng)估指標(biāo)設(shè)置為DICE系數(shù)，在訓(xùn)練過(guò)程中保存歷史結(jié)果DICE系數(shù)最高的模型。
...【技術(shù)特征摘要】
1.一種基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：包括
2.根據(jù)權(quán)利要求1所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：所述數(shù)據(jù)集構(gòu)建模塊中，數(shù)據(jù)收集具體為從多個(gè)醫(yī)院采集不同的淋巴結(jié)超聲圖像和對(duì)應(yīng)的病理報(bào)告；數(shù)據(jù)清理具體為根據(jù)分辨率、對(duì)比度、灰度范圍以及動(dòng)態(tài)范圍對(duì)淋巴結(jié)超聲圖像進(jìn)行篩選，且淋巴結(jié)超聲圖像需與病理報(bào)告一一對(duì)應(yīng)；數(shù)據(jù)標(biāo)注具體為通過(guò)醫(yī)生結(jié)合病理報(bào)告在淋巴結(jié)超聲圖像上勾勒出結(jié)節(jié)范圍。
3.根據(jù)權(quán)利要求1所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：所述數(shù)據(jù)集劃分模塊中，還將域內(nèi)數(shù)據(jù)集劃分為訓(xùn)練集和測(cè)試集，訓(xùn)練集用于分割模型model的迭代訓(xùn)練，測(cè)試集用于分割模型model的性能評(píng)估。
4.根據(jù)權(quán)利要求3所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：所述數(shù)據(jù)集劃分模塊中，按照8：2的比例將域內(nèi)數(shù)據(jù)集劃分為訓(xùn)練集和測(cè)試集。
5.根據(jù)權(quán)利要求1所述的基于注意力自蒸餾的淋巴結(jié)結(jié)節(jié)超聲圖像小目標(biāo)分割系統(tǒng)，其特征在于：所述分割模型model中，淋巴結(jié)結(jié)節(jié)超聲圖像通過(guò)單層卷積神經(jīng)網(wǎng)絡(luò)被劃分為不同的區(qū)域，結(jié)合掩碼標(biāo)注對(duì)含結(jié)節(jié)區(qū)域的信息進(jìn)行標(biāo)記，得到結(jié)節(jié)圖像映射。
6.根據(jù)權(quán)利要求1所述的基于注意力自...
【專利技術(shù)屬性】
技術(shù)研發(fā)人員：石一磊，胡敬良，牟立超，侯雨，陳詠虹，
申請(qǐng)(專利權(quán))人：脈得智能科技無(wú)錫有限公司，
類型：發(fā)明
國(guó)別省市：
還沒(méi)有人留言評(píng)論。發(fā)表了對(duì)其他瀏覽者有用的留言會(huì)獲得科技券。