模型訓(xùn)練方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)制造方法及圖紙

本申請(qǐng)涉及深度學(xué)習(xí)技術(shù)領(lǐng)域，公開(kāi)了一種模型訓(xùn)練方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其中，模型訓(xùn)練方法包括：基于當(dāng)前預(yù)定生成對(duì)抗網(wǎng)絡(luò)的權(quán)重值，根據(jù)訓(xùn)練圖像樣本，通過(guò)預(yù)定圖像處理模塊，對(duì)預(yù)定模型進(jìn)行訓(xùn)練以更新其相應(yīng)參數(shù)，得到基于不確定度約束的預(yù)定模型；根據(jù)基于不確定度約束的預(yù)定模型，從T個(gè)測(cè)試圖像中以預(yù)定規(guī)則確定出K個(gè)測(cè)試圖像樣本；基于K個(gè)訓(xùn)練圖像樣本、K個(gè)測(cè)試圖像樣本及基于不確定度約束的預(yù)定模型，對(duì)預(yù)定生成對(duì)抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練以更新其權(quán)重值；重復(fù)執(zhí)行上述過(guò)程，直至基于不確定度約束的預(yù)定模型滿足第一預(yù)定條件。

Model training methods, devices, electronic devices and computer readable storage media

【技術(shù)實(shí)現(xiàn)步驟摘要】
模型訓(xùn)練方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)
本申請(qǐng)涉及深度學(xué)習(xí)
，具體而言，本申請(qǐng)涉及一種模型訓(xùn)練方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)。
技術(shù)介紹
OCT(OpticalCoherenceTomography，光學(xué)相干斷層成像技術(shù))作為一種非接觸式、非侵入性的眼科成像診斷技術(shù)，被廣泛應(yīng)用于視網(wǎng)膜的成像，以檢測(cè)和管理眼疾，例如黃斑裂孔、黃斑囊樣水腫、糖尿病性視網(wǎng)膜病變、老年性黃斑變性和青光眼等。其中，精準(zhǔn)且全自動(dòng)分割OCT圖像的視網(wǎng)膜層與脈絡(luò)膜層，對(duì)診斷視網(wǎng)膜疾病來(lái)說(shuō)是十分重要的。近年來(lái)，深度學(xué)習(xí)在計(jì)算機(jī)視覺(jué)的各個(gè)領(lǐng)域都取得了十足的進(jìn)展，這促進(jìn)了其在醫(yī)學(xué)圖像分析與識(shí)別的發(fā)展，許多文獻(xiàn)也表明深度學(xué)習(xí)在OCT分割任務(wù)上有著不錯(cuò)的表現(xiàn)。然而，當(dāng)針對(duì)某個(gè)設(shè)備采集的若干OCT圖像進(jìn)行深度學(xué)習(xí)后的神經(jīng)網(wǎng)絡(luò)，被用來(lái)對(duì)其它設(shè)備采集的OCT圖像進(jìn)行分割時(shí)，往往存在域偏移現(xiàn)象，在多設(shè)備的通用性上表現(xiàn)較差，導(dǎo)致分割效果不盡人意，需要根據(jù)不同設(shè)備采集的OCT圖像重新進(jìn)行微調(diào)整，耗費(fèi)大量的人力采集OCT圖像及重新對(duì)新采集的OCT圖像進(jìn)行標(biāo)注。因此，構(gòu)建一個(gè)通用型的用于OCT分割的神經(jīng)網(wǎng)絡(luò)是十分必要的。
技術(shù)實(shí)現(xiàn)思路
本申請(qǐng)的目的旨在至少能解決上述的技術(shù)缺陷之一，特提出以下技術(shù)方案：一方面，提供了一種模型訓(xùn)練方法，包括：基于當(dāng)前預(yù)定生成對(duì)抗網(wǎng)絡(luò)的權(quán)重值，根據(jù)訓(xùn)練圖像樣本，通過(guò)預(yù)定圖像處理模塊，對(duì)預(yù)定模型進(jìn)行訓(xùn)練以更新其相應(yīng)參數(shù)，得到基于不確定度約束的預(yù)定模型；根據(jù)基于不確定度約束的預(yù)定模型，從T個(gè)測(cè)試圖像中以預(yù)定規(guī)則確定出K個(gè)測(cè)試圖像樣本，T和K為正整數(shù)；基于K個(gè)訓(xùn)練圖像樣本、K個(gè)測(cè)試圖像樣本及基于不確定度約束的預(yù)定模型，對(duì)預(yù)定生成對(duì)抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練以更新其權(quán)重值；重復(fù)執(zhí)行基于當(dāng)前預(yù)定生成對(duì)抗網(wǎng)絡(luò)的權(quán)重值，根據(jù)訓(xùn)練圖像樣本，通過(guò)預(yù)定圖像處理模塊，對(duì)預(yù)定模型進(jìn)行訓(xùn)練以更新其相應(yīng)參數(shù)，得到基于不確定度約束的預(yù)定模型、根據(jù)基于不確定度約束的預(yù)定模型，從T個(gè)測(cè)試圖像中以預(yù)定規(guī)則確定出K個(gè)測(cè)試圖像樣本、以及基于K個(gè)訓(xùn)練圖像樣本、K個(gè)測(cè)試圖像樣本及基于不確定度約束的預(yù)定模型，對(duì)預(yù)定生成對(duì)抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練以更新其權(quán)重值，直至基于不確定度約束的預(yù)定模型滿足第一預(yù)定條件。在一種可能的實(shí)現(xiàn)方式中，訓(xùn)練圖像樣本包括源域圖像樣本與源域圖像樣本的標(biāo)注圖像；基于K個(gè)訓(xùn)練圖像樣本、K個(gè)測(cè)試圖像樣本及基于不確定度約束的預(yù)定模型，對(duì)預(yù)定生成對(duì)抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練以更新其權(quán)重值，包括：基于K個(gè)源域圖像樣本、K個(gè)測(cè)試圖像樣本及基于不確定度約束的預(yù)定模型，對(duì)預(yù)定生成對(duì)抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練以更新其權(quán)重值。在另一種可能的實(shí)現(xiàn)方式中，預(yù)定圖像處理模塊包括預(yù)定的密集特征獲取模塊、預(yù)定的分布編碼器、預(yù)定的采樣編碼模塊及KL散度損失。在另一種可能的實(shí)現(xiàn)方式中，預(yù)定的分布編碼器包括后驗(yàn)分布編碼器和先驗(yàn)分布編碼器，基于當(dāng)前預(yù)定生成對(duì)抗網(wǎng)絡(luò)的權(quán)重值，根據(jù)訓(xùn)練圖像樣本，通過(guò)預(yù)定圖像處理模塊，對(duì)預(yù)定模型進(jìn)行訓(xùn)練以更新其相應(yīng)參數(shù)，得到基于不確定度約束的預(yù)定模型，包括：通過(guò)后驗(yàn)分布編碼器，利用源域圖像樣本與源域圖像樣本的標(biāo)注圖像進(jìn)行訓(xùn)練擬合，得到相應(yīng)的后驗(yàn)高斯分布；通過(guò)先驗(yàn)分布編碼器，利用源域圖像樣本進(jìn)行訓(xùn)練擬合，得到相應(yīng)的先驗(yàn)高斯分布；根據(jù)KL散度損失對(duì)先驗(yàn)高斯分布向后驗(yàn)高斯分布進(jìn)行逼近處理，并對(duì)逼近處理后的先驗(yàn)高斯分布進(jìn)行M次采樣，得到M個(gè)先驗(yàn)高斯樣本；通過(guò)預(yù)定的采樣編碼模塊，對(duì)M個(gè)先驗(yàn)高斯樣本分別與源域圖像樣本的第一密集特征疊加后進(jìn)行卷積處理，第一密集特征是通過(guò)預(yù)定的密集特征獲取模塊對(duì)源域圖像樣本進(jìn)行相應(yīng)處理得到的；基于卷積處理結(jié)果確定預(yù)定模型的不確定度約束損失，并根據(jù)不確定度約束損失更新預(yù)定模型的相應(yīng)參數(shù)，得到基于不確定度約束的預(yù)定模型。在另一種可能的實(shí)現(xiàn)方式中，通過(guò)預(yù)定的采樣編碼模塊，對(duì)M個(gè)先驗(yàn)高斯樣本分別與源域圖像樣本的第一密集特征疊加后進(jìn)行卷積處理，包括：將M個(gè)先驗(yàn)高斯樣本分別插入到第一密集特征中，得到M個(gè)第二密集特征；通過(guò)預(yù)定的采樣編碼模塊對(duì)M個(gè)第二密集特征分別進(jìn)行卷積處理，得到M個(gè)第一圖像樣本。在另一種可能的實(shí)現(xiàn)方式中，基于卷積處理結(jié)果確定預(yù)定模型的不確定度約束損失，包括：計(jì)算M個(gè)第一圖像樣本的均值，并根據(jù)均值確定源域圖像樣本的源域預(yù)測(cè)結(jié)果；計(jì)算M個(gè)第一圖像樣本的方差，并根據(jù)方差確定源域圖像樣本的源域不確定度圖；基于預(yù)定的不確定度約束損失計(jì)算方式，根據(jù)源域預(yù)測(cè)結(jié)果、源域不確定度圖及源域圖像樣本的標(biāo)注圖像，確定預(yù)定模型的不確定度約束損失。在另一種可能的實(shí)現(xiàn)方式中，根據(jù)基于不確定度約束的預(yù)定模型，從T個(gè)測(cè)試圖像中以預(yù)定規(guī)則確定出K個(gè)測(cè)試圖像樣本，包括：通過(guò)基于不確定度約束的預(yù)定模型，對(duì)T個(gè)測(cè)試圖像分別進(jìn)行分析處理，得到對(duì)應(yīng)的T個(gè)不確定度預(yù)測(cè)結(jié)果；基于T個(gè)不確定度預(yù)測(cè)結(jié)果，從T個(gè)測(cè)試圖像中以預(yù)定規(guī)則確定出其中的K個(gè)，并將該K個(gè)作為測(cè)試圖像樣本。在另一種可能的實(shí)現(xiàn)方式中，基于T個(gè)不確定度預(yù)測(cè)結(jié)果，從T個(gè)測(cè)試圖像中以預(yù)定規(guī)則確定出其中的K個(gè)，并將該K個(gè)作為測(cè)試圖像樣本，包括：確定T個(gè)不確定度預(yù)測(cè)結(jié)果各自對(duì)應(yīng)的均值，并將確定得到的T個(gè)均值作為相對(duì)應(yīng)的T個(gè)測(cè)試圖像的T個(gè)不確定度值；根據(jù)預(yù)定的選取規(guī)則，從T個(gè)不確定度值中選取出其中滿足第二預(yù)設(shè)條件的K個(gè)不確定度值，并將該K個(gè)不確定度值分別對(duì)應(yīng)的測(cè)試圖像作為測(cè)試圖像樣本。在另一種可能的實(shí)現(xiàn)方式中，在基于T個(gè)不確定度的預(yù)測(cè)結(jié)果，從T個(gè)測(cè)試圖像中確定出其中的K個(gè)，并將該K個(gè)作為測(cè)試圖像樣本之前，還包括：通過(guò)將T個(gè)不確定度預(yù)測(cè)結(jié)果插入到原始不確定度學(xué)習(xí)集中，以對(duì)原始不確定度學(xué)習(xí)集進(jìn)行更新，得到更新后的不確定度學(xué)習(xí)集；根據(jù)預(yù)定的選取規(guī)則，從T個(gè)不確定度值中選取出其中滿足第二預(yù)設(shè)條件的K個(gè)不確定度值，包括：根據(jù)預(yù)定的排列順序，對(duì)更新后的不確定度學(xué)習(xí)集中的T個(gè)不確定度預(yù)測(cè)結(jié)果，依據(jù)T個(gè)不確定度值進(jìn)行排序；根據(jù)排序結(jié)果，從T個(gè)不確定度值中選取出其中滿足第二預(yù)設(shè)條件的K個(gè)不確定度值。在另一種可能的實(shí)現(xiàn)方式中，基于K個(gè)源域圖像樣本、K個(gè)測(cè)試圖像樣本及基于不確定度約束的預(yù)定模型，對(duì)預(yù)定生成對(duì)抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練以更新其權(quán)重值，包括：通過(guò)基于不確定度約束的預(yù)定模型對(duì)K個(gè)源域圖像樣本及K個(gè)測(cè)試圖像樣本分別進(jìn)行分析處理，得到K個(gè)源域圖像樣本分別對(duì)應(yīng)的第一圖像特征與K個(gè)測(cè)試圖像樣本分別對(duì)應(yīng)的第二圖像特征；根據(jù)第一圖像特征與第二圖像特征，對(duì)預(yù)定生成對(duì)抗網(wǎng)絡(luò)進(jìn)行對(duì)抗訓(xùn)練以更新其權(quán)重值。在另一種可能的實(shí)現(xiàn)方式中，通過(guò)基于不確定度約束的預(yù)定模型對(duì)任一源域圖像樣本及任一測(cè)試圖像樣本分別進(jìn)行分析處理，得到任一源域圖像樣本的第一圖像特征與任一測(cè)試圖像樣本的第二圖像特征，包括：通過(guò)預(yù)定的密集特征獲取模塊確定任一源域圖像樣本的第三密集特征，并通過(guò)預(yù)定的采樣編碼模塊確定任一源域圖像樣本的第一圖像樣本，以及對(duì)第三密集特征與任一源域圖像的第一圖像樣本進(jìn)行連接處理，得到任一源域圖像的第一圖像特征；通過(guò)預(yù)定的密集特征獲取模塊確定任一測(cè)試圖像樣本的第四密集特征，并通過(guò)預(yù)定的采樣編碼模塊確定任一測(cè)試圖像樣本的第一圖像樣本，以及對(duì)第四密集特征與任一測(cè)試圖像樣本的第一圖像樣本進(jìn)行連接處理，得到任一測(cè)試圖像樣本的第二圖像特征。在另一種可能的實(shí)現(xiàn)方式中，預(yù)定模型包括金字塔場(chǎng)景解析網(wǎng)絡(luò)PSPNet模型；預(yù)定的密本文檔來(lái)自技高網(wǎng)...

【技術(shù)保護(hù)點(diǎn)】
1.一種模型訓(xùn)練的方法，其特征在于，包括：基于當(dāng)前預(yù)定生成對(duì)抗網(wǎng)絡(luò)的權(quán)重值，根據(jù)訓(xùn)練圖像樣本，通過(guò)預(yù)定圖像處理模塊，對(duì)預(yù)定模型進(jìn)行訓(xùn)練以更新其相應(yīng)參數(shù)，得到基于不確定度約束的預(yù)定模型；根據(jù)所述基于不確定度約束的預(yù)定模型，從T個(gè)測(cè)試圖像中以預(yù)定規(guī)則確定出K個(gè)測(cè)試圖像樣本，T和K為正整數(shù)；基于K個(gè)訓(xùn)練圖像樣本、所述K個(gè)測(cè)試圖像樣本及所述基于不確定度約束的預(yù)定模型，對(duì)所述預(yù)定生成對(duì)抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練以更新其權(quán)重值；重復(fù)執(zhí)行所述基于當(dāng)前預(yù)定生成對(duì)抗網(wǎng)絡(luò)的權(quán)重值，根據(jù)訓(xùn)練圖像樣本，通過(guò)預(yù)定圖像處理模塊，對(duì)預(yù)定模型進(jìn)行訓(xùn)練以更新其相應(yīng)參數(shù)，得到基于不確定度約束的預(yù)定模型、所述根據(jù)所述基于不確定度約束的預(yù)定模型，從T個(gè)測(cè)試圖像中以預(yù)定規(guī)則確定出K個(gè)測(cè)試圖像樣本、以及所述基于K個(gè)訓(xùn)練圖像樣本、所述K個(gè)測(cè)試圖像樣本及所述基于不確定度約束的預(yù)定模型，對(duì)所述預(yù)定生成對(duì)抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練以更新其權(quán)重值，直至所述基于不確定度約束的預(yù)定模型滿足第一預(yù)定條件。

【技術(shù)特征摘要】
1.一種模型訓(xùn)練的方法，其特征在于，包括：基于當(dāng)前預(yù)定生成對(duì)抗網(wǎng)絡(luò)的權(quán)重值，根據(jù)訓(xùn)練圖像樣本，通過(guò)預(yù)定圖像處理模塊，對(duì)預(yù)定模型進(jìn)行訓(xùn)練以更新其相應(yīng)參數(shù)，得到基于不確定度約束的預(yù)定模型；根據(jù)所述基于不確定度約束的預(yù)定模型，從T個(gè)測(cè)試圖像中以預(yù)定規(guī)則確定出K個(gè)測(cè)試圖像樣本，T和K為正整數(shù)；基于K個(gè)訓(xùn)練圖像樣本、所述K個(gè)測(cè)試圖像樣本及所述基于不確定度約束的預(yù)定模型，對(duì)所述預(yù)定生成對(duì)抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練以更新其權(quán)重值；重復(fù)執(zhí)行所述基于當(dāng)前預(yù)定生成對(duì)抗網(wǎng)絡(luò)的權(quán)重值，根據(jù)訓(xùn)練圖像樣本，通過(guò)預(yù)定圖像處理模塊，對(duì)預(yù)定模型進(jìn)行訓(xùn)練以更新其相應(yīng)參數(shù)，得到基于不確定度約束的預(yù)定模型、所述根據(jù)所述基于不確定度約束的預(yù)定模型，從T個(gè)測(cè)試圖像中以預(yù)定規(guī)則確定出K個(gè)測(cè)試圖像樣本、以及所述基于K個(gè)訓(xùn)練圖像樣本、所述K個(gè)測(cè)試圖像樣本及所述基于不確定度約束的預(yù)定模型，對(duì)所述預(yù)定生成對(duì)抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練以更新其權(quán)重值，直至所述基于不確定度約束的預(yù)定模型滿足第一預(yù)定條件。2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述訓(xùn)練圖像樣本包括源域圖像樣本與所述源域圖像樣本的標(biāo)注圖像；所述基于K個(gè)訓(xùn)練圖像樣本、所述K個(gè)測(cè)試圖像樣本及所述基于不確定度約束的預(yù)定模型，對(duì)所述預(yù)定生成對(duì)抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練以更新其權(quán)重值，包括：基于K個(gè)源域圖像樣本、所述K個(gè)測(cè)試圖像樣本及所述基于不確定度約束的預(yù)定模型，對(duì)所述預(yù)定生成對(duì)抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練以更新其權(quán)重值。3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述預(yù)定圖像處理模塊包括預(yù)定的密集特征獲取模塊、預(yù)定的分布編碼器、預(yù)定的采樣編碼模塊及KL散度損失。4.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述預(yù)定的分布編碼器包括后驗(yàn)分布編碼器和先驗(yàn)分布編碼器，所述基于當(dāng)前預(yù)定生成對(duì)抗網(wǎng)絡(luò)的權(quán)重值，根據(jù)訓(xùn)練圖像樣本，通過(guò)預(yù)定圖像處理模塊，對(duì)預(yù)定模型進(jìn)行訓(xùn)練以更新其相應(yīng)參數(shù)，得到基于不確定度約束的預(yù)定模型，包括：通過(guò)所述后驗(yàn)分布編碼器，利用所述源域圖像樣本與所述源域圖像樣本的標(biāo)注圖像進(jìn)行訓(xùn)練擬合，得到相應(yīng)的后驗(yàn)高斯分布；通過(guò)所述先驗(yàn)分布編碼器，利用所述源域圖像樣本進(jìn)行訓(xùn)練擬合，得到相應(yīng)的先驗(yàn)高斯分布；根據(jù)KL散度損失對(duì)所述先驗(yàn)高斯分布向所述后驗(yàn)高斯分布進(jìn)行逼近處理，并對(duì)逼近處理后的先驗(yàn)高斯分布進(jìn)行M次采樣，得到M個(gè)先驗(yàn)高斯樣本；通過(guò)所述預(yù)定的采樣編碼模塊，對(duì)所述M個(gè)先驗(yàn)高斯樣本分別與所述源域圖像樣本的第一密集特征疊加后進(jìn)行卷積處理，所述第一密集特征是通過(guò)預(yù)定的密集特征獲取模塊對(duì)所述源域圖像樣本進(jìn)行相應(yīng)處理得到的；基于卷積處理結(jié)果確定所述預(yù)定模型的不確定度約束損失，并根據(jù)所述不確定度約束損失更新所述預(yù)定模型的相應(yīng)參數(shù)，得到基于不確定度約束的預(yù)定模型。5.根據(jù)權(quán)利要求4所述的方法，其特征在于，通過(guò)所述預(yù)定的采樣編碼模塊，對(duì)所述M個(gè)先驗(yàn)高斯樣本分別與所述源域圖像樣本的第一密集特征疊加后進(jìn)行卷積處理，包括：將所述M個(gè)先驗(yàn)高斯樣本分別插入到所述第一密集特征中，得到M個(gè)第二密集特征；通過(guò)預(yù)定的采樣編碼模塊對(duì)所述M個(gè)第二密集特征分別進(jìn)行卷積處理，得到M個(gè)第一圖像樣本。6.根據(jù)權(quán)利要求5所述的方法，其特征在于，所述基于卷積處理結(jié)果確定所述預(yù)定模型的不確定度約束損失，包括：計(jì)算所述M個(gè)第一圖像樣本的均值，并根據(jù)所述均值確定所述源域圖像樣本的源域預(yù)測(cè)結(jié)果；計(jì)算所述M個(gè)第一圖像樣本的方差，并根據(jù)所述方差確定所述源域圖像樣本的源域不確定度圖；基于預(yù)定的不確定度約束損失計(jì)算方式，根據(jù)所述源域預(yù)測(cè)結(jié)果、所述源域不確定度圖及所述源域圖像樣本的標(biāo)注圖像，確定所述預(yù)定模型的不確定度約束損失。7.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述根據(jù)所述基于不確定度約束的預(yù)定模型，從T個(gè)測(cè)試圖像中以預(yù)定規(guī)則確定出K個(gè)測(cè)試圖像樣本，包括：通過(guò)所述基于不確定度約束的預(yù)定模型，對(duì)所述T個(gè)測(cè)試圖像分別進(jìn)行分析處理，得到對(duì)應(yīng)的T個(gè)...

【專利技術(shù)屬性】
技術(shù)研發(fā)人員：邊成，
申請(qǐng)(專利權(quán))人：騰訊科技深圳有限公司，
類型：發(fā)明
國(guó)別省市：廣東,44