【技術(shù)實(shí)現(xiàn)步驟摘要】
一種目標(biāo)圖像處理模型的確定方法、裝置及存儲(chǔ)介質(zhì)
本專(zhuān)利技術(shù)涉及深度學(xué)習(xí)
,尤其涉及一種目標(biāo)圖像處理模型的確定方法、裝置及存儲(chǔ)介質(zhì)。
技術(shù)介紹
網(wǎng)絡(luò)模型的剪枝類(lèi)型包括非結(jié)構(gòu)化剪枝和結(jié)構(gòu)化剪枝,非結(jié)構(gòu)化剪枝是指對(duì)網(wǎng)絡(luò)模型中單個(gè)的冗余權(quán)重進(jìn)行剪枝處理,結(jié)構(gòu)化剪枝是指對(duì)網(wǎng)絡(luò)模型中的部分卷積核進(jìn)行剪枝處理。現(xiàn)有技術(shù)中,采用預(yù)算剪枝方法對(duì)網(wǎng)絡(luò)模型進(jìn)行剪枝,即預(yù)先給定網(wǎng)絡(luò)模型中每個(gè)卷積層對(duì)應(yīng)的剪枝率,并基于每個(gè)卷積層的對(duì)應(yīng)的剪枝率對(duì)其進(jìn)行剪枝。還采用非預(yù)算剪枝方法對(duì)網(wǎng)絡(luò)模型進(jìn)行剪枝,即在剪枝的過(guò)程中,確定每個(gè)卷積層對(duì)應(yīng)的剪枝率,進(jìn)而根據(jù)確定的剪枝率對(duì)其進(jìn)行剪枝。現(xiàn)有的剪枝方法都是從資源預(yù)算的角度出發(fā),在剪枝前綜合考慮待剪枝模型的復(fù)雜度、乘加運(yùn)算的數(shù)量、網(wǎng)絡(luò)模型中參數(shù)所占的存儲(chǔ)空間、網(wǎng)絡(luò)模型的處理時(shí)延等因素。該種剪枝方法難以保證剪枝后的網(wǎng)絡(luò)模型的精度,例如,網(wǎng)絡(luò)模型為圖像處理模型時(shí),會(huì)導(dǎo)致圖像處理的精度較低,無(wú)法滿(mǎn)足圖像處理的精度要求。
技術(shù)實(shí)現(xiàn)思路
本專(zhuān)利技術(shù)實(shí)施例提供一種目標(biāo)圖像處理模型的確定方法、裝置及存儲(chǔ)介質(zhì),可以減小目標(biāo)圖像處理模型的結(jié)構(gòu),減少目標(biāo)圖像處理模型所占資源,還可以保證剪枝后的網(wǎng)絡(luò)模型的精度。本專(zhuān)利技術(shù)實(shí)施例提供了一種目標(biāo)圖像處理模型的確定方法,該方法包括:根據(jù)待剪枝圖像處理模型的歷史剪枝信息和歷史精度信息,確定當(dāng)前剪枝信息;基于當(dāng)前剪枝信息,對(duì)待剪枝圖像處理模型進(jìn)行剪枝處理,得到剪枝后的模型;將樣本圖像輸入剪枝后的模型,進(jìn)行特征預(yù)測(cè)處理,得到預(yù)測(cè) ...
【技術(shù)保護(hù)點(diǎn)】
1.一種目標(biāo)圖像處理模型的確定方法,其特征在于,包括:/n根據(jù)待剪枝圖像處理模型的歷史剪枝信息和歷史精度信息,確定當(dāng)前剪枝信息;/n基于所述當(dāng)前剪枝信息,對(duì)所述待剪枝圖像處理模型進(jìn)行剪枝處理,得到剪枝后的模型;/n將樣本圖像輸入所述剪枝后的模型,進(jìn)行特征預(yù)測(cè)處理,得到預(yù)測(cè)特征信息;/n根據(jù)所述樣本圖像的標(biāo)簽信息和所述預(yù)測(cè)特征信息,確定所述剪枝后的模型的精度信息;/n根據(jù)所述剪枝后的模型的精度信息和所述當(dāng)前剪枝信息,確定待剪枝信息;/n若所述待剪枝信息滿(mǎn)足預(yù)設(shè)停止剪枝條件,將所述剪枝后的模型確定為目標(biāo)圖像處理模型。/n
【技術(shù)特征摘要】
1.一種目標(biāo)圖像處理模型的確定方法,其特征在于,包括:
根據(jù)待剪枝圖像處理模型的歷史剪枝信息和歷史精度信息,確定當(dāng)前剪枝信息;
基于所述當(dāng)前剪枝信息,對(duì)所述待剪枝圖像處理模型進(jìn)行剪枝處理,得到剪枝后的模型;
將樣本圖像輸入所述剪枝后的模型,進(jìn)行特征預(yù)測(cè)處理,得到預(yù)測(cè)特征信息;
根據(jù)所述樣本圖像的標(biāo)簽信息和所述預(yù)測(cè)特征信息,確定所述剪枝后的模型的精度信息;
根據(jù)所述剪枝后的模型的精度信息和所述當(dāng)前剪枝信息,確定待剪枝信息;
若所述待剪枝信息滿(mǎn)足預(yù)設(shè)停止剪枝條件,將所述剪枝后的模型確定為目標(biāo)圖像處理模型。
2.根據(jù)權(quán)利要求1所述的方法,其特征在于,所述基于所述當(dāng)前剪枝信息,對(duì)所述待剪枝圖像處理模型進(jìn)行剪枝處理,得到剪枝后的模型,包括:
從所述待剪枝圖像處理模型中確定待剪枝卷積層集;
根據(jù)所述當(dāng)前剪枝信息,分別對(duì)所述待剪枝卷積層集中的一個(gè)待剪枝卷積層進(jìn)行剪枝處理,得到多個(gè)候選剪枝模型;
將所述樣本圖像輸入每一候選剪枝模型,進(jìn)行特征預(yù)測(cè)處理,得到候選特征信息;
根據(jù)所述標(biāo)簽信息和所述候選特征信息,確定每一候選剪枝模型的精度信息;
根據(jù)每一候選剪枝模型的精度信息,從所述多個(gè)候選剪枝模型中確定剪枝后的模型。
3.根據(jù)權(quán)利要求2所述的方法,其特征在于,所述根據(jù)所述當(dāng)前剪枝信息,分別對(duì)所述待剪枝卷積層集中的一個(gè)待剪枝卷積層進(jìn)行剪枝處理,得到多個(gè)候選剪枝模型,包括:
分別從所述待剪枝卷積層集中任意確定一個(gè)待剪枝卷積層為目標(biāo)卷積層,并確定所述目標(biāo)卷積層的下一層為參考卷積層;
將所述樣本圖像作為所述待剪枝圖像處理模型的輸入,在所述待剪枝圖像處理模型中,確定所述樣本圖像在所述參考卷積層生成的參考特征圖;
分別對(duì)所述目標(biāo)卷積層中的一個(gè)待剪枝卷積核進(jìn)行剪枝處理,得到多個(gè)預(yù)剪枝模型;
將所述樣本圖像作為每一預(yù)剪枝模型的輸入,在每一預(yù)剪枝模型中,確定所述樣本圖像在所述參考卷積層生成的目標(biāo)特征圖;
根據(jù)所述當(dāng)前剪枝信息、所述參考特征圖和所述目標(biāo)特征圖,確定所述目標(biāo)卷積層的待剪枝卷積核集;
分別對(duì)所述目標(biāo)卷積層對(duì)應(yīng)的待剪枝卷積核集進(jìn)行剪枝處理,得到所述多個(gè)候選剪枝模型。
4.根據(jù)權(quán)利要求3所述的方法,其特征在于,所述根據(jù)所述當(dāng)前剪枝信息、所述參考特征圖和所述目標(biāo)特征圖,確定所述目標(biāo)卷積層的待剪枝卷積核集,包括:
對(duì)所述參考特征圖和所述目標(biāo)特征圖進(jìn)行歸一化處理,得到所述參考特征圖對(duì)應(yīng)的第一特征圖和所述目標(biāo)特征圖對(duì)應(yīng)的第二特征圖;
對(duì)所述參考特征圖和所述目標(biāo)特征圖進(jìn)行平坦化處理,得到所述參考特征圖對(duì)應(yīng)的第一矩陣和所述目標(biāo)特征圖對(duì)應(yīng)的第二矩陣;
根據(jù)所述第一特征圖、所述第二特征圖、所述第一矩陣和所述第二矩陣,確定所述目標(biāo)卷積層中的一個(gè)待剪枝卷積核對(duì)應(yīng)的差異信息;
根據(jù)每一待剪枝卷積核對(duì)應(yīng)的差異信息,確定所述目標(biāo)卷積層的所述待剪枝卷積核集。
5.根據(jù)權(quán)利要求1所述的方法,其特征在于,所述根據(jù)待剪枝圖像處理模型的歷史剪枝信息和歷史精度信息,確定當(dāng)前剪枝信息,包括:
若所述歷史剪枝信息滿(mǎn)足第一預(yù)設(shè)剪枝條件,且所述歷史精度信息滿(mǎn)足第二預(yù)設(shè)剪枝條件,將所述歷史剪枝信息確定為所述當(dāng)前剪枝信息;
或者,
若所述歷史剪枝信息滿(mǎn)足所述第一預(yù)設(shè)剪枝條件,且所述歷史精度信息不滿(mǎn)足所述第二預(yù)設(shè)剪枝條件,根據(jù)所述歷史剪枝信息確定所述當(dāng)前剪枝信息。
6.根據(jù)權(quán)利要求5所述的方法,其特征在于,所述根據(jù)所述剪枝后的模型的精度信息和所述當(dāng)前剪枝信息,確定待剪枝信息,包括:
若所述當(dāng)前剪枝信息滿(mǎn)足所述第一預(yù)設(shè)剪枝條件,且所述剪枝后的模型的精度信息滿(mǎn)足所述第二預(yù)設(shè)剪枝條件,將所述當(dāng)前...
【專(zhuān)利技術(shù)屬性】
技術(shù)研發(fā)人員:舒睿俊,李嘉茂,朱冬晨,張曉林,
申請(qǐng)(專(zhuān)利權(quán))人:中國(guó)科學(xué)院上海微系統(tǒng)與信息技術(shù)研究所,
類(lèi)型:發(fā)明
國(guó)別省市:上海;31
還沒(méi)有人留言評(píng)論。發(fā)表了對(duì)其他瀏覽者有用的留言會(huì)獲得科技券。