一種加入Dropout的卷積神經網絡的果蔬圖像識別方法技術

本發明專利技術涉及一種加入Dropout的卷積神經網絡的果蔬圖像識別方法，包括兩層卷積濾波層、兩層降采樣層、一層全連接層、一層輸出層；方法包括卷積過程、降采樣過程以及全連接過程。本發明專利技術通過在所述卷積濾波層中加入一定比例的隨機隱退Dropout，令某些神經元凍結，使其輸出為0，進而減少過擬合現象。

A fruit and vegetable image recognition method based on convolutional neural network with Dropout

Image recognition method of the invention relates to a method for adding Dropout convolutional neural network, including two layer convolution filtering layer and two layer, a layer of desampling connection layer, a layer of the output layer; method including the convolution process, down sampling process and the connection process. By adding a certain proportion of random escape Dropout in the convolution filter layer, some neurons are frozen and output to 0, thereby reducing overfitting phenomenon.

【技術實現步驟摘要】
一種加入Dropout的卷積神經網絡的果蔬圖像識別方法
本專利技術涉及深度神經網絡
，特別是一種加入Dropout的卷積神經網絡的果蔬圖像識別方法。
技術介紹
智能冰箱的果蔬識別可幫助商家收集用戶果蔬產品的消耗情況，利用該數據分析出用戶喜好，商家可通過終端APP適時向用戶做出果蔬產品以及個性化食譜推薦，或提醒用戶盡快食用冰箱中即將過期的食品。目前大多數對果蔬圖像的識別分類都是基于機器視覺的研究，采用人工提取果蔬顏色，紋理，形狀等特征，然后用分類器識別。人工提取特征繁瑣，提取到的特征片面，且容易受外界如光照等因素的變化，魯棒性不強。鑒于上述原因，本專利技術提出一種加入Dropout的卷積神經網絡的果蔬圖像識別方法，卷積神經網絡是一類可以直接以2D圖像作為輸入的深度神經網絡，這種自主從隱含層中逐層選取圖像物體由邊、顏色等低層到角點、形狀等高層特征的方式，避免了人工提取特征的繁瑣與片面，使網絡具有自主選取特征并進行學習與識別的能力。卷積神經網絡還具有良好的容錯能力，自適應能力強，對特定的遮擋、光照、平移、旋轉、縮放及其他形式的扭曲都具有良好的魯棒性，非常適合用于處理該類果蔬識別問題。對于傳統的卷積神經網絡，當需要訓練的樣本集不大時，容易引起“過擬合”，從而導致識別率降低。
技術實現思路
有鑒于此，本專利技術的目的是提出一種加入Dropout的卷積神經網絡的果蔬圖像識別方法，在隱含層中引入Dropout技術，減少傳統卷積神經網絡中“過擬合”現象的發生。本專利技術采用以下方案實現：一種加入Dropout的卷積神經網絡的果蔬圖像識別方法，具體包括兩層卷積濾波層、兩層降采樣層、一層全連接層、一層輸出層；通過在所述卷積濾波層中加入一定比例的隨機隱退Dropout，令某些神經元凍結，使其輸出為0，進而減少過擬合現象；包括以下步驟：步驟S01：將輸入圖像歸一化至網絡所需尺寸大小；步驟S2：進行卷積：用一個可訓練的濾波器卷積輸入圖像，得到卷積層的特征圖，其中卷積層中引入Dropout的神經元的比例為30％；步驟S3：進行降采樣：對卷積層的特征圖中每個n×n的鄰域求平均得到降采樣層的一個值，進而使得降采樣層的特征圖在各個維度都比卷積層的特征圖縮小了n倍；步驟S4：進行全連接：將第二層降采樣層的特征圖展開成一個向量，乘上加權值并通過激活函數得到輸出層神經元的輸出值；步驟S5：求出輸出值與標簽值的的均方誤差，網絡采用基于帶動量項的梯度下降反向傳播算法，當迭代次數滿足要求時終止卷積神經網絡的訓練。具體可包括以下步驟：S01：將輸入圖像歸一化至網絡所需的尺寸大小；S02：將所述S01中歸一化后的圖像通過第一層卷積濾波層得到該層的特征圖；S03：將所述S02中的特征圖通過第一層降采樣層得到該層的特征圖；S04：將所述S03中的特征圖通過第二層卷積濾波層得到該層的特征圖；S05：將所述S04中的特征圖通過第二層降采樣層得到該層的特征圖；S06：將所述S05中的特征圖展開成一個列向量；S07：將所述S06中向量乘上加權通過一個非線性激活函數進行映射得到輸出值；進一步的，所述網絡所需尺寸為1:1的等寬高圖像。進一步的，所述兩層卷積濾波層均采用ReLU非線性非飽和函數作為激活函數進行映射得到輸出值，加速網絡收斂。進一步的，所述兩層降采樣層均采用均值采樣，即對輸入的上一層卷積濾波層的特征圖的n×n區域求平均后作為該層的一個點。進一步的，步驟S5中所述基于帶動量項的梯度下降反向傳播算法中，采用的權重更新規則為：ωi+1＝ωi+νi+1；其中，i為迭代次數，η為學習率，λ為權重衰減因子，ω為權重向量，vi表示動量，α為動量項系數；為第i批訓練樣本Di的損失函數在權值為ωi時關于ω的導數的平均值。與現有技術相比，本專利技術有以下有益效果：本專利技術提出在卷積神經網絡中加入Dropout技術，即在隱含層中“凍結”一定比例的神經元，在網絡訓練過程中保留其當前的權值，同時將輸出設定為0，而這些被選擇的神經元在下次訓練過程中又會恢復之前保留的取值，并再次隨機選擇部分神經元重復此過程。該方法可減少“過擬合”的發生，提高網絡的泛化能力。附圖說明圖1為本專利技術實施例中方法整體結構圖；圖2為本專利技術實施例中采用的果蔬圖像集(SupermarketProducedataset)的部分果蔬圖像；圖3為本專利技術實施例中ReLU激活函數連接網絡的示意圖；圖4為本專利技術實施例中卷積層引入隨機隱退的示意圖；圖中：Input為輸入層，C1、C3為卷積層，S2、S4為降采樣層；Wx為權值；Cx為卷積層的特征圖。具體實施方式下面結合附圖及實施例對本專利技術做進一步說明。本實施例提供了一種加入Dropout的卷積神經網絡的果蔬圖像識別方法，具體包括兩層卷積濾波層、兩層降采樣層、一層全連接層、一層輸出層；通過在所述卷積濾波層中加入一定比例的隨機隱退Dropout，令某些神經元凍結，使其輸出為0，進而減少過擬合現象；包括以下步驟：步驟S01：將輸入圖像歸一化至網絡所需尺寸大小；步驟S2：進行卷積：用一個可訓練的濾波器卷積輸入圖像，得到卷積層的特征圖，其中卷積層中引入Dropout的神經元的比例為30％；步驟S3：進行降采樣：對卷積層的特征圖中每個n×n的鄰域求平均得到降采樣層的一個值，進而使得降采樣層的特征圖在各個維度都比卷積層的特征圖縮小了n倍；步驟S4：進行全連接：將第二層降采樣層的特征圖展開成一個向量，乘上加權值并通過激活函數得到輸出層神經元的輸出值；步驟S5：求出輸出值與標簽值的的均方誤差，網絡采用基于帶動量項的梯度下降反向傳播算法，當迭代次數滿足要求時終止卷積神經網絡的訓練。具體可包括以下步驟：S01：將輸入圖像歸一化至網絡所需的尺寸大小；S02：將所述S01中歸一化后的圖像通過第一層卷積濾波層得到該層的特征圖；S03：將所述S02中的特征圖通過第一層降采樣層得到該層的特征圖；S04：將所述S03中的特征圖通過第二層卷積濾波層得到該層的特征圖；S05：將所述S04中的特征圖通過第二層降采樣層得到該層的特征圖；S06：將所述S05中的特征圖展開成一個列向量；S07：將所述S06中向量乘上加權通過一個非線性激活函數進行映射得到輸出值；在本實施例中，所述的卷積層均采用ReLU非線性非飽和函數作為激活函數，加速網絡收斂。在本實施例中，所述的卷積濾波層中加入一定比例的Dropout，使某些神經元“凍結”，為了減少過擬合現象。在本實施例中，所述的降采樣層均采用均值采樣。在本實施例中，誤差反向傳播采用基于動量項的梯度下降反向傳播算法，防止網絡陷于局部極小值。在本實施例中，所述的網絡采用貪心迭代算法，直到迭代的次數滿足條件時終止迭代。具體的，如圖所示，圖2為本實施例中采用的果蔬圖像集(SupermarketProducedataset)的部分果蔬圖像，數據集的原圖像尺寸為1024*768，先裁剪并按照1:1的比例壓縮為28*28。如圖1所示，在本實施例中，所述的第一層卷積層C1采用6個5*5大小的卷積核，卷積步長為1。所述的激活函數采用ReLU非線性非飽和函數，即f(x)＝max(x)，該函數通過線性修正的方式，強制某些數據為零，使得模型具有適度的稀疏表達。其梯度值大，可防止梯度向前傳遞時彌散，所述的ReLU函數連本文檔來自技高網...

【技術保護點】
一種加入Dropout的卷積神經網絡的果蔬圖像識別方法，其特征在于：包括兩層卷積濾波層、兩層降采樣層、一層全連接層、一層輸出層；通過在所述卷積濾波層中加入一定比例的隨機隱退Dropout，令某些神經元凍結，使其輸出為0，進而減少過擬合現象；具體包括以下步驟：步驟S1：將輸入圖像歸一化至網絡所需尺寸大小；步驟S2：進行卷積：用一個可訓練的濾波器卷積輸入圖像，得到卷積層的特征圖，其中卷積層中引入Dropout的神經元的比例為30％；步驟S3：進行降采樣：對卷積層的特征圖中每個n×n的鄰域求平均得到降采樣層的一個值，進而使得降采樣層的特征圖在各個維度都比卷積層的特征圖縮小了n倍；步驟S4：進行全連接：將第二層降采樣層的特征圖展開成一個列向量，乘上加權值并通過激活函數得到輸出層神經元的輸出值；步驟S5：求出輸出值與標簽值的的均方誤差，網絡采用基于帶動量項的梯度下降反向傳播算法，當迭代次數滿足要求時終止卷積神經網絡的訓練。

【技術特征摘要】
1.一種加入Dropout的卷積神經網絡的果蔬圖像識別方法，其特征在于：包括兩層卷積濾波層、兩層降采樣層、一層全連接層、一層輸出層；通過在所述卷積濾波層中加入一定比例的隨機隱退Dropout，令某些神經元凍結，使其輸出為0，進而減少過擬合現象；具體包括以下步驟：步驟S1：將輸入圖像歸一化至網絡所需尺寸大小；步驟S2：進行卷積：用一個可訓練的濾波器卷積輸入圖像，得到卷積層的特征圖，其中卷積層中引入Dropout的神經元的比例為30％；步驟S3：進行降采樣：對卷積層的特征圖中每個n×n的鄰域求平均得到降采樣層的一個值，進而使得降采樣層的特征圖在各個維度都比卷積層的特征圖縮小了n倍；步驟S4：進行全連接：將第二層降采樣層的特征圖展開成一個列向量，乘上加權值并通過激活函數得到輸出層神經元的輸出值；步驟S5：求出輸出值與標簽值的的均方誤差，網絡采用基于帶動量項的梯度下降反向傳播算法，當迭代次數滿足要求時終止卷積神經網絡的訓練。2.根據權利要求1所述的一種加入Dropout的卷積神經網絡的果蔬圖像識別方法，其特征在于：所述網絡所需尺...

【專利技術屬性】
技術研發人員：林志賢，葉蕓，郭太良，姚劍敏，曾維亮，
申請(專利權)人：福州大學，
類型：發明
國別省市：福建,35