System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本專利技術涉及麥穗圖像檢測領域,尤其涉及一種基于yolov5s+4+ecac3模型的輕量化小麥麥穗提取算法。
技術介紹
1、常見的深度學習網絡輕量化方法主要包括網絡剪枝和知識蒸餾,網絡剪枝是一種模型壓縮技術,它的主要目的是去除網絡中的一些參數和連接,從而在盡量不影響精度的情況下降低模型的大小和參數量,以此減少模型的存儲和運行成本。主要的剪枝方法有三種,分別是在訓練前、中、后進行剪枝和微調,其過程主要包括五個步驟:(1)訓練神經網絡;(2)評估權重和神經元的重要性;(3)按照重要性的順序,將神經元或者權重進行排序,然后將其中不重要的進行刪除處理;(4)在刪除了不重要的神經元或者權重之后,網絡會有一定的損傷,所以對網絡進行微調從而將其復原;(5)由于每次剪枝數量不能過多,所以會難以滿足我們的需求,從而可以進行迭代操作,直到符合我們的要求為止。知識蒸餾將原模型學習的知識遷移到壓縮模型中。不僅可以達到降低模型體積的要求,也可以學習到相同的知識。在蒸餾過程中,大模型被稱作教師模型,小模型稱為學生模型。其主要步驟如下:(1)數據集的準備,即準備一個用于訓練的數據集;(2)訓練教師模型。教師模型可以是一個訓練好的模型也可以是一個從頭開始訓練的模型,使用教師模型在準備好的模型上進行訓練,達到一個較高的準確率;(3)獲得教師模型的輸出結果,并將這些結果作為學生模型的目標標簽;(4)準備一個學生模型,它是一個基于變換器的圖像分類模型,這些模型已經在小規模的數據集上進行了訓練,它們的計算成本比較低并且內存占用不大;(5)為知識蒸餾選取一個合適的損失函
2、隨著技術的發展,如今,模型的輕量化已經不僅僅局限于剪枝、知識蒸餾等等,越來越多的專家學者開始設計輕量化網絡用在自己的網絡模型中,這些模型的加入,可以幫助我們更好的將自己的模型部署到設備上。新型的輕量化網絡主要有mobilenet類型網絡、shufflenet類型網絡和ghostnet網絡等等,在此基礎上,為了提高麥穗檢測精度,降低模型的計算量,我們提出一種基于yolov5s+4+ecac3模型的輕量化小麥麥穗提取算法。
技術實現思路
1、針對現有的技術方案存在的問題。本專利技術的目的在于提供一種基于yolov5s+4+ecac3模型的輕量化小麥麥穗提取算法。
2、為實現上述目的,本專利技術提供以下技術方案:
3、一種基于yolov5s+4+ecac3模型的輕量化小麥麥穗提取算法,包括如下步驟:
4、(1)將ghostnet引入到yolov5s+4+ecac3網絡中生成新的網絡yolov5s+4+ecac3+ghost;具體引入方式如下:
5、(1.1)將yolov5s+4+ecac3網絡中所有的c3模塊替換為c3ghost模塊;
6、(1.2)將yolov5s+4+ecac3網絡中第一個conv模塊之外的所有conv模塊替換為ghostconv模塊;
7、(2)使用mobilenetv3網絡對yolov5s+4+ecac3進行改進,將其網絡中的主干部分替換為mobilenetv3;
8、(3)激活函數的改進;將原始的siou激活函數改為rrelu激活函數,其公式如下所示:
9、,該函數以relu基礎,引入了和兩個參數,將原先的線性修正單元改進為自適應可延伸的線性單元;
10、(4)損失函數的改進;損失函數計算公式如公式1-1所示:
11、(1-1)
12、其中,表示分類損失,表示置信度損失,表示位置損失;
13、yolov5使用的損失函數是ciou,它可以在度量預測框和真實框之間的差異后通過兩個中心點來實現回歸,計算方法如公式1-2、1-3、1-4和1-5所示:
14、(1-2)
15、(1-3)
16、(1-4)
17、(1-5)
18、其中,用來確定預測框和真實框的大小是否一致,是衡量寬高比例和iou損失的平衡因子,表示最小閉包區域的對角線距離,表示預測框的中心點,表示真實框的中心點;
19、使用eiou損失函數替換原來的ciou損失函數,其計算過程如公式1-6所示:
20、(1-6)
21、其中,和分別表示覆蓋預測框的最小外接框的寬度和高度。
22、進一步的,所述步驟(2)mobilenetv3分為兩種不同的網絡的結構,分別是mobilenetv3-large和mobilenetv3-small的網絡結構;其中表示1×1卷積上升的通道數量,表示輸出的特征圖的數量,表示該處是否加入了se注意力機制,表示是stride,即步長大小,表示的是加入的激活函數的類型;代表的激活函數是h-swish,計算公式如式2-1所示:
23、(2-1)
24、表示relu激活函數,其計算公式如式2-2所示:
25、(2-2)。
26、進一步的,所述步驟(2)還可以使用shufflenetv2網絡對yolov5s+4+ecac3網絡進行改進,將其網絡的中的主干部分替換為shufflenetv2。
27、進一步的,所述步驟(3)rrelu激活函數在參數的更新方面,rrelu的參數和參數在訓練過程中主要有前向傳播和反向傳播兩個部分,在前者的過程中,所有參數都參與計算,但是沒有更新,在后者的過程中存在更新;在更新參數之前,先確定交叉熵損失函數,然后經過前向傳播過程的一系列計算,如公式3-1所示:
28、(3-1)
29、其中,為第?層前向傳播計算出來的輸出。接著運用梯度下降迭代的方法求出各層的參數和;
30、關于激活函數的梯度是,參數和的梯度如公式3-2所示:
31、(3-2)
32、由此可以得到第層的參數和的梯度如公式3-3和公式3-4所示:
33、(3-3)
34、(3-4)
35、其中,是從更深層網絡傳來的梯度。
36、最后,引入動量來更新參數,如公式3-5所示:
37、(3-5)
38、與現有技術相比,本專利技術的有益效果是:本專利技術的yolov5s+4+ecac3模型的輕量化小麥麥穗提取算法,將ghostnet引入到yolov5s+4+ecac3網絡中生成新的網絡yolov5s+4+ecac3+ghost,網絡的參數量下降了32%,模型大小下降了30%,浮點運算次數下降了33.2%。加入rrelu激活函數和eiou損失函數后,模型的參數量、大小、浮點運算次數和檢測速本文檔來自技高網...
【技術保護點】
1.一種基于YOLOv5s+4+ECAC3模型的輕量化小麥麥穗提取算法,其特征在于,包括如下步驟:
2.根據權利要求1所述的一種基于YOLOv5s+4+ECAC3模型的輕量化小麥麥穗提取算法,其特征在于,所述步驟(2)MobileNetV3分為兩種不同的網絡結構,分別是MobileNetV3-large和MobileNetV3-small的網絡結構;其中表示1×1卷積上升的通道數量,表示輸出的特征圖的數量,表示該處是否加入了SE注意力機制,表示是stride,即步長大小,表示的是加入的激活函數的類型;代表的激活函數是h-swish,計算公式如式2-1所示:
3.根據權利要求1所述的一種基于YOLOv5s+4+ECAC3模型的輕量化小麥麥穗提取算法,其特征在于,所述步驟(2)還可以使用ShuffleNetV2網絡對YOLOv5s+4+ECAC3網絡進行改進,將其網絡中的主干部分替換為ShuffleNetV2。
4.根據權利要求1所述的一種基于YOLOv5s+4+ECAC3模型的輕量化小麥麥穗提取算法,其特征在于,所述步驟(3)RRelu激活函數在
...【技術特征摘要】
1.一種基于yolov5s+4+ecac3模型的輕量化小麥麥穗提取算法,其特征在于,包括如下步驟:
2.根據權利要求1所述的一種基于yolov5s+4+ecac3模型的輕量化小麥麥穗提取算法,其特征在于,所述步驟(2)mobilenetv3分為兩種不同的網絡結構,分別是mobilenetv3-large和mobilenetv3-small的網絡結構;其中表示1×1卷積上升的通道數量,表示輸出的特征圖的數量,表示該處是否加入了se注意力機制,表示是stride,即步長大小,表示的是加入的激活函數的類型;代表的激活函數是h-swish,計算公式如式2-1所示:
3.根據權利要求1所述的一種基于y...
【專利技術屬性】
技術研發人員:李勁松,錢海明,戴飛杰,周春寅,臧霄鵬,趙晉陵,黃林生,
申請(專利權)人:天地信息網絡研究院安徽有限公司,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。