System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本專利技術屬于無線電通信,具體涉及一種增強注意力機制與位置編碼的寬帶頻譜感知方法及裝置。
技術介紹
1、頻譜是一種重要且不可再生的資源。移動智聯網設備的數量預計將在未來幾年達到數十億,它們需要大量的頻譜來傳輸多媒體數據并相互交互。頻譜的需求與日俱增,而目前頻譜資源利用率低與頻譜資源短缺的矛盾日益尖銳。頻譜感知是為了解決頻譜稀缺問題具有前景的解決方式。傳統頻譜感知具有低信噪比情況下感知性能差等缺點,且在面對寬頻帶采樣時,根據奈奎斯特采樣定理,需要的硬件設備采樣率會達到一個極高的程度。在過去的十年中,人們提出了各種基于亞奈奎斯特采樣的寬帶頻譜感知方法來克服對高速adc的需求。而深度學習算法具有自主提取寬帶頻譜中復雜和非線性特征的能力。目前,深度學習技術正越來越多地用于頻譜的感知任務。
2、深度學習模型可以幫助用戶在未來復雜的無線電環境中進行理解、分析和決策。隨著硬件算力的提升和普及化,深度學習在邊緣端的應用越來越成熟。研究者們開始研究更多的可訓練的模型來完成頻譜感知相關任務。現有研究者們解決頻譜感知所使用的模型多為cnn或者rnn等模型。我們注意到cnn與rnn等模型擅長提取局部細節信息,而transformer模型擅長管理輸入序列元素之間的長依賴關系,并促進并行處理。
3、transformer模型具有全局感受野,能夠對全局進行建模,而卷積神經網絡只有局部感受野。擁有全局感受野的模型從根本上就具有處理更復雜數據的能力,能夠通過構建所有輸入之間的關系,十分適合挖掘極寬頻帶上各種信號出現的關系。然而,使用tra
4、綜上所述,頻譜作為不可再生的寶貴資源,隨著移動智聯網設備數量的激增,頻譜需求急劇上升,但利用率低下的矛盾愈發突出。傳統的頻譜感知方法在低信噪比環境中表現不佳,且寬帶采樣的硬件要求過高。
5、近年來,亞奈奎斯特采樣技術和深度學習的結合成為應對這些挑戰的有效途徑。特別是深度學習能夠自主提取頻譜中的復雜特征,推動了頻譜感知領域的進步。與cnn和rnn擅長局部信息提取不同,transformer模型憑借其全局感受野和處理復雜數據關系的能力,展現出巨大的潛力。
技術實現思路
1、有鑒于此,本專利技術的主要目的在于提供一種增強注意力機制與位置編碼的寬帶頻譜感知方法及裝置。
2、為達到上述目的,本專利技術的技術方案是這樣實現的:
3、本專利技術實施例提供一種增強注意力機制與位置編碼的寬帶頻譜感知方法,該方法包括:
4、對寬帶頻譜信號進行欠采樣和降維處理,得到預處理信號;
5、對所述預處理信號進行增強注意力機制處理,獲得增強注意力機制處理后的信號;
6、對所述預處理信號進行位置編碼,獲得增強信號位置信息;
7、將增強注意力機制處理后的信號和位置編碼后的信號輸入到特征提取網絡,獲得信號特征;
8、對特征提取網絡輸出的信號特征進行分類識別,得到頻譜感知結果。
9、上述方案中,所述對寬帶頻譜信號進行欠采樣和降維處理,得到預處理信號,具體包括:根據x(f)=φ-1y(f)確定原始信號;其中,y(f)為采樣向量,f代表信號在頻域軸的頻率;
10、對所述原始信號通過pca(principal?component?analysis)生成估計數據;
11、利用pca對數據降維,選取主要成分;
12、通過fft(快速傅里葉變換)獲取信號的頻譜信息。
13、上述方案中,所述對所述預處理信號進行增強注意力機制處理,獲得增強注意力機制處理后的信號,具體包括:所述增強注意力機制處理包括:對查詢向量q進行特征提取,之后,確定特征提取后局部信息的查詢向量q和鍵向量k的相似度作為權重,其中,查詢向量q后添加一層卷積層以提取局部特征,再進行注意力計算獲得最終的輸出結果。
14、上述方案中,所述確定查詢向量q和鍵向量k的相似度作為權重,具體包括:根據確定權重,其中,t為矩陣轉置操作,q為矩陣代表注意力機制里的查詢向量,k為矩陣代表注意力機制里的鍵向量,dk為鍵向量的維度。
15、上述方案中,所述q向量后添加一層卷積層以提取局部特征,具體包括:根據確定;其中,為第k個特征圖中位置(i,j)的激活值,f為卷積濾波器的大小,c為輸入通道數,wm,n,l,k為卷積濾波器在第l個輸入特征圖和第k個輸出特征圖中位置(m,n)的權重,x為在對應位置上的輸入特征圖的值,bk為第k個輸出特征圖的偏置。
16、上述方案中,所述再進行注意力計算獲得最終的輸出結果,具體包括:根據headout=concat(attention1,attention2,k,attentionh)wo獲得最終的輸出結果;其中,attentionh為根據得出的第h個注意力機制的輸出值,concat為對所有注意力頭的輸出進行拼接,wo為一個線性變換矩陣,用于將拼接后的結果映射到最終的輸出維度。
17、上述方案中,所述對所述預處理信號進行位置編碼,獲得增強信號位置信息,具體為:使用三層卷積層對所述預處理信號提取隱形的位置信息獲得增強信號位置信息;
18、上述方案中,所述對特征提取網絡輸出的信號特征進行分類識別,得到頻譜感知結果,具體包括:對融合位置信息和經過注意力機制處理后的信號特征,,根據獲得分類識別的結果;其中,f為其在頻域內的表示,為第l個預測子頻帶的輸出值。
19、本專利技術實施例還提供一種增強注意力機制與位置編碼的寬帶頻譜感知裝置,包括:
20、數據預處理模塊,用于對寬帶頻譜信號進行欠采樣和降維處理,得到預處理信號;
21、增強注意力機制模塊,用于對所述預處理信號進行增強注意力機制處理,獲得增強注意力機制處理后的信號;
22、位置編碼模塊,用于對所述預處理信號進行位置編碼,獲得增強信號位置信息;
23、特征提取網絡,用于將增強注意力機制處理后的信號和位置編碼后的信號輸入到特征提取網絡,獲得信號特征;
24、分類識別模塊,用于對特征提取網絡輸出的信號特征進行分類識別,得到頻譜感知結果。
25、與現有技術相比,本專利技術能夠較好的恢復出頻譜的占用情況,尤其是在低信噪比時,對比于其他模型有著較為不錯的頻譜重構概率。
本文檔來自技高網...【技術保護點】
1.一種增強注意力機制與位置編碼的寬帶頻譜感知方法,其特征在于,該方法包括:
2.根據權利要求1所述的增強注意力機制與位置編碼的寬帶頻譜感知方法,其特征在于,所述對寬帶頻譜信號進行欠采樣和降維處理,得到預處理信號,具體包括:根據X(f)=Φ-1Y(f)確定原始信號;其中,Y(f)為采樣向量,f代表信號在頻域軸的頻率;
3.根據權利要求1或2所述的增強注意力機制與位置編碼的寬帶頻譜感知方法,其特征在于,所述對所述預處理信號進行增強注意力機制處理,獲得增強注意力機制處理后的信號,具體包括:所述增強注意力機制處理包括:對查詢向量q進行特征提取,之后,確定特征提取后局部信息的查詢向量q和鍵向量k的相似度作為權重,其中,查詢向量q后添加一層卷積層以提取局部特征,再進行注意力計算獲得增強注意力機制的最終的輸出結果。
4.根據權利要求3所述的增強注意力機制與位置編碼的寬帶頻譜感知方法,其特征在于,所述確定查詢向量q和鍵向量k的相似度作為權重,具體包括:根據確定注意力機制權重,其中,T為矩陣轉置操作,q為矩陣代表注意力機制里的查詢向量,k為矩陣代表注意力機制里
5.根據權利要求4所述的增強注意力機制與位置編碼的寬帶頻譜感知方法,其特征在于,所述q向量后添加一層卷積層以提取局部特征,具體包括:根據確定激活值;其中,為第k個特征圖中位置(i,j)的激活值,F為卷積濾波器的大小,C為輸入通道數,Wm,n,l,k為卷積濾波器在第l個輸入特征圖和第k個輸出特征圖中位置(m,n)中在注意力機制中加入的卷積網絡計算的權重,X為在對應位置上的輸入特征圖的值,bk為第k個輸出特征圖的偏置。
6.根據權利要求5所述的增強注意力機制與位置編碼的寬帶頻譜感知方法,其特征在于,所述再進行注意力計算獲得最終的輸出結果,具體包括:根據Headout=Concat(Attention1,Attention2,K,Attentionh)Wo獲得最終的輸出結果;其中,Attentionh為根據得出的第h個注意力機制的輸出值,Concat為對所有注意力頭的輸出進行拼接,Wo為一個線性變換矩陣,用于將拼接后的結果映射到最終的輸出維度。
7.根據權利要求6所述的增強注意力機制與位置編碼的寬帶頻譜感知方法,其特征在于,對所述預處理信號進行位置編碼,獲得增強信號位置信息,具體為:使用三層卷積層對所述預處理信號提取隱形的位置信息獲得增強信號位置信息。
8.根據權利要求7所述的增強注意力機制與位置編碼的寬帶頻譜感知方法,其特征在于,所述對特征提取網絡輸出的信號特征進行分類識別,得到頻譜感知結果,具體包括:對對融合位置信息和經過注意力機制處理后的信號特征,根據獲得分類識別的結果;其中,f為其在頻域內的表示,為第l個預測子頻帶的輸出值。
9.一種增強注意力機制與位置編碼的寬帶頻譜感知裝置,其特征在于,包括:
...【技術特征摘要】
1.一種增強注意力機制與位置編碼的寬帶頻譜感知方法,其特征在于,該方法包括:
2.根據權利要求1所述的增強注意力機制與位置編碼的寬帶頻譜感知方法,其特征在于,所述對寬帶頻譜信號進行欠采樣和降維處理,得到預處理信號,具體包括:根據x(f)=φ-1y(f)確定原始信號;其中,y(f)為采樣向量,f代表信號在頻域軸的頻率;
3.根據權利要求1或2所述的增強注意力機制與位置編碼的寬帶頻譜感知方法,其特征在于,所述對所述預處理信號進行增強注意力機制處理,獲得增強注意力機制處理后的信號,具體包括:所述增強注意力機制處理包括:對查詢向量q進行特征提取,之后,確定特征提取后局部信息的查詢向量q和鍵向量k的相似度作為權重,其中,查詢向量q后添加一層卷積層以提取局部特征,再進行注意力計算獲得增強注意力機制的最終的輸出結果。
4.根據權利要求3所述的增強注意力機制與位置編碼的寬帶頻譜感知方法,其特征在于,所述確定查詢向量q和鍵向量k的相似度作為權重,具體包括:根據確定注意力機制權重,其中,t為矩陣轉置操作,q為矩陣代表注意力機制里的查詢向量,k為矩陣代表注意力機制里的鍵向量,dk為鍵向量的維度。
5.根據權利要求4所述的增強注意力機制與位置編碼的寬帶頻譜感知方法,其特征在于,所述q向量后添加一層卷積層以提取局部特征,具體包括:根據確定激活值;其中,為第k個特征圖中位置(i,j)的激活值,f為卷積濾波器的大小,...
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。