【技術實現步驟摘要】
本專利技術屬于心電監測，特別涉及一種基于transformer的心電信號壓縮感知方法。
技術介紹
1、心電信號作為一種人體醫學信息，是目前臨床用于檢測和診斷心血管疾病的重要技術。近年來，無線人體傳感網絡已廣泛應用于獲取實時人體醫學信息，對心電信號的長期實時監測有助于發現和預防心血管疾病。然而，長期實時的監測使得采樣和傳輸的心電信號數據成倍增長，傳統的采樣和傳輸技術受限于移動設備的功耗和使用壽命，無法支持實現心電信號的長期監測。因此，如何在采樣和傳輸過程中有效減少心電信號的信息冗余，降低需要傳輸和存儲的數據量是實現相關技術的關鍵。
2、壓縮感知理論打破了傳統采樣理論的限制，利用信號的稀疏性從較少的樣本中獲得有效信息，降低采樣過程的頻率和復雜度，進一步降低整個系統的功耗，為心電信號的長期實時監測和低功耗傳輸提供了解決方案。壓縮感知通過構造合適的觀測矩陣來獲取低維測量信號，然后在信號接收端使用重建算法穩定且精確地對低維測量信號進行恢復重建，其中壓縮感知重建算法決定了能否得到高質量高精度的重建信號。
3、傳統的壓縮感知重建算法主要利用信號在變換域的稀疏性和先驗知識，通過求解優化問題，迭代重構原始信號，具有較高的計算復雜度和時間復雜度，無法即時完成重建任務。而基于卷積神經網絡的壓縮感知方法已展現出不錯的效果，但卷積神經網絡的局部連接和權值共享特性導致的應用局限性也日益凸顯。卷積神經網絡中的每個神經元只關注輸入序列中的局部位置信息，這種局部關注的特性可能導致對全局信息的捕捉不足，從而影響了對長序列信號的有效表示和重建
技術實現思路
1、專利技術目的：為了克服以上不足，本專利技術的目的是提供一種基于transformer的心電信號壓縮感知方法，transformer網絡捕捉全局特性的能力和處理序列到序列任務的優勢，可以快速精準重構壓縮采樣的低維心電信號，既降低了系統功耗，又可以得到高質量的重建心電信號，并且在醫療層面能夠達到重構信號質量優秀的標準。
2、技術方案：為了實現上述目的，本專利技術提供了一種基于transformer的心電信號壓縮感知方法，包括如下步驟：
3、s1)：數據集制作，收集并整合待訓練的心電圖數據，將心電圖數據組成實驗數據集，對實驗數據集內的數據進行濾波去噪和歸一化操作后，再將其按照8：2的比例隨機分成訓練數據集和測試數據集；
4、s2)：構建基于transformer的壓縮感知網絡，所述基于transformer的壓縮感知網絡包括可學習采樣模塊、初步重建模塊、深度重建模塊；
5、首先采樣模塊使用數據驅動的可訓練感知矩陣，通過感知矩陣對初始心電信號進行壓縮采樣，得到低維壓縮采樣信號；
6、模擬數據傳輸到服務器終端的過程；隨后通過初步重建模塊和深度重建模塊兩階段對信號進行恢復重建；
7、s3)：構建最終損失函數，最終損失函數包括兩個部分，即初始重建損失和深度重建損失；
8、s4)：訓練基于transformer的壓縮感知網絡，即將步驟s1)中的訓練數據集切分成非重疊的數據段送入神經網絡中訓練，訓練完成的神經網絡用于心電信號的壓縮感知采樣與重建，訓練塊大小為256×256，批大小為32；訓練過程使用多項式學習策略調整學習率，訓練次數為200輪，當最終損失函數算出的損失值不再下降或者是出現震蕩時采用早期停止以避免過擬合；
9、s5)：壓縮感知重建效果評估，將測試數據集切成訓練塊同樣尺寸的數據塊，然后送入步驟s4)中訓練完成后的神經網絡進行預測，再采用百分比均方誤差prd，信噪比snr等定量指標在測試集上驗證，并比較不同方法的診斷性能。
10、本專利技術所述的基于transformer的心電信號壓縮感知方法，所述s2)中可學習采樣模塊的具體采樣方法如下：
11、首先將心電信號劃分成c×l個非重疊的數據段，其中c表示心電信號通道數量，l表示數據段的長度；
12、設φ∈rm×n為可訓練的感知矩陣，m＝σ×l，n＝l；
13、采樣率σ如下：
14、σ＝m/n(0≤σ≤1)；壓縮采樣過程可以表示為：
15、y＝s(x,φ))＝φ·x
16、其中，y為壓縮采樣的心電信號，x是原始心電信號，s(x,φ)表示壓縮采樣操作；
17、采樣模塊通過來自訓練的反向傳播聯合訓練感知矩陣φ的元素(用正態分布初始化)，并且感知矩陣φ的元素最終遵循類高斯分布，采樣模塊在與后續重建模塊聯合訓練后，自適應地參與到架構中來改善信號重建質量。在實際應用中，使用訓練得到的φ從原始心電信號中獲得測量值。
18、本專利技術所述的基于transformer的心電信號壓縮感知方法，所述s2)中分兩階段對信號進行恢復重建的具體過程如下：
19、第一階段初步重建模塊利用數據驅動的初始重建矩陣來初步升維恢復信號，即初始重建模塊利用訓練過程中學習到的心電信號的特征對信號進行初步重建，使用可訓練的初始重建矩陣初步還原信號；所述初始重建矩陣初始化為采樣矩陣φ的轉置，并通過反向傳播自動訓練，通過反向傳播與重建模塊聯合訓練矩陣中的元素，充分學習心電信號的先驗信息，利用訓練過程中學習到的心電信號的特征對信號進行初步重建，得到初始重建信號；
20、第二階段深度重建模塊使用基于transformer的混合重建網絡對信號進行恢復重建，并使用預處理卷積網絡來學習心電信號之間的局部細節。混合重建網絡將預處理結果與初始重建信號進行數據嵌入表示并添加位置信息作為transformer的輸入序列把原始心電信號作為目標序列，使用transformer的編碼器和解碼器提取心電信號的數據特征并生成重建的心電信號。通過定制的transformer主干網絡與cnn重建模塊，基于transformer的心電信號壓縮感知網絡可有效捕獲信號間的全局位置依賴性和局部細節，同時使用優化器，有效的建立原始信號和預測信號之間的映射關系，從而獲得高性能的重建心電信號。
21、本專利技術所述的基于transformer的心電信號壓縮感知方法，所述s2)所述初始重建模塊利用訓練過程中學習到的心電信號的特征對信號進行初步重建，使用可訓練的初始重建矩陣來初步還原信號，將初始化為采樣矩陣φ的轉置矩陣，并通過反向傳播自動訓練，對于采樣率σ＝m/n，經過采樣模塊壓縮采樣得到的測量信號y的行數為σ×l；
22、
23、其中，xinit為初始重建的心電信號，表示初始重建過程，y＝s(·,φ)為壓縮采樣信號。
24、本專利技術所述的基于transformer的心電信號壓縮感知方法，所述預處理卷積網絡包括依次連接的輸入層、二維卷積層、批量規范化層、elu激活層、輸出層；
25、信號經過預處理卷積網絡學習局部細節的過程可表示為：
26本文檔來自技高網...
【技術保護點】
1.一種基于Transformer的心電信號壓縮感知方法，其特征在于：包括如下步驟：
2.根據權利要求1所述的基于Transformer的心電信號壓縮感知方法，其特征在于：所述S2)中可學習采樣模塊的具體采樣方法如下：
3.根據權利要求1所述的基于Transformer的心電信號壓縮感知方法，其特征在于：所述S2)中通過初步重建模塊和深度重建模塊分兩階段對信號進行恢復重建的具體過程如下：
4.根據權利要求3所述的基于Transformer的心電信號壓縮感知方法，其特征在于：所述S2)中初始重建模塊利用訓練過程中學習到的心電信號的特征對信號進行初步重建，使用可訓練的初始重建矩陣來初步還原信號，將初始化為采樣矩陣Φ的轉置矩陣，并通過反向傳播自動訓練，對于采樣率σ＝M/N，經過采樣模塊壓縮采樣得到的測量信號y的行數為σ×L；
5.根據權利要求3所述的基于Transformer的心電信號壓縮感知方法，其特征在于：所述預處理卷積網絡包括依次連接的輸入層、二維卷積層、批量規范化層、ELU激活層、輸出層；
6.根據權利要求3所述的基于
7.根據權利要求6所述的基于Transformer的心電信號壓縮感知方法，其特征在于：所述重排列多頭自注意力層中的每個頭都是一個結合深度可分離卷積的縮放點積注意力機制，這樣每個頭都可以關注輸入序列的不同部分，并計算出不同的加權和，縮放點積注意力機制通過對輸入進行線性投影得到Q，K，V，其中K和V經過深度可分離卷積重排列減少空間維度，得到Kp，Vp；Q、Kp經過點積運算產生權重并最終作用在Vp上，以恒定的代價訪問信號的任意位置，并更多地關注注意力權重較高的位置，這樣每個頭都可以在關注輸入序列的不同部分的同時有效減少復雜度；
8.根據權利要求6所述的基于Transformer的心電信號壓縮感知方法，其特征在于：所述縮放點積注意力機制在投影過程中通過計算Q和所有K的點積，并將每個值除以比例因子來獲得權重；
9.根據權利要求1所述的基于Transformer的心電信號壓縮感知方法，其特征在于：所述S3)構建最終損失函數具體如下：
10.根據權利要求1所述的基于Transformer的心電信號壓縮感知方法，其特征在于：所述步驟S5)中采用百分比均方誤差PRD、信噪比SNR定量指標在測試集上對不同方法的神經網絡進行驗證與性能比較，具體內容如下：
...【技術特征摘要】
1.一種基于transformer的心電信號壓縮感知方法，其特征在于：包括如下步驟：
2.根據權利要求1所述的基于transformer的心電信號壓縮感知方法，其特征在于：所述s2)中可學習采樣模塊的具體采樣方法如下：
3.根據權利要求1所述的基于transformer的心電信號壓縮感知方法，其特征在于：所述s2)中通過初步重建模塊和深度重建模塊分兩階段對信號進行恢復重建的具體過程如下：
4.根據權利要求3所述的基于transformer的心電信號壓縮感知方法，其特征在于：所述s2)中初始重建模塊利用訓練過程中學習到的心電信號的特征對信號進行初步重建，使用可訓練的初始重建矩陣來初步還原信號，將初始化為采樣矩陣φ的轉置矩陣，并通過反向傳播自動訓練，對于采樣率σ＝m/n，經過采樣模塊壓縮采樣得到的測量信號y的行數為σ×l；
5.根據權利要求3所述的基于transformer的心電信號壓縮感知方法，其特征在于：所述預處理卷積網絡包括依次連接的輸入層、二維卷積層、批量規范化層、elu激活層、輸出層；
6.根據權利要求3所述的基于transformer的心電信號壓縮感知方法，其特征在于：所述transformer主干網絡由一對編碼器和解碼器構成；初始重建信號和預處理的心電信號在嵌入...
【專利技術屬性】
技術研發人員：干紅平，侯晨陽，申飛楊，
申請(專利權)人：西北工業大學太倉長三角研究院，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。