【技術實現步驟摘要】
本專利技術屬于多元時間序列預測，具體公開了一種非平穩重塑crossformer時間序列預測方法。背景介紹隨著人工智能領域的快速發展，多領域預測任務的需求也在不斷增加。例如，電力系統需要根據往年的數據預測今年的電力負荷，工業部門需要根據生產預測量及時調整工藝生產，交通部門需要根據近期的客流量預測下個月的客流趨勢，固廢焚燒廠需要根據過程變量的參數變化趨勢進行實時干預等。可以看出，各個領域的預測任務有助于它們提前制定計劃，從而有利于提高工作效率和經濟效益，并有助于降低風險和經濟損失。近年來，隨著神經網絡的深入研究，時間序列預測模型也得到了快速發展。現有的時間序列預測模型大致可以分為注意力網絡、卷積網絡、圖神經網絡及其他類型。在以往的工作中，多元時間序列預測任務的重點更多地放在如何構建一個好的神經網絡模型實現更深層次的數據特征提取，但忽略了保留數據的原始特性，這極大地影響了模型的預測精度。根據真實數據的特性，多元時間序列的預測主要存在以下兩個問題：(1)真實數據具有非平穩特性，但大多數時間序列預測模型中，對于數據的過度歸一化處理降低了其非平穩性。使用歸一化后的數據進行特征提取或計算，不能很好地反映模型預測結果的真實性和準確性。(2)對于多元時間序列預測任務，現有的大多數模型更注重捕獲單個時間序列的變化周期，而忽略了多元時間序列之間的相互影響。然而，在實際的預測任務中，多元參數之間存在一定的相關性，即一個變量的變化往往會對其他變量的變化產生影響，反之亦然。因此，在多元時間序列預測任務中，如何同時解決這兩個問題以提高模型預測的準確性和真實性是一個需要解決的重要問題
技術介紹
技術實現思路
1、本專利技術為解決現有多元時間序列預測中存在的沒有充分考慮多元時間序列之間的相關性和真實數據的分平穩特性導致預測結果準確性和真實性不高的問題提出了一種非平穩重塑crossformer時間序列預測方法。
2、本專利技術提供了一種非平穩重塑crossformer時間序列預測方法，包括如下步驟：
3、s1.利用超參數限制模塊對預測模型的超參數進行限制，以多元時間序列x＝{x1,x2,x3,…xc},x∈rb×l×c作為樣本數據輸入預測模型進行時間序列預測，xk表示第k個時間序列，k∈(1,2,3…c)，r表示實數集，b表示樣本批次，l表示樣本數據步長，c表示時間序列維度；
4、s2.對所述多元時間序列x進行歸一化處理得到歸一化多元時間序列xnor、標準差σx和均值μx；
5、s3.將所述多元時間序列x、所述步驟s2獲得的所述標準差σx和所述均值μx輸入mlp網絡計算出第一非平穩因子θ和第二非平穩因子
6、s4.利用embedding操作對所述步驟s2得到的所述歸一化多元時間序列xnor和所述步驟s3計算得到的所述第二非平穩因子進行分段處理得到分段多元時間序列xemb和第一分段第二非平穩因子
7、s5.構建一維resnet網絡，將所述步驟s4得到的所述分段多元時間序列xemb輸入所述一維resnet網絡，經過卷積、池化得到第一分段多元時間序列xenc1；
8、s6.將所述步驟s5計算得到的所述第一分段多元時間序列xenc1、所述步驟s4得到的所述第一分段第二非平穩因子和所述步驟s3計算得到的所述第一非平穩因子θ作為第一個encoder層的輸入，依次通過非平穩注意力計算、相關注意力計算以及自注意力計算得到第一個encoder層的三層注意力輸出第一注意力多元時間序列enc1，將得到的第一注意力多元時間序列進行線性映射得到第一個encoder層的輸出第一編碼多元時間序列enc′1；
9、s7.對所述步驟s4得到的所述第一分段第二非平穩因子進行線性變換得到第二分段第二非平穩因子對所述第二分段第二非平穩因子進行線性變換得到第三分段第二非平穩因子依次經過迭代線性變換得到第j分段第二非平穩因子其中2≤j≤e，e為encoder層的數量；
10、s8.將所述步驟s5計算得到的所述第一分段多元時間序列xenc1進行分段序列合并得到第二分段多元時間序列xenc2，對所述第二分段多元時間序列xenc2進行分段序列合并得到第三分段多元時間序列xenc3，則針對第j個encoder層，將第j-1個encoder層輸入的第j-1分段多元時間序列xenc(j-1)進行分段序列合并得到第j分段多元時間序列xencj；
11、s9.將所述步驟s8計算得到的所述第j分段多元時間序列xencj、所述步驟s7計算得到的所述第j分段第二非平穩因子和所述步驟s3計算得到的所述第一非平穩因子θ作為第j個encoder層的輸入，依次通過非平穩注意力計算、相關注意力計算以及自注意力計算得到第j個encoder層的的三層注意力輸出第j注意力多元時間序列encj，將得到的第j注意力多元時間序列進行線性映射得到第j個encoder層的輸出第j編碼多元時間序列enc′j，依次計算得到第e編碼多元時間序列enc′e，得到所有的編碼多元時間序列；；
12、s10.將所述步驟s9計算得到的所有的編碼多元時間序列相加求和得到初始預測值encsum，對所述初始預測值encsum進行反歸一化處理得到預測值其中t表示預測輸出步長。
13、根據本申請一些實施例的一種非平穩重塑crossformer時間序列預測方法，所述步驟s1中，利用超參數限制模塊對預測模型的超參數進行限制，其中，所述超參數包括：所述樣本數據步長l、序列分段步長s、分段序列合并窗口大小w和所述encoder層數e。
14、根據本申請一些實施例的一種非平穩重塑crossformer時間序列預測方法，所述步驟s1中，所述利用超參數限制模塊對預測模型的超參數進行限制包括：
15、s110.判斷所述樣本數據步長l是否為所述序列分段步長s的整數倍；
16、s120.若不是，則提示“l的取值太小或者s的取值太大”，并終止模型訓練；
17、s130.若是，則根據所述序列分段步長s對樣本數據進行分段，利用公式(1)計算樣本數據的分割段數，
18、n＝l/s(1)
19、利用公式(2)計算樣本數據的分割段數n與合并窗口w的余數，即合并過程中需要的填充數據段數，
20、npad＝mod(n,w)(2)。
21、根據本申請一些實施例的一種非平穩重塑crossformer時間序列預測方法，設定i表示超參數限制執行到的encoder層數，1≤i≤e，則所述步驟s1中，所述利用超參數限制還包括：本文檔來自技高網...
【技術保護點】
1.一種非平穩重塑Crossformer時間序列預測方法，其特征在于，包括如下步驟：
2.根據權利要求1所述的一種非平穩重塑Crossformer時間序列預測方法，其特征在于，所述步驟S1中，利用超參數限制模塊對預測模型的超參數進行限制，其中，所述超參數包括：所述樣本數據步長L、序列分段步長S、分段序列合并窗口大小W和所述Encoder層數E。
3.根據權利要求2所述的一種非平穩重塑Crossformer時間序列預測方法，其特征在于，所述步驟S1中，所述利用超參數限制模塊對預測模型的超參數進行限制包括：
4.根據權利要求3所述的一種非平穩重塑Crossformer時間序列預測方法，其特征在于，設定i表示超參數限制執行到的Encoder層數，1≤i≤E，則所述步驟S1中，所述利用超參數限制還包括：
5.根據權利要求4所述的一種非平穩重塑Crossformer時間序列預測方法，其特征在于，所述步驟S1中，所述利用超參數限制還包括：
6.根據權利要求1所述的一種非平穩重塑Crossformer時間序列預測方法，其特征在于，所述
7.根據權利要求6所述的一種非平穩重塑Crossformer時間序列預測方法，其特征在于，所述步驟S5，還包括：
8.根據權利要求7所述的一種非平穩重塑Crossformer時間序列預測方法，其特征在于，所述局部特征提取層包括：1個卷積核為3x3、步長為1、邊緣數據填充為1的卷積層，1個歸一化層和Relu激活函數。
9.根據權利要求1所述的一種非平穩重塑Crossformer時間序列預測方法，其特征在于，所述步驟S6中的所述第一注意力多元時間序列enc1的計算公式如(7)，
...【技術特征摘要】
1.一種非平穩重塑crossformer時間序列預測方法，其特征在于，包括如下步驟：
2.根據權利要求1所述的一種非平穩重塑crossformer時間序列預測方法，其特征在于，所述步驟s1中，利用超參數限制模塊對預測模型的超參數進行限制，其中，所述超參數包括：所述樣本數據步長l、序列分段步長s、分段序列合并窗口大小w和所述encoder層數e。
3.根據權利要求2所述的一種非平穩重塑crossformer時間序列預測方法，其特征在于，所述步驟s1中，所述利用超參數限制模塊對預測模型的超參數進行限制包括：
4.根據權利要求3所述的一種非平穩重塑crossformer時間序列預測方法，其特征在于，設定i表示超參數限制執行到的encoder層數，1≤i≤e，則所述步驟s1中，所述利用超參數限制還包括：
5.根據權利要求4所述的一...
【專利技術屬性】
技術研發人員：王魏，常立群，劉巖，李澤楠，張永祺，吳億聰，湯健，
申請(專利權)人：大連海洋大學，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。