【技術實現步驟摘要】
本專利技術涉及時間序列數據處理領域，尤其涉及一種從層級用電序列中提取高級語義信息的方法和系統。
技術介紹
1、隨著電力系統中智能電網的發展，用電序列數據的體量迅速增加。這些豐富的數據為電力系統中的多種應用奠定了基礎，包括需求側管理、電網穩定性和消費者行為分析等。同時，這些應用催生了各種任務。這些任務包括負荷預測、時鐘異常檢測、電力盜竊檢測以及獨居老人檢測等。
2、隨著社會向現代化發展，電力消耗迅速增加，為智能電網的發展和應用帶來了機遇和挑戰。一方面，大量的電力使用帶來的經濟效益是相當可觀的。另一方面，不合理的電力規劃可能對環境產生不利影響。因此，鑒于數據體量之大和任務種類之多，迫切需要研究有效的用電序列數據建模的方法，以提高經濟效益，同時遵循低碳原則。
3、最近，關于用電序列數據預訓練方法的研究層出不窮。這些方法采用“預訓練然后微調”的范式來應對標注數據有限的困境，并且預訓練模型能夠輕松適應新任務，如patchtst、ts2vec、cost等。然而，這些預訓練方法只利用了小規模數據和少量用戶(節點)，并且沒有考慮用電序列存在的層級關系，導致在下游任務上表現不佳。
4、與此同時，許多研究者開始將大型語言模型(llms)應用于用電序列建模，通過使用預訓練的llm來編碼用電序列，或整合與用電序列相關的額外描述。然而，這些方法在電力系統場景中的能力有限，因為缺乏足夠的電力系統預訓練數據和領域特定知識。此外，這些方法沒有針對電力系統場景進行定制，因此忽略了用電序列數據的獨特特性。因此，在現有電力系統文獻
技術實現思路
1、為了解決用電序列標注信息數據匱乏、下游任務多樣的問題，本專利技術提出了一種從層級用電序列中提取高級語義信息的方法和系統。采用了層級編碼器和時序編碼器分別建模不同層級之間存在的依賴關系和不同時刻的時序依賴關系，并設計了結合隨機掩碼和因果掩碼的掩碼重建任務、以及雙視角對比學習任務，實現了機器理解用電序列，可用于完成和電力系統相關的多種下游任務。
2、本專利技術采用如下技術方案：
3、第一個方面，本專利技術提供了一種從層級用電序列中提取高級語義信息的方法，包括：
4、將城市、區域和用戶的用電序列窗口視為節點特征，根據用戶節點特征生成中間節點特征，構建由城市節點、區域節點、用戶節點、中間節點組成的層級圖；
5、通過外生變量增強的時序編碼器提取層級圖中節點的用電序列時序語義表示；
6、通過層級編碼器對時序語義表示進行層級增強；
7、將層級增強的時序語義表示用于掩碼重建任務和雙視角對比學習任務，對所述的外生變量增強的時序編碼器、層級編碼器進行訓練；
8、采用訓練后的外生變量增強的時序編碼器、層級編碼器提取用電序列中的層級增強的時序語義表示作為高級語義信息。
9、進一步地，所述的層級圖中，區域節點與城市節點之間為雙向邊，中間節點與區域節點之間為雙向邊，用戶節點與區域節點之間為單向邊，所述單向邊由區域節點指向用戶節點。
10、進一步地，所述的通過外生變量增強的時序編碼器提取層級圖中節點的用電序列時序語義表示，包括：
11、將用電序列窗口采用滑動窗口劃分為片段，得到轉換為矩陣形式的用電序列窗口，采用線性投影后得到用電序列窗口的嵌入表示；
12、引入用電序列窗口內每個時間點對應的外生變量所述外生變量為影響用電量的外部環境因素，將外生變量編碼為可學習的嵌入表示；每個節點的用電序列窗口從時刻ta到時刻tb一共tw個時間點，每個時間點有k種不同的外部變量；
13、根據用電序列窗口的嵌入表示和對應的外生變量的嵌入表示得到考慮外生變量影響的用電序列表示；
14、采用時序編碼器提取考慮外生變量影響的用電序列表示的時序特征，得到節點的用電序列時序語義表示。
15、進一步地，所述的考慮外生變量影響的用電序列表示的計算公式如下：
16、
17、其中，ui為考慮外生變量影響的用電序列表示，hi為用電序列窗口的嵌入表示，k為外生變量的數量，為用電序列窗口xi的第k個外生變量的可學習的嵌入表示。
18、進一步地，所述的時序編碼器采用transformer編碼器。
19、進一步地，所述的層級編碼器采用r-gcn模型。
20、進一步地，所述的掩碼重建任務具體為：
21、為用電序列窗口xi的分段結果pi隨機從隨機掩碼和因果掩碼中選擇一種掩碼方法，得到掩碼后的分段結果；
22、基于掩碼后的分段結果采用線性層重構用電序列窗口計算重構損失。
23、進一步地，所述的雙視角對比學習任務具體為：
24、對于層級圖中的節點對應的用電序列窗口構建正負樣本對，其中相同節點在經過時間步長δ的偏移后得到的用電序列窗口作為正樣本，相同節點在經過大于時間步長δ的偏移后得到的用電序列窗口作為負樣本，以及，不同節點在相同起始時刻對應的用電序列窗口作為負樣本；
25、根據兩種視角下構建的正負樣本對計算對比學習損失。
26、第二個方面，本專利技術提供了一種從層級用電序列中提取高級語義信息的系統，用于實現上述的從層級用電序列中提取高級語義信息的方法。
27、與現有技術相比，本專利技術的具備的有益效果是：本專利技術提供了一種從用電序列提取高級語義信息的框架，通過時序編碼器建模用電序列窗口的時序特征，層級編碼器建模不同層級的依賴關系。此外，通過兩個自監督任務實現對電力系統基座模型的訓練，提供了機器理解用電序列并完成和電力系統相關多種下游任務的基礎模型。
本文檔來自技高網...【技術保護點】
1.一種從層級用電序列中提取高級語義信息的方法，其特征在于，包括：
2.根據權利要求1所述的從層級用電序列中提取高級語義信息的方法，其特征在于，所述的層級圖中，區域節點與城市節點之間為雙向邊，中間節點與區域節點之間為雙向邊，用戶節點與區域節點之間為單向邊，所述單向邊由區域節點指向用戶節點。
3.根據權利要求1所述的從層級用電序列中提取高級語義信息的方法，其特征在于，所述的通過外生變量增強的時序編碼器提取層級圖中節點的用電序列時序語義表示，包括：
4.根據權利要求3所述的從層級用電序列中提取高級語義信息的方法，其特征在于，所述的考慮外生變量影響的用電序列表示的計算公式如下：
5.根據權利要求3所述的從層級用電序列中提取高級語義信息的方法，其特征在于，所述的時序編碼器采用Transformer編碼器。
6.根據權利要求1所述的從層級用電序列中提取高級語義信息的方法，其特征在于，所述的層級編碼器采用R-GCN模型。
7.根據權利要求1所述的從層級用電序列中提取高級語義信息的方法，其特征在于，所述的掩碼重建任務具體為
8.根據權利要求1所述的從層級用電序列中提取高級語義信息的方法，其特征在于，所述的雙視角對比學習任務具體為：
9.一種從層級用電序列中提取高級語義信息的系統，其特征在于，包括：
...【技術特征摘要】
1.一種從層級用電序列中提取高級語義信息的方法，其特征在于，包括：
2.根據權利要求1所述的從層級用電序列中提取高級語義信息的方法，其特征在于，所述的層級圖中，區域節點與城市節點之間為雙向邊，中間節點與區域節點之間為雙向邊，用戶節點與區域節點之間為單向邊，所述單向邊由區域節點指向用戶節點。
3.根據權利要求1所述的從層級用電序列中提取高級語義信息的方法，其特征在于，所述的通過外生變量增強的時序編碼器提取層級圖中節點的用電序列時序語義表示，包括：
4.根據權利要求3所述的從層級用電序列中提取高級語義信息的方法，其特征在于，所述的考慮外生變量影響的用電序列表示的...
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。