【技術(shù)實(shí)現(xiàn)步驟摘要】
本專利技術(shù)涉及人工智能技術(shù)和交通時(shí)空數(shù)據(jù)挖掘的，尤其涉及一種基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充方法，以及基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充裝置。
技術(shù)介紹
1、多媒體服務(wù)和互聯(lián)網(wǎng)友好型便攜式設(shè)備的出現(xiàn)使檢測(cè)交通流量日益增加，例如感應(yīng)環(huán)路探測(cè)器，微波傳感器，視頻探測(cè)器和帶有g(shù)ps的探測(cè)車。地下感應(yīng)環(huán)路線圈和攝像機(jī)之類的靜態(tài)檢測(cè)器已廣泛部署在許多城市中，其被用來(lái)收集和提供交通信息。另一方面，受益于車輛的機(jī)動(dòng)性和車載gps的普及，探測(cè)車輛的交通信息收集效率更高。這種可移動(dòng)的方式避免了在每個(gè)城市道路上布設(shè)昂貴地靜態(tài)傳感器。因此通過智能交通系統(tǒng)實(shí)時(shí)收集和分析各種交通信息(例如，速度，交通流量和占用率)得以實(shí)現(xiàn)。特別是準(zhǔn)確且完整的交通數(shù)據(jù)是智能交通系統(tǒng)中基礎(chǔ)的信息支撐，有助于智能交通系統(tǒng)完成各種分析任務(wù)。例如，通過基本的數(shù)據(jù)信息可以實(shí)現(xiàn)當(dāng)前交通狀態(tài)的監(jiān)測(cè)或未來(lái)狀態(tài)的預(yù)測(cè)。實(shí)時(shí)或未來(lái)的狀態(tài)信息可以幫助駕駛員選擇出最優(yōu)的出行路線以便減少出行時(shí)間；交通監(jiān)控中心則可以利用這些數(shù)據(jù)信息控制路網(wǎng)運(yùn)行，為駕駛員或乘客提供信息指導(dǎo)，避免交通擁堵的發(fā)生。然而，所有這些基礎(chǔ)設(shè)施所收集的信息都存在一定程度上的數(shù)據(jù)丟失的問題。通常，由于硬件故障，天氣干擾，傳輸故障等原因，靜態(tài)檢測(cè)器的數(shù)據(jù)往往會(huì)發(fā)生丟失。此外，探測(cè)車輛也受車輛數(shù)量減少、分布不均、以及有限的車道限制等原因?qū)е聰?shù)據(jù)記錄缺乏。數(shù)據(jù)缺失問題削弱了數(shù)據(jù)的可解釋性，并對(duì)后續(xù)高級(jí)的分析任務(wù)帶來(lái)了一定的挑戰(zhàn)。這就需要在解決高級(jí)交通應(yīng)用問題之前，要提前思考如何處理缺失的部分。因此，如何有效、準(zhǔn)確地收集和估
2、傳統(tǒng)的方法，如歷史插值法、近鄰插值法和回歸插值法等，多受限于對(duì)交通數(shù)據(jù)的時(shí)間和空間特征關(guān)系利用不充分，因而填補(bǔ)效果一般。相對(duì)傳統(tǒng)方法，深度學(xué)習(xí)方法是一種有效方法，近年來(lái)深度學(xué)習(xí)理論的發(fā)展也為城市路網(wǎng)復(fù)雜時(shí)空交通數(shù)據(jù)的分析提供了有效的理論支撐。在交通領(lǐng)域，深度學(xué)習(xí)方法多用于研究(較為)完備交通數(shù)據(jù)的短時(shí)預(yù)測(cè)問題。若將面向交通數(shù)據(jù)短時(shí)預(yù)測(cè)任務(wù)的深度學(xué)習(xí)模型直接用于交通缺失數(shù)據(jù)填充任務(wù)，則難以達(dá)到預(yù)期效果。這主要的原因是：交通數(shù)據(jù)短時(shí)預(yù)測(cè)時(shí)，只需關(guān)注歷史時(shí)刻的時(shí)空信息與當(dāng)前時(shí)刻的數(shù)據(jù)相關(guān)聯(lián)的時(shí)空關(guān)系；而交通缺失數(shù)據(jù)填充模型則需要充分利用時(shí)空上下文的關(guān)聯(lián)關(guān)系來(lái)填充缺失值。此外，交通數(shù)據(jù)填充問題可以看成是數(shù)據(jù)生成問題。最近，一類深度生成模型，也就是條件擴(kuò)散模型，通過引入條件信息引導(dǎo)去噪，逐漸將噪聲轉(zhuǎn)換為合理的數(shù)據(jù)樣本，在許多任務(wù)中(比如圖像生成和音頻合成任務(wù))實(shí)現(xiàn)了最先進(jìn)的樣本質(zhì)量。條件擴(kuò)散模型也可以用于估算缺失值，它可以使用條件擴(kuò)散模型直接學(xué)習(xí)條件分布。
技術(shù)實(shí)現(xiàn)思路
1、為克服現(xiàn)有技術(shù)的缺陷，本專利技術(shù)要解決的技術(shù)問題是提供了一種基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充方法，其能夠提升缺失數(shù)據(jù)填充的質(zhì)量。
2、本專利技術(shù)的技術(shù)方案是：這種基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充方法，包括以下步驟：
3、(1)定義交通數(shù)據(jù)填充問題：x∈rt×n表示具有缺失值的時(shí)空交通數(shù)據(jù)樣本，其中n是空間節(jié)點(diǎn)的數(shù)量，t是時(shí)間序列的長(zhǎng)度，使用掩碼矩陣m∈rt×n表示數(shù)據(jù)中的缺失信息，如果xt,n缺失，則mt,n＝0，如果xt,n是可觀測(cè)數(shù)據(jù)，則mt,n＝1；給定包含缺失值的交通數(shù)據(jù)樣本x0，基于條件擴(kuò)散模型的交通數(shù)據(jù)填充方法通過利用條件觀測(cè)值生成填充目標(biāo)基于條件擴(kuò)散模型的交通數(shù)據(jù)填充方法的目標(biāo)是用模型分布估計(jì)真實(shí)條件數(shù)據(jù)分布
4、(2)引入條件擴(kuò)散模型：在無(wú)條件情況下，逆向過程pθ(x0:t)用于定義最終的數(shù)據(jù)模型pθ(x0)，有條件的逆向過程則由無(wú)條件的逆向過程擴(kuò)展而來(lái)，如下所示：
5、
6、條件擴(kuò)散模型考慮以下帶有∈θ的參數(shù)化：
7、
8、(3)去噪函數(shù)的架構(gòu)：去噪函數(shù)的基礎(chǔ)架構(gòu)是由多個(gè)殘差層堆疊而成的，jstsacd中殘差層由時(shí)間模塊和空間模塊構(gòu)建而成，使用多頭自注意力層來(lái)構(gòu)建時(shí)間模塊來(lái)捕獲交通數(shù)據(jù)中時(shí)間上下文信息，集成雙向擴(kuò)散圖卷積層和多頭自注意力層來(lái)構(gòu)建空間模塊；
9、(4)對(duì)條件擴(kuò)散模型進(jìn)行訓(xùn)練：在訓(xùn)練模型之前構(gòu)建好輸入數(shù)據(jù)集，在原始數(shù)據(jù)集的樣本中x隨機(jī)或非隨機(jī)地選取隨機(jī)比例的數(shù)據(jù)作為人為缺失的數(shù)據(jù)，通過這部分?jǐn)?shù)據(jù)的填充誤差來(lái)更新去噪函數(shù)，該策略用0來(lái)代替這部分人為缺失的數(shù)據(jù)，原始數(shù)據(jù)經(jīng)過這樣的處理過程之后形成作為條件信息的可觀測(cè)數(shù)據(jù)矩陣mco為該條件信息矩陣對(duì)應(yīng)的掩碼矩陣；作為模型的填充目標(biāo)矩陣：
10、
11、基于填充目標(biāo)矩陣，輸入到模型中的噪聲目標(biāo)的采樣定義為：
12、
13、其中并最終通過解決下面的損失函數(shù)來(lái)更新去噪函數(shù)∈θ:
14、
15、其中訓(xùn)練完成后，獲得函數(shù)∈θ；
16、(5)執(zhí)行條件擴(kuò)散模型的采樣：條件信息矩陣對(duì)應(yīng)于樣本數(shù)據(jù)x，條件觀測(cè)數(shù)據(jù)的掩碼矩陣mco對(duì)應(yīng)于樣本數(shù)據(jù)的掩碼矩陣m，采樣時(shí)，交通數(shù)據(jù)填充模型jstsacd首先從標(biāo)準(zhǔn)高斯分布采樣一個(gè)噪聲使用公式(6)和公式(7)中采樣通過迭代從t＝t到t＝1的采樣過程，jstsacd生成填充目標(biāo)
17、本專利技術(shù)的jstsacd模型將條件擴(kuò)散模型與建模交通數(shù)據(jù)時(shí)空特征的模塊相結(jié)合用于交通數(shù)據(jù)填充任務(wù)，jstsacd模型將可觀測(cè)的交通數(shù)據(jù)作為條件信息輸入到條件擴(kuò)散模型逆向過程的去噪函數(shù)中，引導(dǎo)模型逐步去噪為缺失位置生成有合理的數(shù)據(jù)，同時(shí)該模型引入雙向擴(kuò)散圖卷積和自注意力機(jī)制構(gòu)建時(shí)空?qǐng)D自注意力模塊作為去噪函數(shù)的核心模塊，使模型具備建模交通數(shù)據(jù)時(shí)空上下文特征的能力，進(jìn)一步提升缺失數(shù)據(jù)填充的質(zhì)量，同時(shí)考慮到真實(shí)世界中的缺失數(shù)據(jù)對(duì)應(yīng)的真實(shí)值是無(wú)法獲得的，使用人為缺失數(shù)據(jù)的填充損失來(lái)學(xué)習(xí)去噪函數(shù)中的模型參數(shù)。
18、還提供了基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充裝置，其包括：定義模塊，其定義交通數(shù)據(jù)填充問題：x∈rt×n表示具有缺失值的時(shí)空交通數(shù)據(jù)樣本，其中n是空間節(jié)點(diǎn)的數(shù)量，t是時(shí)間序列的長(zhǎng)度，使用掩碼矩陣m∈rt×n表示數(shù)據(jù)中的缺失信息，如果xt,n缺失，則mt,n＝0，如果xt,n是可觀測(cè)數(shù)據(jù)，則mt,n＝1；給定包含缺失值的交通數(shù)據(jù)樣本x0，基于條件擴(kuò)散模型的交通數(shù)據(jù)填充方法通過利用條件觀測(cè)值生成填充目標(biāo)基于條件擴(kuò)散模型的交通數(shù)據(jù)填充方法的目標(biāo)是用模型分布估計(jì)真實(shí)條件數(shù)據(jù)分布
19、引入模塊，其引入條件擴(kuò)散模型：在無(wú)條件情況下，逆向過程pθ(x0:t)用于定義最終的數(shù)據(jù)模型pθ(x0)，有條件的逆向過程則由無(wú)條件的逆向過程擴(kuò)展而來(lái)，如下所示：
20、
21、條件擴(kuò)散模型考慮以下帶有∈θ的參數(shù)化：
22、
23、去噪函數(shù)模塊，其構(gòu)建去噪函數(shù)的架構(gòu)：去噪函數(shù)的基礎(chǔ)架構(gòu)是由多個(gè)殘差層堆疊而成的，jstsacd中殘差層由時(shí)間模塊和空間模塊構(gòu)建而成，使用多頭自注意力層來(lái)構(gòu)建時(shí)間模塊來(lái)捕獲交通數(shù)據(jù)中時(shí)間上下文信息，集成雙向擴(kuò)散圖卷積層和本文檔來(lái)自技高網(wǎng)...
【技術(shù)保護(hù)點(diǎn)】
1.基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充方法，其特征在于：該方法包括以下步驟：
2.根據(jù)權(quán)利要求1所述的基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充方法，其特征在于：所述步驟(2)中，擴(kuò)散概率模型是由兩個(gè)過程組成的潛在變量模型：前向過程和逆向過程；前向過程是對(duì)數(shù)據(jù)逐漸增加高斯噪聲直至數(shù)據(jù)變成隨機(jī)噪聲，其由馬爾可夫鏈定義：
3.根據(jù)權(quán)利要求2所述的基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充方法，其特征在于：所述步驟(3)中，條件信息矩陣和作為條件擴(kuò)散模型輸入，嵌入時(shí)間步t是條件擴(kuò)散模型中的一部分輸入，交通數(shù)據(jù)填充模型JSTSACD使用128維的編碼向量表示每一個(gè)擴(kuò)散時(shí)間步t：
4.根據(jù)權(quán)利要求3所述的基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充方法，其特征在于：所述步驟(3)中，雙向擴(kuò)散圖卷積是基于預(yù)定義的鄰接矩陣聚合鄰居節(jié)點(diǎn)信息的，使用路網(wǎng)的拓?fù)浣Y(jié)構(gòu)來(lái)構(gòu)建的鄰接矩陣，雙向擴(kuò)散圖卷積只聚集路網(wǎng)結(jié)構(gòu)中顯性的鄰居節(jié)點(diǎn)；多頭自注意力層被引入到模型中去捕獲空間維度上隱含的依賴性。
5.根據(jù)權(quán)利要求4所述的基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充方法
6.基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充裝置，其特征在于：其包括：
7.根據(jù)權(quán)利要求6所述的基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充裝置，其特征在于：所述引入模塊中，擴(kuò)散概率模型是由兩個(gè)過程組成的潛在變量模型：前向過程和逆向過程；前向過程是對(duì)數(shù)據(jù)逐漸增加高斯噪聲直至數(shù)據(jù)變成隨機(jī)噪聲，其由馬爾可夫鏈定義：
8.根據(jù)權(quán)利要求7所述的基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充裝置，其特征在于：所述去噪函數(shù)模塊中，條件信息矩陣和作為條件擴(kuò)散模型輸入，嵌入時(shí)間步t是條件擴(kuò)散模型中的一部分輸入，交通數(shù)據(jù)填充模型JSTSACD使用128維的編碼向量表示每一個(gè)擴(kuò)散時(shí)間步t：
9.根據(jù)權(quán)利要求8所述的基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充裝置，其特征在于：所述去噪函數(shù)模塊中，雙向擴(kuò)散圖卷積是基于預(yù)定義的鄰接矩陣聚合鄰居節(jié)點(diǎn)信息的，使用路網(wǎng)的拓?fù)浣Y(jié)構(gòu)來(lái)構(gòu)建的鄰接矩陣，雙向擴(kuò)散圖卷積只聚集路網(wǎng)結(jié)構(gòu)中顯性的鄰居節(jié)點(diǎn)；多頭自注意力層被引入到模型中去捕獲空間維度上隱含的依賴性。
10.根據(jù)權(quán)利要求9所述的基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充裝置，其特征在于：所述訓(xùn)練模塊中，條件信息矩陣對(duì)應(yīng)的掩碼矩陣由mco表示，其定義如下：
...【技術(shù)特征摘要】
1.基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充方法，其特征在于：該方法包括以下步驟：
2.根據(jù)權(quán)利要求1所述的基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充方法，其特征在于：所述步驟(2)中，擴(kuò)散概率模型是由兩個(gè)過程組成的潛在變量模型：前向過程和逆向過程；前向過程是對(duì)數(shù)據(jù)逐漸增加高斯噪聲直至數(shù)據(jù)變成隨機(jī)噪聲，其由馬爾可夫鏈定義：
3.根據(jù)權(quán)利要求2所述的基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充方法，其特征在于：所述步驟(3)中，條件信息矩陣和作為條件擴(kuò)散模型輸入，嵌入時(shí)間步t是條件擴(kuò)散模型中的一部分輸入，交通數(shù)據(jù)填充模型jstsacd使用128維的編碼向量表示每一個(gè)擴(kuò)散時(shí)間步t：
4.根據(jù)權(quán)利要求3所述的基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充方法，其特征在于：所述步驟(3)中，雙向擴(kuò)散圖卷積是基于預(yù)定義的鄰接矩陣聚合鄰居節(jié)點(diǎn)信息的，使用路網(wǎng)的拓?fù)浣Y(jié)構(gòu)來(lái)構(gòu)建的鄰接矩陣，雙向擴(kuò)散圖卷積只聚集路網(wǎng)結(jié)構(gòu)中顯性的鄰居節(jié)點(diǎn)；多頭自注意力層被引入到模型中去捕獲空間維度上隱含的依賴性。
5.根據(jù)權(quán)利要求4所述的基于時(shí)空自注意力與擴(kuò)散模型的交通數(shù)據(jù)填充方法，其特征在于：所述步驟(4)中，條件信息矩陣對(duì)應(yīng)的掩碼矩陣由mco表示，其定義如下：<...
【專利技術(shù)屬性】
技術(shù)研發(fā)人員：魏秀蘭，張勇，吳佳宜，王少帆，黃靜雯，胡永利，尹寶才，
申請(qǐng)(專利權(quán))人：北京物資學(xué)院，
類型：發(fā)明
國(guó)別省市：
還沒有人留言評(píng)論。發(fā)表了對(duì)其他瀏覽者有用的留言會(huì)獲得科技券。