一種基于感知分布式對比學習框架的長尾軌跡預測方法技術

本發明專利技術公開了一種基于感知分布式對比學習框架的長尾軌跡預測方法，涉及自動駕駛軌跡預測領域，本發明專利技術通過離線軌跡聚類模塊和原型對比學習，識別和分離出數據集中的不同軌跡模式，將同一模式群中的軌跡的特征拉近，而將不同模式群中的特征推遠，通過分布感知的預測器，為具有不同模式的軌跡輸入提供分離的解碼器參數，即根據輸入軌跡的模式，使用不同的參數進行解碼，從而更準確地預測出未來的軌跡。本發明專利技術解決了現有方法忽視數據集中的長尾現象，以及尾部樣本的特征被錯誤編碼導致預測結果不準確的問題。果不準確的問題。果不準確的問題。

【技術實現步驟摘要】
一種基于感知分布式對比學習框架的長尾軌跡預測方法


[0001]本專利技術涉及自動駕駛軌跡預測領域，特別是涉及一種基于感知分布式對比學習框架的長尾軌跡預測方法。

技術介紹

[0002]在自動駕駛場景中，軌跡預測的重要性不言而喻。這種預測的目標是根據過去觀察到的軌跡，為道路上的參與者預測出一系列可能的未來位置。這項任務對于保證安全和高效的自動駕駛具有關鍵的作用。在軌跡預測的研究領域中，最近幾年已經出現了許多新的方法和技術。這些方法在預測的模態方面有所不同，包括單模態和多模態兩種類型。單模態預測主要關注預測出一種最可能的未來軌跡，而多模態預測則試圖預測出所有可能的未來軌跡。無論是單模態還是多模態預測，都有一系列的方法和技術可供選擇。這些新的預測方法無疑為自動駕駛的發展提供了更多可能性，也為未來的研究開啟了新的道路。
[0003]盡管現有的預測方法在精度上已經取得了相當高的成績，但在訓練和評估階段，這些方法大多將數據集中的樣本平等對待，這就忽視了一個現象，即數據集中的長尾現象。當尾部樣本的特征被錯誤編碼時，模型在進行預測時就可能產生誤導，導致預測結果的準確性大大降低。

技術實現思路

[0004]針對現有技術中的上述不足，本專利技術提供的一種基于感知分布式對比學習框架的長尾軌跡預測方法解決了現有方法忽視數據集中的長尾現象，以及尾部樣本的特征被錯誤編碼導致預測結果不準確的問題。
[0005]為了達到上述專利技術目的，本專利技術采用的技術方案為：一種基于感知分布式對比學習框架的長尾軌跡預測方法，包括以下步驟：S1：利用軌跡特征提取器提取歷史軌跡數據的特征；S2：利用離散聚類模塊對提取的特征進行聚類，將歷史軌跡數據劃分為多個軌跡模式；S3：基于劃分的多個軌跡模式，在基線預測網絡的歷史編碼特征上，根據離散聚類模塊生成的偽標簽進行原型對比學習，使軌跡編碼器的特征空間根據不同軌跡模式分別進行聚類；S4：基于軌跡編碼器的聚類結果，利用分布感知的預測器，為不同的軌跡輸入生成不同的解碼器權重，將尾部軌跡模式和頭部軌跡模式以不同的方式進行預測，實現長尾軌跡的預測。
[0006]上述方案的有益效果是：本專利技術提供了一種對比學習框架，能夠識別并分離出長尾數據中的不同運動模式，并在特征空間中形成獨立的模式群，這使得可以更準確地預測出未來的軌跡，而不是單一地依賴于大多數數據，同時提出了一種分布感知的預測器，根據特征空間的分布情況進行預測，從而提高對罕見軌跡的預測準確性，解決了現有方法忽視
數據集中的長尾現象，以及尾部樣本的特征被錯誤編碼導致預測結果不準確的問題。
[0007]進一步地，S1中軌跡特征提取器為：在1D卷積網絡的基礎上增加LSTM網絡。
[0008]上述進一步方案的有益效果是：使用一個附加了LSTM的1D卷積網絡作為軌跡特征提取器，進行軌跡的編碼和重構。
[0009]進一步地，S2中利用離散聚類模塊對提取的特征進行聚類，包括以下分步驟：S2
?
1：將歷史軌跡數據按照時間劃分為多個時間段，且每個時間段包含多個軌跡點；S2
?
2：將每個時間段中的軌跡點按照空間位置進行聚類，得到多個軌跡簇；S2
?
3：計算每個軌跡簇的質心，并作為當前軌跡簇的代表點；S2
?
4：將所有的代表點作為輸入，使用K
?
means算法進行聚類，得到多個聚類簇；S2
?
5：將每個聚類簇的代表點作為聚類簇的原型，完成對歷史軌跡數據軌跡模式的劃分。
[0010]上述進一步方案的有益效果是：如果采用在線聚類的方式，將需要消耗大量的計算資源和時間。因此選擇使用離線聚類模塊，以提高處理效率，同時保持預測性能，同時選用K
?
means算法，具有計算效率高的優點。
[0011]進一步地，S3中原型對比學習采用多級聚類方法計算損失，公式為：其中，為原型對比學習損失函數，為實例間的對比項，為實例
?
原型的對比項；型的對比項；型的對比項；其中，為軌跡實例，為批次大小，為在批次中與軌跡實例為正樣本的數量，為正樣本，為軌跡實例在編碼器后的特征嵌入，為正樣本在編碼器后的特征嵌入，為實例間對比項的對比溫度，為當前批次數據中的任意樣本在編碼器后的特征嵌入，為K
?
means聚類層次的數量，為第層簇的數量，為當前批次數據中的任意樣本，為實例所屬的簇的原型，為任意簇的原型，為實例所屬的簇的密度，為任意簇的密度，為簇中的實例數量，為簇中的實例，為的動量更新特征，為簇的原型，為平滑因子，為范數，為以為底的指數函數。
[0012]上述進一步方案的有益效果是：計算原型對比學習損失時，采用具有多層次的多級聚類方法，這種設計使的預測模型可以更好的區分不同的軌跡模式，從而提高了預測的
準確性，同時也使得模型具有了處理復雜軌跡數據的能力。
[0013]進一步地，S4中分布感知的預測器中將LSTM網絡作為軌跡解碼器，所述LSTM網絡的公式為：的公式為：的公式為：的公式為：的公式為：的公式為：其中，為LSTM網絡的輸入門，為LSTM網絡的更新門，為LSTM網絡的遺忘門，為LSTM網絡的輸出門，為時間步的隱藏狀態向量，為時間步的輸入向量，為輸入門隱藏狀態權重矩陣，為輸入門輸入權重矩陣，為輸入門偏置向量，為更新門隱藏狀態權重矩陣，為更新門輸入權重矩陣，為更新門偏置向量，為遺忘門隱藏狀態權重矩陣，為遺忘門輸入權重矩陣，為遺忘門偏置向量，為輸出門隱藏狀態權重矩陣，為輸出門輸入權重矩陣，為輸出門偏置向量，為時間步的單元狀態，為時間步的隱藏狀態向量，為sigmoid操作符，為元素級乘積運算，為時間步的單元狀態，為雙曲正切函數；則帶有超網絡的LSTM網絡公式為：其中，為原始LSTM網絡中的任意一個門，為層歸一化，為隱藏狀態權重調整向量，為任意一個門的隱藏狀態權重矩陣，為輸入權重調整向量，為任意一個門的輸入權重矩陣，為任意一個門的偏置向量，為超網絡輸出向量；對于具有的軌跡實例，使用表示為：其中，為超網絡的映射函數，為對于具有的軌跡實例的超網絡輸出向量；利用帶有超網絡的LSTM網絡，為不同的軌跡輸入生成不同的解碼器權重，將尾部軌跡模式和頭部軌跡模式以不同的方式進行預測。
[0014]上述進一步方案的有益效果是：使用LSTM網絡作為軌跡解碼器，LSTM網絡是一種特殊的遞歸神經網絡，能夠在處理時間序列數據時捕捉長期依賴關系，LSTM的關鍵是其內部的記憶單元，能夠在過程中存儲信息，用于后續的預測。在軌跡預測中，LSTM可以用來解
碼或生成預測的軌跡，可有效地處理時間序列數據。而使用超網絡解碼器可以對尾部簇進行不同的預測。
[0015]進一步地，S4生成不同的解碼器權重，公式為：進一步地，S4生成不同的解碼器權重，公式為：進一步地，S4生成不同的解碼器權重，公式為：進一步地，S4生成不同的解碼器權重，公式為：進一步地，S4生成不同的解碼器權重，公式為：其中，為最終的損失函數，為基線預測網絡損失函數，為原型對比學本文檔來自技高網...

【技術保護點】

【技術特征摘要】
1.一種基于感知分布式對比學習框架的長尾軌跡預測方法，其特征在于，包括以下步驟：S1：利用軌跡特征提取器提取歷史軌跡數據的特征；S2：利用離散聚類模塊對提取的特征進行聚類，將歷史軌跡數據劃分為多個軌跡模式；S3：基于劃分的多個軌跡模式，在基線預測網絡的歷史編碼特征上，根據離散聚類模塊生成的偽標簽進行原型對比學習，使軌跡編碼器的特征空間根據不同軌跡模式分別進行聚類；S4：基于軌跡編碼器的聚類結果，利用分布感知的預測器，為不同的軌跡輸入生成不同的解碼器權重，將尾部軌跡模式和頭部軌跡模式以不同的方式進行預測，實現長尾軌跡的預測。2.根據權利要求1所述的基于感知分布式對比學習框架的長尾軌跡預測方法，其特征在于，所述S1中軌跡特征提取器為：在1D卷積網絡的基礎上增加LSTM網絡。3.根據權利要求1所述的基于感知分布式對比學習框架的長尾軌跡預測方法，其特征在于，所述S2中利用離散聚類模塊對提取的特征進行聚類，包括以下分步驟：S2
?
1：將歷史軌跡數據按照時間劃分為多個時間段，且每個時間段包含多個軌跡點；S2
?
2：將每個時間段中的軌跡點按照空間位置進行聚類，得到多個軌跡簇；S2
?
3：計算每個軌跡簇的質心，并作為當前軌跡簇的代表點；S2
?
4：將所有的代表點作為輸入，使用K
?
means算法進行聚類，得到多個聚類簇；S2
?
5：將每個聚類簇的代表點作為聚類簇的原型，完成對歷史軌跡數據軌跡模式的劃分。4.根據權利要求1所述的基于感知分布式對比學習框架的長尾軌跡預測方法，其特征在于，所述S3中原型對比學習采用多級聚類方法計算損失，公式為：其中，為原型對比學習損失函數，為實例間的對比項，為實例
?
原型的對比項；對比項；對比項；其中，為軌跡實例，為批次大小，為在批次中與軌跡實例為正樣本的數量，為正樣本，為軌跡實例在編碼器后的特征嵌入，為正樣本在編碼器后的特征嵌入，為實例間對比項的對比溫度，為當前批次數據中的任意樣本在編碼器后的特征嵌入，為K
?
means聚類層次的數量，為第層簇的數量，為當前批次數據中的任意樣本，為實例
所屬的簇的原型，為任意簇的原型，為實例所屬的簇的密度，為任意簇的密度，為簇中的實例數量，為簇中的實例，為的動量更新特征，為簇的原型，為平滑因子，...

【專利技術屬性】
技術研發人員：鄒倩穎，廖員，劉俸宇，
申請(專利權)人：四川吉利學院，
類型：發明
國別省市：