System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本申請涉及車輛,尤其涉及一種車端模型部署方法、裝置及系統。
技術介紹
1、隨著智能網聯汽車的普及,車輛可以將車端的車輛數據上報到云端,通過云端部署的如故障預測模型等模型對車輛數據進行處理,實現故障預測結果的確定,進而將故障預測結果等反饋給車端,以便車輛及時進行相應調整,保障車輛使用安全,提升用戶體驗。
2、但隨著由于需要云端進行分析和處理的項目、數據量不斷地增多,一方面,云端面臨著計算、網絡和存儲資源等方面消耗量過大的挑戰;另一方面,實時性要求高的如故障預測項目等項目不適合在云端進行計算,由于數據傳輸線路導致的延遲、車端設備交互復雜導致的延遲等原因導致的數據傳輸延遲會使得云端的數據反饋時間較長,降低用戶體驗,甚至是影響車端行駛安全。此外,將車輛數據上報到云端,由云端對該車輛數據進行處理反饋結果的方式,也存在由于網絡攻擊等風險導致的車輛數據泄露、反饋結果的可靠性存疑等問題。
技術實現思路
1、本申請實施例提供一種車端模型部署方法、裝置及系統,以解決相關技術中車輛數據安全性存在威脅以及由于模型部署在云端導致云端壓力較大,數據處理實時性不能滿足車端需要的技術問題。
2、本申請實施例提供了一種車端模型部署方法,所述方法包括:接收合格簡化模型模塊,所述合格簡化模型模塊通過對預訓練車輛數據處理模型進行模型簡化得到;將所述合格簡化模型模塊部署至車端的車載系統的驗證運行時環境;在所述驗證運行時環境中對部署的合格簡化模型模塊進行車端驗證;如果車端驗證的結果為通過,采集所述車端
3、于本申請一實施例中,在所述驗證運行時環境中對部署的合格簡化模型模塊進行車端驗證,包括:獲取多個原始驗證數據,將所述原始驗證數據通過所述車端數據轉換規則進行車端數據轉換,得到車端轉換驗證數據;將所述車端轉換驗證數據輸入至部署的合格簡化模型模塊,得到模型輸出驗證結果;將每一個原始驗證數據的可靠結果與所述模型輸出驗證結果進行比對;計算比對結果為相同的模型輸出結果占比全部的模型輸出結果的相同占比;若所述相同占比大于預設車端占比閾值,將車端驗證的結果確定為通過;若所述相同占比小于或等于所述預設車端占比閾值,將車端驗證的結果確定為不通過。
4、于本申請一實施例中,獲取多組原始驗證數據,包括以下至少之一:獲取所述車端的歷史車輛數據和歷史輸出結果,所述歷史輸出結果通過所述預訓練車輛數據處理模型對歷史云端轉換數據進行數據處理得到,將所述歷史車輛數據確定為一個原始驗證數據,將所述歷史輸出結果確定為所述一個原始驗證數據的可靠結果,所述歷史云端轉換數據通過云端數據轉換規則對所述歷史車輛數據進行云端數據轉換得到;獲取所述車端的當前車輛數據,將所述當前車輛數據發送至云端,通過所述云端數據轉換規則對所述當前車輛數據進行云端數據轉換得到當前云端轉換數據,將所述當前云端轉換數據輸入至部署在云端的所述預訓練車輛數據處理模型,得到云端輸出結果,將所述當前車輛數據確定為一個驗證數據,將所述云端輸出結果確定為所述一個驗證數據的可靠結果。
5、于本申請一實施例中,若車端驗證的結果為不通過,所述方法還包括以下至少之一:對所述車端數據轉換規則進行調整,基于調整后的車端數據轉換規則重新執行在所述驗證運行時環境中對部署的合格簡化模型模塊進行車端驗證的步驟,直到車端驗證的結果為通過重新執行的次數超過第一預設次數閾值;重復執行模型重簡化步驟直到車端驗證的結果變更為通過或模型重簡化步驟的重復次數大于第二預設次數閾值,所述模型重簡化步驟包括,調整模型簡化參數,對預訓練車輛數據處理模型重新進行模型簡化得到新的合格簡化模型模塊,將新的合格簡化模型模塊部署至車端的車載系統的驗證運行時環境,并進行車端驗證。
6、于本申請一實施例中,將所述車端轉換待處理數據輸入至部署的合格簡化模型模塊之前,所述方法還包括:在所述車端配置所述部署的合格簡化模型模塊在運行過程中的專用內存空間大小。
7、于本申請一實施例中,接收合格簡化模型模塊之前,所述方法還包括:獲取預訓練車輛數據處理模型,所述預訓練車輛數據處理模型通過原始深度學習框架訓練得到;通過簡化深度學習模型轉化器對所述預訓練車輛數據處理模型進行模型簡化,得到簡化車輛數據處理模型;將所述簡化車輛數據處理模型編譯為待測簡化模型模塊,并對所述待測簡化模型模塊進行本地仿真測試;若本地仿真測試的測試結果為通過,將所述待測簡化模型模塊確定為所述合格簡化模型模塊,以完成對所述預訓練車輛數據處理模型進行模型簡化;
8、將所述合格簡化模型模塊發送至所述車端。
9、于本申請一實施例中,將所述簡化車輛數據處理模型編譯為待測簡化模型模塊,包括:獲取編譯參數,所述編譯參數包括arm?neon指令集優化啟用狀態、編譯后端參數、優化級別、mlir優化啟用狀態、simd指令集優化啟用狀態、車端的目標硬件架構參數中至少之一;根據所述編譯參數將所述簡化車輛數據處理模型編譯為待測簡化模型模塊。
10、于本申請一實施例中,通過簡化深度學習模型轉化器對所述預訓練車輛數據處理模型進行模型簡化,包括:確定所述預訓練車輛數據處理模型中每一個原始算子對所述簡化深度學習模型轉化器的支持狀態;若存在至少一個支持狀態為不支持,將全部所述支持狀態為不支持的原始算子替換為目標算子,所述目標算子對所述簡化深度學習模型轉化器的支持狀態為支持;對替換后的預訓練車輛數據處理模型進行模型預處理,所述模型預處理包括訓練后動態范圍量化處理和/或剪枝處理;通過簡化深度學習模型轉化器對模型預處理后的替換后的預訓練車輛數據處理模型進行模型簡化。
11、本申請實施例還提供了一種車端模型部署裝置,所述裝置包括:接收模塊,用于接收合格簡化模型模塊,所述合格簡化模型模塊通過對預訓練車輛數據處理模型進行模型簡化得到;部署模塊,用于將所述合格簡化模型模塊部署至車端的車載系統的驗證運行時環境;車端驗證模塊,用于在所述驗證運行時環境中對部署的合格簡化模型模塊進行車端驗證;數據管道,用于如果車端驗證的結果為通過,采集所述車端的待處理車輛數據,對所述待處理車輛數據通過車端數據轉換規則進行車端數據轉換,得到車端轉換待處理數據;執行模塊,用于將所述車端轉換待處理數據輸入至部署的合格簡化模型模塊,得到車輛本地數據處理結果。
12、本申請實施例還提供了一種車端模型部署系統,所述系統包括模型優化裝置和車端模型部署裝置,其中,所述模型優化裝置包括算子替換模塊、模型保存模塊、模型預處理模塊、簡化深度學習模型轉化器、編譯模塊、打包模塊和測試模塊;所述車端模型部署裝置包括接收模塊、部署模塊、車端驗證模塊、數據管道和執行模塊;所述算子替換模塊,用于獲取預訓練車輛數據處理模型,所述預訓練車輛數據處理模型通過原始深度學習框架訓練得到,確定所述預訓練車輛數據處理模型中每一個原始算子對所本文檔來自技高網...
【技術保護點】
1.一種車端模型部署方法,其特征在于,所述方法包括:
2.如權利要求1所述的車端模型部署方法,其特征在于,在所述驗證運行時環境中對部署的合格簡化模型模塊進行車端驗證,包括:
3.如權利要求2所述的車端模型部署方法,其特征在于,獲取多組原始驗證數據,包括以下至少之一:
4.如權利要求3所述的車端模型部署方法,其特征在于,若車端驗證的結果為不通過,所述方法還包括以下至少之一:
5.如權利要求1-4任一項所述的車端模型部署方法,其特征在于,將所述車端轉換待處理數據輸入至部署的合格簡化模型模塊之前,所述方法還包括:
6.如權利要求1-4任一項所述的車端模型部署方法,其特征在于,接收合格簡化模型模塊之前,所述方法還包括:
7.如權利要求6所述的車端模型部署方法,其特征在于,將所述簡化車輛數據處理模型編譯為待測簡化模型模塊,包括:
8.如權利要求6所述的車端模型部署方法,其特征在于,通過簡化深度學習模型轉化器對所述預訓練車輛數據處理模型進行模型簡化,包括:
9.一種車端模型部署裝置,其特征在于,所
10.一種車端模型部署系統,其特征在于,所述系統包括模型優化裝置和車端模型部署裝置,其中,所述模型優化裝置包括算子替換模塊、模型保存模塊、模型預處理模塊、簡化深度學習模型轉化器、編譯模塊、打包模塊和測試模塊;所述車端模型部署裝置包括接收模塊、部署模塊、車端驗證模塊、數據管道和執行模塊;
...【技術特征摘要】
1.一種車端模型部署方法,其特征在于,所述方法包括:
2.如權利要求1所述的車端模型部署方法,其特征在于,在所述驗證運行時環境中對部署的合格簡化模型模塊進行車端驗證,包括:
3.如權利要求2所述的車端模型部署方法,其特征在于,獲取多組原始驗證數據,包括以下至少之一:
4.如權利要求3所述的車端模型部署方法,其特征在于,若車端驗證的結果為不通過,所述方法還包括以下至少之一:
5.如權利要求1-4任一項所述的車端模型部署方法,其特征在于,將所述車端轉換待處理數據輸入至部署的合格簡化模型模塊之前,所述方法還包括:
6.如權利要求1-4任一項所述的車端模型部署方法,其特征在于,接收合格簡化模型模...
【專利技術屬性】
技術研發人員:岳楷嵐,吳上波,
申請(專利權)人:重慶賽力斯鳳凰智創科技有限公司,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。