System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本公開涉及人工智能領域,尤其涉及深度學習、云計算與數據處理等。
技術介紹
1、相關技術中,為了對模型進行數據布局轉換,通常在算子的輸入和輸出端均插入轉換算子,引入了大量因數據布局轉換而帶來的開銷,從而導致模型的執行效率較低。
技術實現思路
1、本公開提供了一種模型數據布局優化方法、裝置、電子設備及存儲介質。
2、根據本公開的一方面,提供了一種模型數據布局優化方法,應用于計算設備,計算設備包括計算單元和內存單元,包括:
3、計算單元基于模型的第一計算圖確定目標網絡流圖;
4、計算單元在目標網絡流圖上運用最小割算法,得到第一集合和第二集合,其中,第一集合中的節點將在第一數據布局下運行;第二集合中的節點將在第二數據布局下運行;
5、計算單元基于第二集合對第一計算圖中的節點進行改寫,得到模型的第二計算圖,將模型的第二計算圖存儲至內存單元。
6、根據本公開的另一方面,提供了一種模型數據布局優化裝置,應用于計算設備,計算設備包括計算單元和內存單元,包括:
7、第一確定模塊,用于供計算單元基于模型的第一計算圖確定目標網絡流圖;
8、第二確定模塊,用于供計算單元在目標網絡流圖上運用最小割算法,得到第一集合和第二集合,其中,第一集合中的節點將在第一數據布局下運行;第二集合中的節點將在第二數據布局下運行;
9、優化模塊,用于供計算單元基于第二集合對第一計算圖中的節點進行改寫,得到模型的第二計算圖,將模型的第
10、根據本公開的另一方面,提供了一種電子設備,包括:
11、至少一個處理器;以及
12、與該至少一個處理器通信連接的存儲器;其中,
13、該存儲器存儲有可被該至少一個處理器執行的指令,該指令被該至少一個處理器執行,以使該至少一個處理器能夠執行本公開實施例中任一的方法。
14、根據本公開的另一方面,提供了一種存儲有計算機指令的非瞬時計算機可讀存儲介質,其中,該計算機指令用于使該計算機執行根據本公開實施例中任一的方法。
15、根據本公開的另一方面,提供了一種計算機程序產品,包括計算機程序,該計算機程序在被處理器執行時實現根據本公開實施例中任一的方法。
16、根據本公開的方案,能對模型的數據布局進行優化,減少了因數據布局轉換而引入的算子的計算開銷,從而有助于提升模型的執行效率。
17、應當理解,本部分所描述的內容并非旨在標識本公開的實施例的關鍵或重要特征,也不用于限制本公開的范圍。本公開的其它特征將通過以下的說明書而變得容易理解。
本文檔來自技高網...【技術保護點】
1.一種模型數據布局優化方法,應用于計算設備,所述計算設備包括計算單元和內存單元,包括:
2.根據權利要求1所述的方法,其中,所述基于模型的第一計算圖確定目標網絡流圖,包括:
3.根據權利要求1所述的方法,其中,所述在所述目標網絡流圖上運用最小割算法,得到第一集合和第二集合,包括:
4.根據權利要求1所述的方法,其中,所述基于所述第二集合對所述第一計算圖中的節點進行改寫,包括:
5.根據權利要求1所述的方法,還包括:
6.根據權利要求5所述的方法,其中,所述為所述割集中的邊插入相應的預設轉換算子,包括:
7.根據權利要求5所述的方法,其中,所述為所述割集中的邊插入相應的預設轉換算子,包括:
8.根據權利要求1所述的方法,其中,所述第一數據布局和所述第二數據布局的維度名稱相同、維度數量相同,維度排序不同。
9.一種模型數據布局優化裝置,應用于計算設備,所述計算設備包括計算單元和內存單元,包括:
10.根據權利要求9所述的裝置,其中,所述第一確定模塊,用于:
11.
12.根據權利要求9所述的裝置,其中,所述優化模塊,用于:
13.根據權利要求9所述的裝置,還包括:
14.根據權利要求13所述的裝置,其中,所述優化模塊,還用于:
15.根據權利要求13所述的裝置,其中,所述優化模塊,還用于:
16.根據權利要求9所述的裝置,其中,所述第一數據布局和所述第二數據布局的維度名稱相同、維度數量相同,維度排序不同。
17.一種電子設備,包括:
18.一種存儲有計算機指令的非瞬時計算機可讀存儲介質,其中,所述計算機指令用于使所述計算機執行根據權利要求1-8中任一項所述的方法。
19.一種計算機程序產品,包括存儲在存儲介質上的計算機程序,計算機程序在被處理器執行時實現根據權利要求1-8中任一項的方法。
...【技術特征摘要】
1.一種模型數據布局優化方法,應用于計算設備,所述計算設備包括計算單元和內存單元,包括:
2.根據權利要求1所述的方法,其中,所述基于模型的第一計算圖確定目標網絡流圖,包括:
3.根據權利要求1所述的方法,其中,所述在所述目標網絡流圖上運用最小割算法,得到第一集合和第二集合,包括:
4.根據權利要求1所述的方法,其中,所述基于所述第二集合對所述第一計算圖中的節點進行改寫,包括:
5.根據權利要求1所述的方法,還包括:
6.根據權利要求5所述的方法,其中,所述為所述割集中的邊插入相應的預設轉換算子,包括:
7.根據權利要求5所述的方法,其中,所述為所述割集中的邊插入相應的預設轉換算子,包括:
8.根據權利要求1所述的方法,其中,所述第一數據布局和所述第二數據布局的維度名稱相同、維度數量相同,維度排序不同。
9.一種模型數據布局優化裝置,應用于計算設備,所述計算設備包括計算單元和內存單元,...
【專利技術屬性】
技術研發人員:呂永康,方華強,黨青青,沙燕霖,于佃海,馬艷軍,
申請(專利權)人:北京百度網訊科技有限公司,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。