System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 日韩人妻无码精品系列,亚洲AV无码一区二区三区在线观看,亚洲精品无码国产
  • 
    <ul id="o6k0g"></ul>
    <ul id="o6k0g"></ul>

    模型數據布局優化方法、裝置、電子設備及存儲介質制造方法及圖紙

    技術編號:42939744 閱讀:5 留言:0更新日期:2024-10-11 15:59
    本公開提供了模型數據布局優化方法、裝置、電子設備及存儲介質,涉及人工智能領域,尤其涉及深度學習、云計算與數據處理等技術領域。具體實現方案為:計算單元基于模型的第一計算圖確定目標網絡流圖;計算單元在目標網絡流圖上運用最小割算法,得到第一集合和第二集合,其中,第一集合中的節點將在第一數據布局下運行;第二集合中的節點將在第二數據布局下運行;計算單元基于第二集合對第一計算圖中的節點進行改寫,得到模型的第二計算圖,將模型的第二計算圖存儲至內存單元。根據本公開的方案,能對模型的數據布局進行優化,減少了因數據布局轉換而引入的算子的計算開銷,從而有助于提升模型的執行效率。

    【技術實現步驟摘要】

    本公開涉及人工智能領域,尤其涉及深度學習、云計算與數據處理等。


    技術介紹

    1、相關技術中,為了對模型進行數據布局轉換,通常在算子的輸入和輸出端均插入轉換算子,引入了大量因數據布局轉換而帶來的開銷,從而導致模型的執行效率較低。


    技術實現思路

    1、本公開提供了一種模型數據布局優化方法、裝置、電子設備及存儲介質

    2、根據本公開的一方面,提供了一種模型數據布局優化方法,應用于計算設備,計算設備包括計算單元和內存單元,包括:

    3、計算單元基于模型的第一計算圖確定目標網絡流圖;

    4、計算單元在目標網絡流圖上運用最小割算法,得到第一集合和第二集合,其中,第一集合中的節點將在第一數據布局下運行;第二集合中的節點將在第二數據布局下運行;

    5、計算單元基于第二集合對第一計算圖中的節點進行改寫,得到模型的第二計算圖,將模型的第二計算圖存儲至內存單元。

    6、根據本公開的另一方面,提供了一種模型數據布局優化裝置,應用于計算設備,計算設備包括計算單元和內存單元,包括:

    7、第一確定模塊,用于供計算單元基于模型的第一計算圖確定目標網絡流圖;

    8、第二確定模塊,用于供計算單元在目標網絡流圖上運用最小割算法,得到第一集合和第二集合,其中,第一集合中的節點將在第一數據布局下運行;第二集合中的節點將在第二數據布局下運行;

    9、優化模塊,用于供計算單元基于第二集合對第一計算圖中的節點進行改寫,得到模型的第二計算圖,將模型的第二計算圖存儲至內存單元。

    10、根據本公開的另一方面,提供了一種電子設備,包括:

    11、至少一個處理器;以及

    12、與該至少一個處理器通信連接的存儲器;其中,

    13、該存儲器存儲有可被該至少一個處理器執行的指令,該指令被該至少一個處理器執行,以使該至少一個處理器能夠執行本公開實施例中任一的方法。

    14、根據本公開的另一方面,提供了一種存儲有計算機指令的非瞬時計算機可讀存儲介質,其中,該計算機指令用于使該計算機執行根據本公開實施例中任一的方法。

    15、根據本公開的另一方面,提供了一種計算機程序產品,包括計算機程序,該計算機程序在被處理器執行時實現根據本公開實施例中任一的方法。

    16、根據本公開的方案,能對模型的數據布局進行優化,減少了因數據布局轉換而引入的算子的計算開銷,從而有助于提升模型的執行效率。

    17、應當理解,本部分所描述的內容并非旨在標識本公開的實施例的關鍵或重要特征,也不用于限制本公開的范圍。本公開的其它特征將通過以下的說明書而變得容易理解。

    本文檔來自技高網...

    【技術保護點】

    1.一種模型數據布局優化方法,應用于計算設備,所述計算設備包括計算單元和內存單元,包括:

    2.根據權利要求1所述的方法,其中,所述基于模型的第一計算圖確定目標網絡流圖,包括:

    3.根據權利要求1所述的方法,其中,所述在所述目標網絡流圖上運用最小割算法,得到第一集合和第二集合,包括:

    4.根據權利要求1所述的方法,其中,所述基于所述第二集合對所述第一計算圖中的節點進行改寫,包括:

    5.根據權利要求1所述的方法,還包括:

    6.根據權利要求5所述的方法,其中,所述為所述割集中的邊插入相應的預設轉換算子,包括:

    7.根據權利要求5所述的方法,其中,所述為所述割集中的邊插入相應的預設轉換算子,包括:

    8.根據權利要求1所述的方法,其中,所述第一數據布局和所述第二數據布局的維度名稱相同、維度數量相同,維度排序不同。

    9.一種模型數據布局優化裝置,應用于計算設備,所述計算設備包括計算單元和內存單元,包括:

    10.根據權利要求9所述的裝置,其中,所述第一確定模塊,用于:

    11.根據權利要求9所述的裝置,其中,所述第二確定模塊,用于:

    12.根據權利要求9所述的裝置,其中,所述優化模塊,用于:

    13.根據權利要求9所述的裝置,還包括:

    14.根據權利要求13所述的裝置,其中,所述優化模塊,還用于:

    15.根據權利要求13所述的裝置,其中,所述優化模塊,還用于:

    16.根據權利要求9所述的裝置,其中,所述第一數據布局和所述第二數據布局的維度名稱相同、維度數量相同,維度排序不同。

    17.一種電子設備,包括:

    18.一種存儲有計算機指令的非瞬時計算機可讀存儲介質,其中,所述計算機指令用于使所述計算機執行根據權利要求1-8中任一項所述的方法。

    19.一種計算機程序產品,包括存儲在存儲介質上的計算機程序,計算機程序在被處理器執行時實現根據權利要求1-8中任一項的方法。

    ...

    【技術特征摘要】

    1.一種模型數據布局優化方法,應用于計算設備,所述計算設備包括計算單元和內存單元,包括:

    2.根據權利要求1所述的方法,其中,所述基于模型的第一計算圖確定目標網絡流圖,包括:

    3.根據權利要求1所述的方法,其中,所述在所述目標網絡流圖上運用最小割算法,得到第一集合和第二集合,包括:

    4.根據權利要求1所述的方法,其中,所述基于所述第二集合對所述第一計算圖中的節點進行改寫,包括:

    5.根據權利要求1所述的方法,還包括:

    6.根據權利要求5所述的方法,其中,所述為所述割集中的邊插入相應的預設轉換算子,包括:

    7.根據權利要求5所述的方法,其中,所述為所述割集中的邊插入相應的預設轉換算子,包括:

    8.根據權利要求1所述的方法,其中,所述第一數據布局和所述第二數據布局的維度名稱相同、維度數量相同,維度排序不同。

    9.一種模型數據布局優化裝置,應用于計算設備,所述計算設備包括計算單元和內存單元,...

    【專利技術屬性】
    技術研發人員:呂永康方華強黨青青沙燕霖于佃海馬艷軍
    申請(專利權)人:北京百度網訊科技有限公司
    類型:發明
    國別省市:

    網友詢問留言 已有0條評論
    • 還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。

    1
    主站蜘蛛池模板: 无码精品人妻一区| 妖精色AV无码国产在线看| 暴力强奷在线播放无码| 夜夜添无码一区二区三区| 无码AV波多野结衣久久| 中文字幕无码视频手机免费看| 无码少妇一区二区三区芒果| 无码专区狠狠躁躁天天躁| 无码一区二区三区亚洲人妻| 日韩乱码人妻无码系列中文字幕| 国产精品无码一区二区三区在| 日韩亚洲AV无码一区二区不卡| 亚洲国产精品无码久久青草| 亚洲综合无码一区二区痴汉| 亚洲va中文字幕无码久久| 人妻丰满熟妇AV无码区| 亚洲精品无码久久毛片波多野吉衣 | 成人午夜精品无码区久久| 久久精品无码一区二区WWW| 亚洲成a人片在线观看无码 | 特级做A爰片毛片免费看无码| 无码熟妇人妻AV影音先锋| 色综合AV综合无码综合网站| 国产成人无码综合亚洲日韩| 中文字幕日韩精品无码内射| 国产AV无码专区亚洲AV琪琪| 特级小箩利无码毛片| 一本一道VS无码中文字幕| 久久亚洲日韩看片无码| 久久久久亚洲精品无码系列| 亚洲AV永久纯肉无码精品动漫| 中文字幕丰满乱子无码视频| 国产成人亚洲综合无码| 亚洲毛片av日韩av无码| 亚洲AV无码一区二区三区国产| h无码动漫在线观看| 好硬~好爽~别进去~动态图, 69式真人无码视频免 | 无码人妻黑人中文字幕| 亚洲av永久无码精品网站| 国产av永久无码天堂影院| 国产爆乳无码一区二区麻豆|