【技術(shù)實(shí)現(xiàn)步驟摘要】
本公開涉及人工智能，尤其涉及芯片、深度學(xué)習(xí)和大模型等，可應(yīng)用于圖像處理、文本處理和音頻處理等場景下。更具體地，本公開提供了一種任務(wù)執(zhí)行方法、裝置、電子設(shè)備和存儲介質(zhì)。
技術(shù)介紹
1、隨著人工智能技術(shù)的發(fā)展，深度學(xué)習(xí)模型或大模型可以部署至人工智能芯片。人工智能芯片可以包括通用圖形處理單元（general?purpose?graphics?processing?unit，gpgpu）、張量處理單元（tensor?processing?unit，tpu）和神經(jīng)網(wǎng)絡(luò)處理單元（networksprocessing?unit，npu）等。
技術(shù)實(shí)現(xiàn)思路
1、本公開提供了一種任務(wù)執(zhí)行方法、裝置、設(shè)備以及存儲介質(zhì)。
2、根據(jù)本公開的一方面，提供了一種任務(wù)執(zhí)行方法，該方法包括：響應(yīng)于確定任務(wù)隊(duì)列中第一待執(zhí)行任務(wù)的在后任務(wù)包括第一目標(biāo)任務(wù)，利用多個計算單元至少之一將第一待執(zhí)行任務(wù)的初始常量數(shù)據(jù)拆分為多個常量子數(shù)據(jù)，得到多個第二待執(zhí)行任務(wù)，其中，第一目標(biāo)任務(wù)用于根據(jù)第一待執(zhí)行任務(wù)的第一執(zhí)行結(jié)果得到多個第一目標(biāo)結(jié)果；從任務(wù)隊(duì)列中刪除第一待執(zhí)行任務(wù)之后的第一目標(biāo)任務(wù)；其中，多個第二待執(zhí)行任務(wù)是利用多個計算單元至少之一根據(jù)多個常量子數(shù)據(jù)執(zhí)行的，多個第二待執(zhí)行任務(wù)的多個第二執(zhí)行結(jié)果為多個第一目標(biāo)結(jié)果。
3、根據(jù)本公開的另一方面，提供了一種任務(wù)執(zhí)行方法，該方法包括：響應(yīng)于確定任務(wù)隊(duì)列中多個第三待執(zhí)行任務(wù)各自的在后任務(wù)包括同一第二目標(biāo)任務(wù)，利用多個計算單元至少之一將多個第三待執(zhí)行任務(wù)各自的初
4、根據(jù)本公開的另一方面，提供了一種任務(wù)執(zhí)行裝置，該裝置包括：存儲單元，配置為存儲任務(wù)隊(duì)列以及任務(wù)隊(duì)列中至少一個待執(zhí)行任務(wù)的初始常量數(shù)據(jù)；多個計算單元，其中，多個計算單元至少之一配置為：響應(yīng)于確定任務(wù)隊(duì)列中第一待執(zhí)行任務(wù)的在后任務(wù)包括第一目標(biāo)任務(wù)，將第一待執(zhí)行任務(wù)的初始常量數(shù)據(jù)拆分為多個常量子數(shù)據(jù)，得到多個第二待執(zhí)行任務(wù)，其中，第一目標(biāo)任務(wù)用于根據(jù)第一待執(zhí)行任務(wù)的第一執(zhí)行結(jié)果得到多個第一目標(biāo)結(jié)果；從任務(wù)隊(duì)列中刪除第一待執(zhí)行任務(wù)之后的第一目標(biāo)任務(wù)；其中，多個第二待執(zhí)行任務(wù)是利用多個計算單元至少之一根據(jù)多個常量子數(shù)據(jù)執(zhí)行的，多個第二待執(zhí)行任務(wù)的多個第二執(zhí)行結(jié)果為多個第一目標(biāo)結(jié)果。
5、根據(jù)本公開的另一方面，提供了一種任務(wù)執(zhí)行裝置，該裝置包括：存儲單元，配置為存儲任務(wù)隊(duì)列以及任務(wù)隊(duì)列中多個待執(zhí)行任務(wù)各自的初始常量數(shù)據(jù)；多個計算單元，其中，多個計算單元至少之一配置為：響應(yīng)于確定任務(wù)隊(duì)列中多個第三待執(zhí)行任務(wù)各自的在后任務(wù)包括同一第二目標(biāo)任務(wù)，將多個第三待執(zhí)行任務(wù)各自的初始常量數(shù)據(jù)融合為待處理常量數(shù)據(jù)，得到第四待執(zhí)行任務(wù)，其中，第二目標(biāo)任務(wù)用于將多個第三待執(zhí)行任務(wù)各自的第三執(zhí)行結(jié)果融合為第二目標(biāo)結(jié)果；從任務(wù)隊(duì)列中刪除第三待執(zhí)行任務(wù)之后的第二目標(biāo)任務(wù)；其中，第四待執(zhí)行任務(wù)是利用多個計算單元至少之一根據(jù)待處理常量數(shù)據(jù)執(zhí)行的，第四待執(zhí)行任務(wù)的執(zhí)行結(jié)果為第二目標(biāo)結(jié)果。
6、根據(jù)本公開的另一方面，提供了一種任務(wù)執(zhí)行設(shè)備，包括本公開提供的裝置。
7、根據(jù)本公開的另一方面，提供了一種電子設(shè)備，包括：至少一個處理器；以及與至少一個處理器通信連接的存儲器；其中，存儲器存儲有可被至少一個處理器執(zhí)行的指令，指令被至少一個處理器執(zhí)行，以使至少一個處理器能夠執(zhí)行根據(jù)本公開提供的方法。
8、根據(jù)本公開的另一方面，提供了一種存儲有計算機(jī)指令的非瞬時計算機(jī)可讀存儲介質(zhì)，該計算機(jī)指令用于使計算機(jī)執(zhí)行根據(jù)本公開提供的方法。
9、根據(jù)本公開的另一方面，提供了一種計算機(jī)程序產(chǎn)品，包括計算機(jī)程序，計算機(jī)程序在被處理器執(zhí)行時實(shí)現(xiàn)根據(jù)本公開提供的方法。
10、應(yīng)當(dāng)理解，本部分所描述的內(nèi)容并非旨在標(biāo)識本公開的實(shí)施例的關(guān)鍵或重要特征，也不用于限制本公開的范圍。本公開的其它特征將通過以下的說明書而變得容易理解。
本文檔來自技高網(wǎng)...【技術(shù)保護(hù)點(diǎn)】
1.一種任務(wù)執(zhí)行方法，包括：
2.根據(jù)權(quán)利要求1所述的方法，其中，所述第一待執(zhí)行任務(wù)的輸入數(shù)據(jù)是根據(jù)輸入圖像得到的，所述初始常量數(shù)據(jù)的多個維度包括輸出通道維度，多個所述計算單元包括第一計算單元，
3.根據(jù)權(quán)利要求1所述的方法，其中，所述第一待執(zhí)行任務(wù)的輸入數(shù)據(jù)是根據(jù)輸入文本得到，所述初始常量數(shù)據(jù)的多個維度包括第一維度和第二維度，所述輸入數(shù)據(jù)的多個維度包括第三維度和第四維度，所述第一維度的值與所述第四維度的值相同，多個所述計算單元包括第一計算單元，
4.一種任務(wù)執(zhí)行方法，包括：
5.根據(jù)權(quán)利要求4所述的方法，其中，所述第三待執(zhí)行任務(wù)的輸入數(shù)據(jù)是根據(jù)輸入圖像得到的，所述初始常量數(shù)據(jù)的多個維度包括輸出通道維度，多個所述計算單元包括第一計算單元，
6.根據(jù)權(quán)利要求4所述的方法，其中，所述第一待執(zhí)行任務(wù)的輸入數(shù)據(jù)是根據(jù)輸入文本得到，所述初始常量數(shù)據(jù)的多個維度包括第一維度和第二維度，所述輸入數(shù)據(jù)的多個維度包括第三維度和第四維度，所述第一維度的數(shù)目與所述第四維度的數(shù)目相同，多個所述計算單元包括第一計算單元，
7.一種任務(wù)執(zhí)
8.根據(jù)權(quán)利要求7所述的裝置，其中，所述第一待執(zhí)行任務(wù)的輸入數(shù)據(jù)是根據(jù)輸入圖像得到的，所述初始常量數(shù)據(jù)的多個維度包括輸出通道維度，多個所述計算單元包括第一計算單元，
9.根據(jù)權(quán)利要求7所述的裝置，其中，所述第一待執(zhí)行任務(wù)的輸入數(shù)據(jù)是根據(jù)輸入文本得到，所述初始常量數(shù)據(jù)的多個維度包括第一維度和第二維度，所述輸入數(shù)據(jù)的多個維度包括第三維度和第四維度，所述第一維度的值與所述第四維度的值相同，多個所述計算單元包括第一計算單元，
10.一種任務(wù)執(zhí)行裝置，包括：
11.根據(jù)權(quán)利要求10所述的裝置，其中，所述第三待執(zhí)行任務(wù)的輸入數(shù)據(jù)是根據(jù)輸入圖像得到的，所述初始常量數(shù)據(jù)的多個維度包括輸出通道維度，多個所述計算單元包括第一計算單元，
12.根據(jù)權(quán)利要求10所述的裝置，其中，所述第一待執(zhí)行任務(wù)的輸入數(shù)據(jù)是根據(jù)輸入文本得到，所述初始常量數(shù)據(jù)的多個維度包括第一維度和第二維度，所述輸入數(shù)據(jù)的多個維度包括第三維度和第四維度，所述第一維度的數(shù)目與所述第四維度的數(shù)目相同，多個所述計算單元包括第一計算單元，
13.一種任務(wù)執(zhí)行設(shè)備，包括如權(quán)利要求8至12任一項(xiàng)所述的裝置。
14.一種電子設(shè)備，包括：
15.一種存儲有計算機(jī)指令的非瞬時計算機(jī)可讀存儲介質(zhì)，其中，所述計算機(jī)指令用于使所述計算機(jī)執(zhí)行根據(jù)權(quán)利要求1至6中任一項(xiàng)所述的方法。
16.一種計算機(jī)程序產(chǎn)品，包括計算機(jī)程序，所述計算機(jī)程序在被處理器執(zhí)行時實(shí)現(xiàn)根據(jù)權(quán)利要求1至6中任一項(xiàng)所述的方法。
...【技術(shù)特征摘要】
1.一種任務(wù)執(zhí)行方法，包括：
2.根據(jù)權(quán)利要求1所述的方法，其中，所述第一待執(zhí)行任務(wù)的輸入數(shù)據(jù)是根據(jù)輸入圖像得到的，所述初始常量數(shù)據(jù)的多個維度包括輸出通道維度，多個所述計算單元包括第一計算單元，
3.根據(jù)權(quán)利要求1所述的方法，其中，所述第一待執(zhí)行任務(wù)的輸入數(shù)據(jù)是根據(jù)輸入文本得到，所述初始常量數(shù)據(jù)的多個維度包括第一維度和第二維度，所述輸入數(shù)據(jù)的多個維度包括第三維度和第四維度，所述第一維度的值與所述第四維度的值相同，多個所述計算單元包括第一計算單元，
4.一種任務(wù)執(zhí)行方法，包括：
5.根據(jù)權(quán)利要求4所述的方法，其中，所述第三待執(zhí)行任務(wù)的輸入數(shù)據(jù)是根據(jù)輸入圖像得到的，所述初始常量數(shù)據(jù)的多個維度包括輸出通道維度，多個所述計算單元包括第一計算單元，
6.根據(jù)權(quán)利要求4所述的方法，其中，所述第一待執(zhí)行任務(wù)的輸入數(shù)據(jù)是根據(jù)輸入文本得到，所述初始常量數(shù)據(jù)的多個維度包括第一維度和第二維度，所述輸入數(shù)據(jù)的多個維度包括第三維度和第四維度，所述第一維度的數(shù)目與所述第四維度的數(shù)目相同，多個所述計算單元包括第一計算單元，
7.一種任務(wù)執(zhí)行裝置，包括：
8.根據(jù)權(quán)利要求7所述的裝置，其中，所述第一待執(zhí)行任務(wù)的輸入數(shù)據(jù)是根據(jù)輸入圖像得到的，所述初始常量數(shù)據(jù)的多個維度包括輸出通道維度，多個所述計算單元包括第...
【專利技術(shù)屬性】
技術(shù)研發(fā)人員：岳倩宇，劉佳，周保玉，
申請(專利權(quán))人：昆侖芯北京科技有限公司，
類型：發(fā)明
國別省市：
還沒有人留言評論。發(fā)表了對其他瀏覽者有用的留言會獲得科技券。