【技術實現(xiàn)步驟摘要】
本公開總體說來涉及計算機軟件領域，更具體地講，涉及一種任務調(diào)度方法、裝置、存儲介質(zhì)、系統(tǒng)和程序產(chǎn)品。
技術介紹
1、隨著人工智能技術的發(fā)展，機器學習模型得到廣泛、大量的應用，或單獨使用，或嵌入應用程序中使用。除模型的推理(即直接使用模型來完成計算)外，隨之而來的還有模型的更新迭代，這些計算任務需要消耗大量的計算資源。
2、相關技術中存在機器學習平臺，通常使用容器技術來自動化地實現(xiàn)應用程序的部署、擴展和管理，能夠集中執(zhí)行機器學習模型的推理任務和更新任務。但現(xiàn)有的機器學習平臺在將任務調(diào)度至容器集群中的節(jié)點時，任務的執(zhí)行常常不能充分利用節(jié)點上的計算資源，存在資源浪費，需要得到優(yōu)化。
技術實現(xiàn)思路
1、本公開提供一種任務調(diào)度方法、裝置、存儲介質(zhì)、系統(tǒng)和程序產(chǎn)品，用于解決上述問題中的至少一個。
2、根據(jù)本公開的一方面，提供一種任務調(diào)度方法，所述任務調(diào)度方法包括：響應于待分配任務的任務調(diào)度請求，獲取所述待分配任務的資源占用配比和多個候選計算節(jié)點的計算資源配比，其中，所述資源占用配比包括執(zhí)行相應任務時所需占用的不同類型的計算資源的比例，所述計算資源配比包括相應計算節(jié)點具備的不同類型的計算資源的比例；根據(jù)所述待分配任務的資源占用配比和所述多個候選計算節(jié)點的計算資源配比，從所述多個候選計算節(jié)點中確定目標計算節(jié)點，使得所述目標計算節(jié)點與所述待分配任務的不同類型計算資源的比例相匹配；將所述待分配任務分配至所述目標計算節(jié)點。
3、可選地，所述根據(jù)所述待分配任務的資源占用
4、可選地，所述任務分配模型包括強化學習模型；在所述將所述待分配任務分配至所述目標計算節(jié)點的步驟之后，所述任務調(diào)度方法還包括：獲取所述目標計算節(jié)點的剩余計算資源配比，其中，所述剩余計算資源配比包括相應計算節(jié)點中尚未被占用的不同類型的計算資源的比例；根據(jù)所述目標計算節(jié)點的剩余計算資源配比，確定所述強化學習模型的反饋信號。
5、可選地，所述根據(jù)所述目標計算節(jié)點的剩余計算資源配比，確定所述強化學習模型的反饋信號，包括：在所述目標計算節(jié)點的剩余計算資源配比處于預設配比范圍之外的情況下，確定所述強化學習模型的反饋信號為懲罰信號。
6、可選地，所述根據(jù)所述待分配任務的資源占用配比和所述多個候選計算節(jié)點的計算資源配比，從所述多個候選計算節(jié)點中確定目標計算節(jié)點，包括：在所述多個候選計算節(jié)點中的任意計算節(jié)點存在正在執(zhí)行的已分配任務的情況下，根據(jù)所述多個候選計算節(jié)點的計算資源配比、所述已分配任務的資源占用配比和對應候選計算節(jié)點、所述待分配任務的資源占用配比，從所述多個候選計算節(jié)點中確定所述目標計算節(jié)點。
7、可選地，所述根據(jù)所述待分配任務的資源占用配比和所述多個候選計算節(jié)點的計算資源配比，從所述多個候選計算節(jié)點中確定目標計算節(jié)點，使得所述目標計算節(jié)點與所述待分配任務的不同類型計算資源的比例相匹配，包括：在待分配任務的數(shù)量為多個的情況下，根據(jù)各個待分配任務的資源占用配比和所述多個候選計算節(jié)點的計算資源配比，從所述多個候選計算節(jié)點中確定每個待分配任務的目標計算節(jié)點，每個目標計算節(jié)點對應的待分配任務的數(shù)量為至少一個，使得每個目標計算節(jié)點的不同類型計算資源的比例與對應的各個待分配任務的不同類型計算資源的總比例相匹配。
8、根據(jù)本公開的另一方面，提供一種任務調(diào)度裝置，所述任務調(diào)度裝置包括：第一獲取單元，被配置為響應于待分配任務的任務調(diào)度請求，獲取所述待分配任務的資源占用配比和多個候選計算節(jié)點的計算資源配比，其中，所述資源占用配比包括執(zhí)行相應任務時所需占用的不同類型的計算資源的比例，所述計算資源配比包括相應計算節(jié)點具備的不同類型的計算資源的比例；確定單元，被配置為根據(jù)所述待分配任務的資源占用配比和所述多個候選計算節(jié)點的計算資源配比，從所述多個候選計算節(jié)點中確定目標計算節(jié)點，使得所述目標計算節(jié)點與所述待分配任務的不同類型計算資源的比例相匹配；分配單元，被配置為將所述待分配任務分配至所述目標計算節(jié)點。
9、可選地，所述確定單元還被配置為將所述待分配任務的資源占用配比和所述多個候選計算節(jié)點的計算資源配比輸入任務分配模型，得到所述目標計算節(jié)點，其中，所述任務分配模型是基于多個樣本任務的資源占用配比和多個樣本計算節(jié)點的計算資源配比訓練得到的，所述多個樣本計算節(jié)點用于執(zhí)行所述多個樣本任務，所述多個樣本計算節(jié)點與所述多個候選計算節(jié)點完全不同或至少部分相同。
10、可選地，所述任務分配模型包括強化學習模型，所述任務調(diào)度裝置還包括：第二獲取單元，被配置為在所述分配單元將所述待分配任務分配至所述目標計算節(jié)點之后，獲取所述目標計算節(jié)點的剩余計算資源配比，其中，所述剩余計算資源配比包括相應計算節(jié)點中尚未被占用的不同類型的計算資源的比例；反饋單元，被配置為根據(jù)所述目標計算節(jié)點的剩余計算資源配比，確定所述強化學習模型的反饋信號。
11、可選地，所述反饋單元還被配置為在所述目標計算節(jié)點的剩余計算資源配比處于預設配比范圍之外的情況下，確定所述強化學習模型的反饋信號為懲罰信號。
12、可選地，所述確定單元還被配置為在所述多個候選計算節(jié)點中的任意計算節(jié)點存在正在執(zhí)行的已分配任務的情況下，根據(jù)所述多個候選計算節(jié)點的計算資源配比、所述已分配任務的資源占用配比和對應候選計算節(jié)點、所述待分配任務的資源占用配比，從所述多個候選計算節(jié)點中確定所述目標計算節(jié)點。
13、可選地，所述確定單元還被配置為在待分配任務的數(shù)量為多個的情況下，根據(jù)各個待分配任務的資源占用配比和所述多個候選計算節(jié)點的計算資源配比，從所述多個候選計算節(jié)點中確定每個待分配任務的目標計算節(jié)點，每個目標計算節(jié)點對應的待分配任務的數(shù)量為至少一個，使得每個目標計算節(jié)點的不同類型計算資源的比例與對應的各個待分配任務的不同類型計算資源的總比例相匹配。
14、根據(jù)本公開的另一方面，提供一種存儲指令的計算機可讀存儲介質(zhì)，其中，當所述指令被至少一個計算裝置運行時，促使所述至少一個計算裝置執(zhí)行如上所述的任務調(diào)度方法。
15、根據(jù)本公開的另一方面，提供一種包括至少一個計算裝置和至少一個存儲指令的存儲裝置的系統(tǒng)，其中，所述指令在被所述至少一個計算裝置運行時，促使所述至少一個計算裝置執(zhí)行如上所述的任務調(diào)度方法。
16、根據(jù)本公開的另一方面，提供一種計算機程序產(chǎn)品，包括指令，其中，所述指令在被至少一個計算裝置運行時，促使所述至少一個計算裝置執(zhí)行如上所述的任務調(diào)度方法。
17、根據(jù)本公開示例性實施例的任務調(diào)度方本文檔來自技高網(wǎng)...
【技術保護點】
1.一種任務調(diào)度方法，其特征在于，所述任務調(diào)度方法包括：
2.如權(quán)利要求1所述的任務調(diào)度方法，其特征在于，所述根據(jù)所述待分配任務的資源占用配比和所述多個候選計算節(jié)點的計算資源配比，從所述多個候選計算節(jié)點中確定目標計算節(jié)點，包括：
3.如權(quán)利要求2所述的任務調(diào)度方法，其特征在于，
4.如權(quán)利要求3所述的任務調(diào)度方法，其特征在于，所述根據(jù)所述目標計算節(jié)點的剩余計算資源配比，確定所述強化學習模型的反饋信號，包括：
5.如權(quán)利要求1至4中的任一權(quán)利要求所述的任務調(diào)度方法，其特征在于，所述根據(jù)所述待分配任務的資源占用配比和所述多個候選計算節(jié)點的計算資源配比，從所述多個候選計算節(jié)點中確定目標計算節(jié)點，包括：
6.如權(quán)利要求1至4中的任一權(quán)利要求所述的任務調(diào)度方法，其特征在于，所述根據(jù)所述待分配任務的資源占用配比和所述多個候選計算節(jié)點的計算資源配比，從所述多個候選計算節(jié)點中確定目標計算節(jié)點，使得所述目標計算節(jié)點與所述待分配任務的不同類型計算資源的比例相匹配，包括：
7.一種任務調(diào)度裝置，其特征在于，所述任務調(diào)度裝置包括：<...
【技術特征摘要】
1.一種任務調(diào)度方法，其特征在于，所述任務調(diào)度方法包括：
2.如權(quán)利要求1所述的任務調(diào)度方法，其特征在于，所述根據(jù)所述待分配任務的資源占用配比和所述多個候選計算節(jié)點的計算資源配比，從所述多個候選計算節(jié)點中確定目標計算節(jié)點，包括：
3.如權(quán)利要求2所述的任務調(diào)度方法，其特征在于，
4.如權(quán)利要求3所述的任務調(diào)度方法，其特征在于，所述根據(jù)所述目標計算節(jié)點的剩余計算資源配比，確定所述強化學習模型的反饋信號，包括：
5.如權(quán)利要求1至4中的任一權(quán)利要求所述的任務調(diào)度方法，其特征在于，所述根據(jù)所述待分配任務的資源占用配比和所述多個候選計算節(jié)點的計算資源配比，從所述多個候選計算節(jié)點中確定目標計算節(jié)點，包括：
6.如權(quán)利要求1至4中的任一權(quán)利要求所述的任務調(diào)度方法，其特征在于，所述根據(jù)所述待分配任務的資源占用配比和所述多個候...
【專利技術屬性】
技術研發(fā)人員：孫遠，
申請(專利權(quán))人：第四范式北京技術有限公司，
類型：發(fā)明
國別省市：
還沒有人留言評論。發(fā)表了對其他瀏覽者有用的留言會獲得科技券。