【技術(shù)實現(xiàn)步驟摘要】
本專利技術(shù)涉及數(shù)據(jù)處理，尤其涉及一種gpu服務(wù)器集群系統(tǒng)及gpu調(diào)度方法。
技術(shù)介紹
1、?gpu（graphics?processing?unit），即圖形處理器，是一種專門在個人電腦、工作站、游戲機和一些移動設(shè)備（如平板電腦、智能手機等）上進行圖像運算工作的微處理器。它具有強大的并行計算能力，最初主要用于圖形渲染，但隨著技術(shù)的發(fā)展，如今在科學(xué)計算、人工智能、深度學(xué)習(xí)、視頻處理等眾多領(lǐng)域都發(fā)揮著至關(guān)重要的作用。
2、隨著互聯(lián)網(wǎng)產(chǎn)業(yè)的快速發(fā)展，視頻圖像處理需求也在不斷增長，gpu服務(wù)集群也就應(yīng)運而生。gpu服務(wù)集群具有高并行處理能力和強大的擴展性，可以高效處理大規(guī)模圖像視頻、深度學(xué)習(xí)、科學(xué)計算等多種計算密集型任務(wù)。
3、?gpu服務(wù)器集群在處理任務(wù)時，由于缺乏高效的任務(wù)調(diào)度方案，可能導(dǎo)致某些gpu資源被過度使用，而其他gpu資源則處于空閑狀態(tài)。這種資源分配不均會導(dǎo)致整體性能下降，增加能源消耗和運營成本。
4、因此如何有效調(diào)度gpu算力，提升gpu服務(wù)器集群的性能，是一個亟需解決的問題。
技術(shù)實現(xiàn)思路
1、針對上述技術(shù)問題和缺陷，本專利技術(shù)的目的是提供一種gpu服務(wù)器集群系統(tǒng)及gpu調(diào)度方法，可以有效調(diào)度gpu算力，提升gpu服務(wù)器集群的性能。
2、為實現(xiàn)上述目的，第一方面，本專利技術(shù)提供一種gpu服務(wù)器集群系統(tǒng)，包括多個gpu服務(wù)節(jié)點、數(shù)據(jù)傳輸單元、任務(wù)分割單元、gpu調(diào)度單元及數(shù)據(jù)處理單元；數(shù)據(jù)傳輸單元用于從數(shù)據(jù)需求端獲取待處理的視
3、?本專利技術(shù)通過任務(wù)分割單元將視頻圖像處理任務(wù)細分為多個子任務(wù)，打破了大型任務(wù)對單個?gpu?節(jié)點的壓力限制，使得各子任務(wù)可以并行處理，充分挖掘了?gpu?的并行計算潛力。gpu?調(diào)度單元依據(jù)浮點運算能力值、顯存帶寬利用率和核心時鐘頻率等關(guān)鍵性能參數(shù)確定各?gpu?服務(wù)節(jié)點的負載性能評分，確保將子任務(wù)分配給最適合的目標(biāo)?gpu?節(jié)點。這一智能調(diào)度機制避免了因不合理分配導(dǎo)致的部分節(jié)點負載過重而其他節(jié)點閑置的情況，極大地提高了?gpu?算力的利用效率，提升了gpu服務(wù)器集群的性能表現(xiàn)。并且多個?gpu服務(wù)節(jié)點協(xié)同工作，可根據(jù)不同任務(wù)需求動態(tài)調(diào)整算力分配，提升了系統(tǒng)的靈活性和適應(yīng)性。當(dāng)面對大規(guī)模視頻圖像數(shù)據(jù)處理任務(wù)時，系統(tǒng)能夠高效地調(diào)度資源，快速完成任務(wù)，減少了處理時間，提高了工作效率。同時，數(shù)據(jù)處理單元對已處理部分視頻圖像數(shù)據(jù)的合并以及與數(shù)據(jù)傳輸單元和?gpu?調(diào)度單元的信息交互，確保了整個系統(tǒng)的穩(wěn)定運行和高效協(xié)作，進一步提升了?gpu?服務(wù)器集群的使用效率。
4、結(jié)合第一方面的一些實施例，在一些實施例中，該gpu調(diào)度單元具體用于根據(jù)負載性能評分公式計算得到該負載性能評分，該負載性能評分公式包括：
5、；
6、其中，s代表所述負載性能評分，f代表所述浮點運算能力值，m代表所述顯存帶寬利用率，c代表所述核心時鐘頻率，α、β、γ均為實驗參數(shù)。
7、采用上述實施例的技術(shù)方案，通過引入一個具體的負載性能評分公式，提供了一種量化gpu服務(wù)節(jié)點性能的方法，使得系統(tǒng)能夠更精確地評估和比較不同節(jié)點的性能。該公式考慮了浮點運算能力、顯存帶寬利用率和核心時鐘頻率三個關(guān)鍵參數(shù)，并引入實驗參數(shù)以適應(yīng)不同場景，增強了系統(tǒng)的適應(yīng)性和靈活性。這種方法有助于更合理地分配任務(wù)，優(yōu)化資源利用率，提高處理效率，從而使得gpu服務(wù)器集群系統(tǒng)在處理視頻圖像數(shù)據(jù)集時更加高效和穩(wěn)定。
8、結(jié)合第一方面的一些實施例，在一些實施例中，該gpu服務(wù)器集群系統(tǒng)還包括任務(wù)隊列單元，該任務(wù)隊列單元用于根據(jù)設(shè)定的優(yōu)先級定義規(guī)則確定各該子任務(wù)的優(yōu)先級，并根據(jù)該優(yōu)先級對各該子任務(wù)進行排序，得到子任務(wù)隊列，該gpu調(diào)度單元用于根據(jù)該子任務(wù)隊列調(diào)取該子任務(wù)。
9、采用上述實施例的技術(shù)方案，通過增加任務(wù)隊列單元，使得系統(tǒng)能夠根據(jù)預(yù)設(shè)的優(yōu)先級規(guī)則和子任務(wù)間的依賴關(guān)系，對子任務(wù)進行排序和管理。這種機制確保了任務(wù)按照正確的順序執(zhí)行，避免了因依賴問題導(dǎo)致的執(zhí)行延遲，提高了任務(wù)處理的準(zhǔn)確性和效率。同時，它還允許系統(tǒng)在面對大量并發(fā)任務(wù)時，能夠更加智能地調(diào)度資源，減少等待時間，提升整體的系統(tǒng)性能。
10、結(jié)合第一方面的一些實施例，在一些實施例中，該任務(wù)隊列單元還用于確定該子任務(wù)之間的依賴關(guān)系，并根據(jù)該優(yōu)先級和該依賴關(guān)系對各該子任務(wù)進行排序，得到該子任務(wù)隊列。
11、采用上述實施例的技術(shù)方案，擴展了任務(wù)隊列單元的功能，使其不僅能夠確定子任務(wù)的優(yōu)先級，還能夠識別并處理子任務(wù)之間的依賴關(guān)系。這一改進確保了在復(fù)雜的任務(wù)處理流程中，所有依賴條件得到滿足前，相關(guān)子任務(wù)不會過早執(zhí)行，從而避免了資源浪費和潛在的執(zhí)行錯誤。這種精細的任務(wù)管理能力顯著提高了系統(tǒng)的穩(wěn)定性和可靠性，尤其是在處理具有復(fù)雜依賴關(guān)系的視頻圖像處理任務(wù)時。
12、結(jié)合第一方面的一些實施例，在一些實施例中，該gpu服務(wù)器集群系統(tǒng)還包括gpu性能監(jiān)測單元，用于監(jiān)測該gpu節(jié)點的該負載性能參數(shù)，并將該負載性能參數(shù)發(fā)送給該gpu調(diào)度單元。
13、采用上述實施例的技術(shù)方案，通過引入gpu性能監(jiān)測單元，實現(xiàn)了對gpu節(jié)點性能參數(shù)的實時監(jiān)控。這一單元能夠動態(tài)收集和更新gpu的負載性能參數(shù)，為gpu調(diào)度單元提供準(zhǔn)確的數(shù)據(jù)支持。這種實時性能監(jiān)測機制使得調(diào)度決策更加精確，有助于系統(tǒng)及時響應(yīng)性能變化，優(yōu)化資源分配，提高處理效率，同時也為系統(tǒng)的故障診斷和性能優(yōu)化提供了重要依據(jù)。
14、結(jié)合第一方面的一些實施例，在一些實施例中，該gpu服務(wù)器集群系統(tǒng)還包括fpga單元，該fpga單元用于從該數(shù)據(jù)傳輸單元接收該視頻圖像數(shù)據(jù)集，當(dāng)該視頻圖像數(shù)據(jù)集包含加密視頻流時，對該加密視頻流進行解碼處理，并將解碼后的視頻圖像數(shù)據(jù)集發(fā)送給該任務(wù)分割單元。
15、采用上述實施例的技術(shù)方案，采用上述實施例的技術(shù)方案，通過集成fpga單元，增強了系統(tǒng)對加密視頻流的處理能力。fpga單元的引入使得系統(tǒng)能夠在數(shù)據(jù)傳輸單元接收到加密視頻流后，迅速進行解密和解碼處理，然后將解碼后的數(shù)據(jù)集發(fā)送給任務(wù)分割單元。這種硬件級別的處理能力大幅提升了系統(tǒng)處理加密視頻流的效率，降低了延遲，同時減輕了gpu節(jié)點的負擔(dān)，提高了整個系統(tǒng)的處理能力本文檔來自技高網(wǎng)...
【技術(shù)保護點】
1.一種GPU服務(wù)器集群系統(tǒng)，其特征在于，包括：
2.根據(jù)權(quán)利要求1所述的GPU服務(wù)器集群系統(tǒng)，其特征在于，所述GPU調(diào)度單元具體用于根據(jù)負載性能評分公式計算得到所述負載性能評分，所述負載性能評分公式包括：
3.根據(jù)權(quán)利要求1或2所述的GPU服務(wù)器集群系統(tǒng)，其特征在于，還包括任務(wù)隊列單元，所述任務(wù)隊列單元用于根據(jù)設(shè)定的優(yōu)先級定義規(guī)則確定各所述子任務(wù)的優(yōu)先級，并根據(jù)所述優(yōu)先級對各所述子任務(wù)進行排序，得到子任務(wù)隊列，所述GPU調(diào)度單元用于根據(jù)所述子任務(wù)隊列調(diào)取所述子任務(wù)。
4.根據(jù)權(quán)利要求3所述的GPU服務(wù)器集群系統(tǒng)，所述任務(wù)隊列單元還用于確定所述子任務(wù)之間的依賴關(guān)系，并根據(jù)所述優(yōu)先級和所述依賴關(guān)系對各所述子任務(wù)進行排序，得到所述子任務(wù)隊列。
5.根據(jù)權(quán)利要求1所述的GPU服務(wù)器集群系統(tǒng)，其特征在于，還包括GPU性能監(jiān)測單元，用于監(jiān)測所述GPU節(jié)點的所述負載性能參數(shù)，并將所述負載性能參數(shù)發(fā)送給所述GPU調(diào)度單元。
6.根據(jù)權(quán)利要求1所述的GPU服務(wù)器集群系統(tǒng)，其特征在于，還包括FPGA單元，所述FPGA單元用于從所述數(shù)據(jù)傳輸
7.根據(jù)權(quán)利要求1所述的GPU服務(wù)器集群系統(tǒng)，其特征在于，還包括邊緣服務(wù)節(jié)點，所述GPU調(diào)度單元用于根據(jù)所述多個GPU節(jié)點的負載性能參數(shù)，將部分所述子任務(wù)卸載到所述邊緣服務(wù)節(jié)點。
8.根據(jù)權(quán)利要求1所述的GPU服務(wù)器集群系統(tǒng)，其特征在于，還包括云服務(wù)器，所述GPU調(diào)度單元用于根據(jù)所述多個GPU節(jié)點的負載性能參數(shù)，調(diào)用所述云服務(wù)器的GPU資源。
9.一種GPU調(diào)度方法，其特征在于，應(yīng)用權(quán)利要求1-8任一項所述的GPU服務(wù)器集群系統(tǒng)，所述方法包括：
10.根據(jù)權(quán)利要求9所述的方法，其特征在于，所述根據(jù)GPU服務(wù)節(jié)點的負載性能參數(shù)，確定所述GPU服務(wù)節(jié)點的負載性能評分的步驟，包括：
...【技術(shù)特征摘要】
1.一種gpu服務(wù)器集群系統(tǒng)，其特征在于，包括：
2.根據(jù)權(quán)利要求1所述的gpu服務(wù)器集群系統(tǒng)，其特征在于，所述gpu調(diào)度單元具體用于根據(jù)負載性能評分公式計算得到所述負載性能評分，所述負載性能評分公式包括：
3.根據(jù)權(quán)利要求1或2所述的gpu服務(wù)器集群系統(tǒng)，其特征在于，還包括任務(wù)隊列單元，所述任務(wù)隊列單元用于根據(jù)設(shè)定的優(yōu)先級定義規(guī)則確定各所述子任務(wù)的優(yōu)先級，并根據(jù)所述優(yōu)先級對各所述子任務(wù)進行排序，得到子任務(wù)隊列，所述gpu調(diào)度單元用于根據(jù)所述子任務(wù)隊列調(diào)取所述子任務(wù)。
4.根據(jù)權(quán)利要求3所述的gpu服務(wù)器集群系統(tǒng)，所述任務(wù)隊列單元還用于確定所述子任務(wù)之間的依賴關(guān)系，并根據(jù)所述優(yōu)先級和所述依賴關(guān)系對各所述子任務(wù)進行排序，得到所述子任務(wù)隊列。
5.根據(jù)權(quán)利要求1所述的gpu服務(wù)器集群系統(tǒng)，其特征在于，還包括gpu性能監(jiān)測單元，用于監(jiān)測所述gpu節(jié)點的所述負載性能參數(shù)，并將所述負載性能參數(shù)發(fā)送給所述gpu調(diào)度單元。
6....
【專利技術(shù)屬性】
技術(shù)研發(fā)人員：李紅明，蘇浩，
申請(專利權(quán))人：北京億安天下科技股份有限公司，
類型：發(fā)明
國別省市：
還沒有人留言評論。發(fā)表了對其他瀏覽者有用的留言會獲得科技券。