【技術實現步驟摘要】
本專利技術實施例涉及計算機領域，具體而言，涉及一種用于加速計算的控制器、加速計算系統、控制器內部的路由跳轉方法、控制器之間的路由跳轉方法和加速計算任務的加速計算單元調度方法。
技術介紹
1、隨著人工智能、大數據分析以及云計算等技術持續發展，系統數據量呈現出指數級增長態勢，進而使得對數據處理與分析的需求日益攀升。相關技術中，傳統的單一架構數據庫系統面臨著巨大挑戰，其在處理海量數據、確保數據實時性以及應對多樣化工作負載等方面的能力顯得較為不足。
2、異構加速架構通常將控制器與其他處理器結合，利用不同處理器的優勢實現高性能計算。在異構加速架構中，控制器內部加速計算單元的互連通信對系統的總體性能存在關鍵影響。通過對控制器內部的互連結構進行改進能夠使得數據傳輸路徑更短、帶寬更高，可以有效降低系統傳輸延遲。讓數據能夠在加速計算單元間有序高效地調度和傳輸，充分發揮各加速計算單元的優勢，提升系統整體性能。
3、相關技術中，一般采用基于總線的互連和片上互連技術實現加速計算單元的互連，但是，基于總線的互連在多個計算單元同時請求方位內存時存在總線競爭導致帶寬分配不足以及延遲增加的問題，因此，基于總線的互連在大規模系統中該缺點不可避免。另一方面，片上互連技術依賴于網絡拓撲和鏈路長度限制，部分傳輸過程中容易存在跳步較多，明顯產生延遲的現象，且片上互連技術在硬件方面需要大量路由器和鏈路構建網絡，導致芯片面積和功耗增加，以及，在跨設備傳輸時，鏈路寬度對傳輸的速率影響較大，會影響加速計算系統的整體性能。
4、綜上，相關技術中
技術實現思路
1、本專利技術實施例提供了一種用于加速計算的控制器、基于控制器的加速計算系統、控制器內部的路由跳轉方法、控制器之間的路由跳轉方法和加速計算任務的加速計算單元調度方法，以至少解決相關技術中由于片上互聯技術受到網絡拓撲結構的制約，在部分傳輸過程中存在延遲較大，導致加速計算任務的計算效率下降的問題。
2、根據本專利技術的一個實施例，提供了一種用于加速計算的控制器，包括：多個加速計算單元組，相鄰的加速計算單元組之間兩兩通信連接，呈完全對稱的環形布置，同一加速計算單元組內的加速計算單元之間通過內部總線依次連接，不同加速計算單元組之間位于環形同一直徑的對稱位置的加速計算單元之間通信連接；
3、每一個加速計算單元組還包括共享內存，共享內存與各加速計算單元通過內部總線連接。
4、在一個示例性實施例中，控制器還包括：設備側控制器，用于接收cxl格式的數據包，對數據包解析得到加速計算任務并下發至加速計算單元；交換模塊，與設備側控制器之間通過cxl總線連接，與加速計算單元之間通信通過內部總線連接，用于通過直接內存訪問的方式接收加速計算任務，并發送至加速計算單元。
5、在一個示例性實施例中，交換模塊包括多級交換模塊，其中，包括與設備側控制器通過cxl總線相連接且通過多個輸出信號為主模式的接口與其他交換模塊連接的交換模塊，以及與其他交換模塊相連接、通過輸出信號為從模式的接口與共享內存相連接且通過輸出信號為主模式的接口與加速計算單元相連接的交換模塊。
6、在一個示例性實施例中，控制器還包括：片內路由模塊，分別與各加速計算單元組通信連接，用于實現同一控制器內部的路由跳轉；片間路由模塊，與片內路由模塊通信連接，用于實現不同控制器之間的路由跳轉。
7、在一個示例性實施例中，片內路由模塊包括第一交叉開關和第一交叉開關控制單元，其中，第一交叉開關用于連接各加速計算單元組以及片間路由模塊，第一交叉開關控制單元用于控制第一交叉開關所連接通路的通斷。
8、在一個示例性實施例中，片間路由模塊包括第二交叉開關和第二交叉開關控制單元，其中，第二交叉開關用于連接片內路由模塊與多選一選擇器，第二交叉開關控制單元用于控制第二交叉開關所連接通路的通斷。
9、在一個示例性實施例中，片內路由模塊或片間路由模塊包括虛擬通道控制單元，用于將一條物理通道劃分為多條虛擬通道，以防止通道閉環產生死鎖現象。
10、在一個示例性實施例中，虛擬通道控制單元具體用于在物理通道對應的輸出隊列緩沖中構建多個相互獨立的微片緩沖區，得到多條虛擬通道；順時針方向將虛擬通道等分為第一通道組和第二通道組；在源節點的路由坐標大于目標節點路由坐標的情況下，使用第一通道組；在源節點路由坐標小于或等于目標節點路由坐標的情況下，使用第二通道組。
11、在一個示例性實施例中，在加速計算單元組處于第一工作模式的情況下，組內的加速計算單元允許被配置為不同計算功能。
12、在一個示例性實施例中，在加速計算單元組處于第二工作模式的情況下，組內的加速計算單元被配置為同一計算功能，以在組內存在任一加速計算單元故障的情況下，使用組內其他加速計算單元進行替換。
13、在一個示例性實施例中，本專利技術的一種實施方式中，控制器為fpga、arm和avr中的一個。
14、根據本專利技術的另一個實施例，提供了一種加速計算系統，加速計算系統包括：主機；多個控制器簇，用于執行主機下發的加速計算任務，各控制器簇均包括多個控制器；交換芯片，與主機以及控制器簇之間通過總線連接，用于實現主機與控制器簇之間的數據交互。
15、在一個示例性實施例中，控制器簇中的控制器被配置為全連接結構。
16、在一個示例性實施例中，交換芯片至少支持cxl通信協議。
17、在一個示例性實施例中，控制器簇還包括多選一選擇器，用于接收控制器內部產生的信號，傳輸至其他控制器或主機。
18、根據本專利技術的又一個實施例，提供了一種控制器內部的路由跳轉方法，包括：配置控制器內部加速計算單元的路由坐標，路由坐標包括控制器id、加速計算單元組id和加速計算單元id；基于路由跳轉請求確定源節點的路由坐標以及目標節點的路由坐標，并根據源節點的路由坐標以及目標節點的路由坐標計算片內跳轉步數；基于片內跳轉步數確定路由跳轉方向，并基于路由跳轉方向，進行路由跳轉。
19、在一個示例性實施例中，基于路由跳轉方向，進行路由跳轉，包括：獲取控制器端口的輸出緩沖長度；在輸出緩沖長度大于第五閾值的情況下，進行反向路由。
20、在一個示例性實施例中，基于片內跳轉步數確定路由跳轉方向，包括：基于片內跳轉步數所處的預設范圍，確定路由跳轉方向，路由跳轉方向包括順時針方向、逆時針方向、對面方向或順時針方向、逆時針方向以及對面方向的組合。
21、在一個示例性實施例中，控制器包括多個加速計算單元組，其中，同一加速計算單元組內的加速計算單元之間通過內部總線依次連接，且通過內部總線連接至同一共享內存，不同加速計算單元組間的加速計算單元相鄰的另一組中加速計算單元通信連接以及位于對面的另一組中的加速計算單元通信連接，基于片內跳轉步數所處的預設范圍，確定路本文檔來自技高網...
【技術保護點】
1.一種用于加速計算的控制器，其特征在于，
2.根據權利要求1所述的控制器，其特征在于，
3.根據權利要求2所述的控制器，其特征在于，
4.根據權利要求1所述的控制器，其特征在于，
5.根據權利要求4所述的控制器，其特征在于，
6.根據權利要求4所述的控制器，其特征在于，
7.根據權利要求4所述的控制器，其特征在于，
8.根據權利要求7所述的控制器，其特征在于，
9.根據權利要求1所述的控制器，其特征在于，
10.根據權利要求1所述的控制器，其特征在于，
11.根據權利要求1所述的控制器，其特征在于，
12.一種加速計算系統，其特征在于，
13.根據權利要求12所述的加速計算系統，其特征在于，
14.根據權利要求12所述的加速計算系統，其特征在于，
15.根據權利要求12所述的加速計算系統，其特征在于，
16.一種控制器內部的路由跳轉方法，其特征在于，
17.根據權利要求16所述的方法，其特
18.根據權利要求16所述的方法，其特征在于，
19.根據權利要求18所述的方法，其特征在于，
20.一種控制器之間的路由跳轉方法，其特征在于，
21.一種加速計算任務的加速計算單元調度方法，其特征在于，
...【技術特征摘要】
1.一種用于加速計算的控制器，其特征在于，
2.根據權利要求1所述的控制器，其特征在于，
3.根據權利要求2所述的控制器，其特征在于，
4.根據權利要求1所述的控制器，其特征在于，
5.根據權利要求4所述的控制器，其特征在于，
6.根據權利要求4所述的控制器，其特征在于，
7.根據權利要求4所述的控制器，其特征在于，
8.根據權利要求7所述的控制器，其特征在于，
9.根據權利要求1所述的控制器，其特征在于，
10.根據權利要求1所述的控制器，其特征在于，
11.根據權利要求1所述的控制器，其特征在于，<...
【專利技術屬性】
技術研發人員：張闖，
申請(專利權)人：蘇州元腦智能科技有限公司，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。