【技術(shù)實現(xiàn)步驟摘要】
【國外來華專利技術(shù)】
本公開涉及一種包括存儲器的處理設(shè)備，具體地，涉及一種被配置為從存儲器中被標識的位置發(fā)送和接收數(shù)據(jù)的處理設(shè)備。
技術(shù)介紹
1、處理設(shè)備可以包括執(zhí)行單元和存儲器。執(zhí)行單元能夠執(zhí)行一個或多個程序線程以對從存儲器加載的數(shù)據(jù)執(zhí)行操作以生成結(jié)果，然后將結(jié)果存儲在存儲器中。該結(jié)果可以由執(zhí)行單元進行后續(xù)處理，或者可以從處理設(shè)備發(fā)出。
2、為了增加對運行的應(yīng)用可用的處理能力，多個處理設(shè)備可以連接在一起，并且被配置為在交換它們的結(jié)果之前相互并行地執(zhí)行多個不同類型的操作。在機器智能中可以找到這種并行處理架構(gòu)有用的環(huán)境示例。如機器智能領(lǐng)域的技術(shù)人員所熟悉的，機器智能算法基于對“知識模型”執(zhí)行迭代更新，其中“知識模型”可以由多個互連節(jié)點的圖來表示。每個節(jié)點代表其輸入的函數(shù)。一些節(jié)點接收圖的輸入，一些節(jié)點接收來自一個或多個其他節(jié)點的輸入，而一些節(jié)點的輸出形成其他節(jié)點的輸入，一些節(jié)點的輸出提供圖的輸出(在某些情況下，給定節(jié)點甚至可能具有所有這些：圖的輸入、圖的輸出以及到其他節(jié)點的連接)。此外，每個節(jié)點處的函數(shù)由一個或多個相應(yīng)的參數(shù)(例如權(quán)重)來參數(shù)化。在學(xué)習(xí)階段期間，目標是基于一組經(jīng)驗輸入數(shù)據(jù)來找到各種參數(shù)的值，使得圖作為一個整體將為一系列可能的輸入生成所需的輸出。實現(xiàn)這一點的各種算法在本領(lǐng)域中是已知的，例如基于隨機梯度下降的反向傳播算法。在基于輸入數(shù)據(jù)的多次迭代中，參數(shù)被逐漸調(diào)整以減少它們的誤差，從而圖收斂于解。在隨后的階段中，在給定一組指定輸入的情況下，習(xí)得的模型可以用于預(yù)測輸出，或者在給定一組指定輸出的情況下，對輸入(原因)進行推斷。>
3、在這樣的機器學(xué)習(xí)應(yīng)用中，每個節(jié)點的實施都將涉及數(shù)據(jù)的處理，圖的互連對應(yīng)于節(jié)點之間要交換的數(shù)據(jù)。通常，每個節(jié)點的至少一些處理可以獨立于圖中的一些或所有其他節(jié)點來執(zhí)行，因此大型圖為并行性提供了很大的機會。
4、當(dāng)執(zhí)行涉及多個處理設(shè)備的應(yīng)用時，通常需要在這些設(shè)備之間交換數(shù)據(jù)。當(dāng)發(fā)送數(shù)據(jù)時，處理設(shè)備必須具有識別要被發(fā)送的每個數(shù)據(jù)項存儲在其存儲器中的什么地方的能力。此外，當(dāng)接收數(shù)據(jù)時，處理設(shè)備必須具有識別每個接收到的數(shù)據(jù)項要被存儲在其存儲器中的什么地方的能力。
技術(shù)實現(xiàn)思路
1、為了使處理設(shè)備能夠識別存儲器中用于發(fā)送或存儲數(shù)據(jù)的位置，可以在存儲在處理設(shè)備中的經(jīng)編譯的代碼集中明確地標識存儲器地址。然而，將每個存儲器地址明確地存儲在處理設(shè)備的指令存儲器中需要指令存儲器中大量的存儲空間。希望找到一種方法來減少所需的存儲空間量，同時仍然能夠識別用于發(fā)送和存儲數(shù)據(jù)的存儲器地址。
2、根據(jù)第一方面，提供了一種處理設(shè)備，其包括：存儲器；執(zhí)行單元，被配置為執(zhí)行發(fā)送指令以向處理設(shè)備外部發(fā)送數(shù)據(jù)；發(fā)送引擎，包括：一個或多個寄存器，用于存儲定義可變步幅模式的一個或多個配置值，所述可變步幅模式用于更新指針，所述指針指向存儲器要被訪問的地址以將數(shù)據(jù)發(fā)送到處理設(shè)備外部；以及處理電路，被配置為響應(yīng)于執(zhí)行單元對發(fā)送指令的一個或多個實例的執(zhí)行：使得在存儲器中由指針標識的位置處的多個數(shù)據(jù)項被發(fā)送到處理設(shè)備外部的至少一個目的地；以及在多個數(shù)據(jù)項之一的每次發(fā)送之間，根據(jù)可變步幅模式更新指針，其中執(zhí)行單元被配置為執(zhí)行至少一個指令以更新由發(fā)送引擎使用的可變步幅模式，其中更新可變步幅模式包括響應(yīng)于由執(zhí)行單元執(zhí)行的發(fā)送指令的另外的實例，更新一個或多個配置值中的至少一個配置值以供發(fā)送引擎在執(zhí)行一個或多個后續(xù)發(fā)送時使用。
3、專利技術(shù)人已經(jīng)認識到，對于某些應(yīng)用，保存在處理設(shè)備的存儲器中的應(yīng)用數(shù)據(jù)的部分(例如，作為執(zhí)行單元執(zhí)行的操作的結(jié)果而產(chǎn)生的數(shù)據(jù))在存儲器中以規(guī)則的重復(fù)模式排列，因此，執(zhí)行單元可以建立合適的步幅模式以供發(fā)送引擎使用。發(fā)送引擎在根據(jù)所配置的步幅模式的位置訪問存儲器，以便訪問以規(guī)則模式排列在一起的多個數(shù)據(jù)項。因此，發(fā)送引擎能夠從存儲器中的適當(dāng)位置發(fā)送數(shù)據(jù)，而不需要執(zhí)行單元為要從處理設(shè)備發(fā)送的每個數(shù)據(jù)項提供明確的地址值。以這種方式，實施例提供了一種可以減少用于發(fā)送數(shù)據(jù)的代碼大小的方式。
4、在一些實施例中，所述至少一個指令包括具有組合的發(fā)送和更新功能的指令，當(dāng)由執(zhí)行單元執(zhí)行時，所述指令使得：一個或多個配置值中的至少一個配置值的新值被提供給發(fā)送引擎以供發(fā)送引擎在執(zhí)行一個或多個后續(xù)發(fā)送時使用；以及從存儲器發(fā)送另外的數(shù)據(jù)項。
5、在一些實施例中，當(dāng)由執(zhí)行單元執(zhí)行時，所述至少一個指令使得一個或多個配置值中的至少一個配置值的新值被復(fù)制到一個或多個寄存器的部分，而發(fā)送引擎繼續(xù)使用一個或多個配置值中的至少一個配置值的先前值來更新指針。
6、在一些實施例中，執(zhí)行單元被配置為在將新值復(fù)制到一個或多個寄存器的部分之后，使新值替換先前值以供發(fā)送引擎使用。
7、在一些實施例中，一個或多個配置值中的至少一個配置值包括以下各項中的至少一個：步幅大小值，其定義存儲器中要由發(fā)送引擎連續(xù)發(fā)送的兩個數(shù)據(jù)項之間的間隔；以及重復(fù)值，其定義在應(yīng)用不同大小的步幅之前，發(fā)送引擎應(yīng)用特定大小的步幅的次數(shù)。
8、在一些實施例中，存儲器被配置為存儲經(jīng)編譯的代碼集，經(jīng)編譯的代碼集包括發(fā)送指令的一個或多個實例和用于更新可變步幅模式的至少一個指令的一個或多個實例，其中，經(jīng)編譯的代碼集被排列為使得發(fā)送指令的一個或多個實例中的每一個實例在被分配的時鐘周期期間執(zhí)行，該被分配的時鐘周期是在接收到同步信號之后的預(yù)定數(shù)量的處理器時鐘周期，其中經(jīng)編譯的代碼集被排列為使得用于更新可變步幅模式的至少一個指令的一個或多個實例中的每一個實例在被分配的時鐘周期期間執(zhí)行，該被分配的時鐘周期是在接收到同步信號之后的預(yù)定數(shù)量的處理器時鐘周期。
9、在一些實施例中，處理設(shè)備包括布線，該布線被配置為沿著回送路徑傳輸來自存儲器的要被存儲回存儲器的另外的數(shù)據(jù)，其中發(fā)送引擎的處理電路被配置為，響應(yīng)于執(zhí)行單元對發(fā)送指令的附加一個或多個實例的執(zhí)行：通過經(jīng)由回送路徑以對發(fā)送引擎活動的當(dāng)前可變步幅模式所確定的順序來發(fā)送多個另外的數(shù)據(jù)項，使得該多個另外的數(shù)據(jù)項在存儲器中被重新排列。
10、根據(jù)第二方面，提供了一種處理設(shè)備，其包括：存儲器；執(zhí)行單元；以及接收引擎，包括：一個或多個寄存器，用于存儲定義可變步幅模式的一個或多個配置值，該可變步幅模式用于更新指針，該指針指向存儲器要被訪問的地址以存儲在處理設(shè)備處接收的數(shù)據(jù)；以及處理電路，被配置為響應(yīng)于在處理設(shè)備處接收到多個數(shù)據(jù)項，使得多個數(shù)據(jù)項被存儲在存儲器中由指針標識的位置；并且對于多個數(shù)據(jù)項之一的每次接收和存儲，根據(jù)可變步幅模式更新指針，其中執(zhí)行單元被配置為執(zhí)行至少一個指令來更新由接收引擎使用的可變步幅模式，其中更新可變步幅模式包括更新一個或多個配置值中的至少一個配置值，使得一個或多個配置中的至少一個配置值的新值被接收引擎用于存儲在處理設(shè)備處接收的一個或多個另外的數(shù)據(jù)項。
11、以與發(fā)送類似的方式，執(zhí)行可以設(shè)置供接收引擎使用的步幅模式。接收引擎在接收到多個數(shù)據(jù)項時，使這些數(shù)據(jù)項存儲在存儲器中的根據(jù)所配置的步幅模式確定的位置。數(shù)據(jù)項可以以規(guī)則的重復(fù)模式存儲，該本文檔來自技高網(wǎng)...
【技術(shù)保護點】
1.一種處理設(shè)備，包括：
2.根據(jù)權(quán)利要求1所述的處理設(shè)備，其中所述至少一個指令包括具有組合的發(fā)送和更新功能的指令，當(dāng)由所述執(zhí)行單元執(zhí)行時，所述指令使得：
3.根據(jù)權(quán)利要求1或2所述的處理設(shè)備，其中當(dāng)由所述執(zhí)行單元執(zhí)行時，所述至少一個指令使得所述一個或多個配置值中的至少一個配置值的所述新值被復(fù)制到所述一個或多個寄存器的部分，而所述發(fā)送引擎繼續(xù)使用所述一個或多個配置值中的至少一個配置值的先前值來更新所述指針。
4.根據(jù)權(quán)利要求3所述的處理設(shè)備，其中所述執(zhí)行單元被配置為在將所述新值復(fù)制到所述一個或多個寄存器的所述部分之后，使得所述新值替換所述先前值以供所述發(fā)送引擎使用。
5.根據(jù)前述權(quán)利要求中任一項所述的處理設(shè)備，其中，所述一個或多個配置值中的至少一個配置值包括以下各項中的至少一個：
6.根據(jù)前述權(quán)利要求中任一項所述的處理設(shè)備，其中所述存儲器被配置為存儲經(jīng)編譯的代碼集，所述經(jīng)編譯的代碼集包括所述發(fā)送指令的所述一個或多個實例和用于更新所述可變步幅模式的至少一個指令的一個或多個實例，
7.根據(jù)前述權(quán)利要求中任一項所述
8.一種處理設(shè)備，包括：
9.根據(jù)權(quán)利要求8所述的處理設(shè)備，其中，所述至少一個指令包括具有組合的發(fā)送和更新功能的指令，當(dāng)由所述執(zhí)行單元執(zhí)行時，所述指令使得：
10.根據(jù)權(quán)利要求8或9所述的處理設(shè)備，其中，當(dāng)由所述執(zhí)行單元執(zhí)行時，所述至少一個指令使得所述一個或多個配置值中的至少一個配置值的所述新值被復(fù)制到所述一個或多個寄存器的部分，而所述接收引擎繼續(xù)使用所述一個或多個配置值中的至少一個配置值的先前值來更新所述指針。
11.根據(jù)權(quán)利要求10所述的處理設(shè)備，其中所述執(zhí)行單元被配置為在將所述新值復(fù)制到所述一個或多個寄存器的所述部分之后，使得所述新值替換所述先前值以供所述接收引擎使用。
12.根據(jù)權(quán)利要求8至11中任一項所述的處理設(shè)備，其中所述一個或多個配置值中的至少一個配置值包括以下各項中的至少一個：
13.根據(jù)權(quán)利要求8至12中任一項所述的處理設(shè)備，其中，所述存儲器被配置為存儲經(jīng)編譯的代碼集，所述經(jīng)編譯的代碼集包括用于更新所述可變步幅模式的所述至少一個指令的一個或多個實例，其中，所述經(jīng)編譯的代碼集被排列為使得所述至少一個指令的一個或多個實例中的每一個實例在被分配的時鐘周期期間由所述執(zhí)行單元執(zhí)行，所述被分配的時鐘周期是在所述處理設(shè)備處接收到同步信號之后的預(yù)定數(shù)量的處理器時鐘周期。
14.根據(jù)權(quán)利要求8至13中任一項所述的處理設(shè)備，其中，所述處理設(shè)備包括布線，所述布線被配置為沿著回送路徑傳輸來自所述存儲器的要被存儲回所述存儲器的另外的數(shù)據(jù)，
15.根據(jù)前述權(quán)利要求中任一項所述的處理設(shè)備，其中，所述一個或多個配置值中的至少一個配置值包括多個配置值。
16.根據(jù)權(quán)利要求15所述的處理設(shè)備，其中，所述執(zhí)行單元被配置為在執(zhí)行所述至少一個指令時，更新保存在所述處理設(shè)備的配置寄存器中的比特串，
17.根據(jù)權(quán)利要求16所述的處理設(shè)備，其中所述多個比特子集中的每一個比特子集的長度都比所述多個配置值中的所述比特子集所映射到的與其相關(guān)聯(lián)的一個配置值更短。
18.根據(jù)權(quán)利要求15至17中任一項所述的處理設(shè)備，其中，所述多個配置值包括多個步幅大小值。
19.根據(jù)權(quán)利要求18所述的處理設(shè)備，其中所述多個配置值包括多個重復(fù)值，所述多個重復(fù)值中的每個重復(fù)值與所述步幅大小值之一相關(guān)聯(lián)，并且指定在所述處理電路應(yīng)用不同的一個所述步幅大小值之前，所述步幅大小值中的與其相關(guān)聯(lián)的一個步幅大小值將被應(yīng)用多少次。
20.根據(jù)前述權(quán)利要求中任一項所述的處理設(shè)備，其中，所述一個或多個寄存器是屬于運行在所述執(zhí)行單元上的線程的控制寄存器和狀態(tài)寄存器。
21.一種多片處理單元，其包括根據(jù)前述權(quán)利要求中任一項所述的處理設(shè)備的多個實例，其中，所述處理設(shè)備的所述多個實例中的每一個實例都是片。
22.一種用于從處理設(shè)備發(fā)送數(shù)據(jù)的方法，所述方法包括：
23.一種用于存儲在處理設(shè)備處接收的數(shù)據(jù)的方法，所述方法包括：
24.一種計算機程序，其包括一組計算機可讀指令，當(dāng)由處理設(shè)備的執(zhí)行單元執(zhí)行時，使得執(zhí)行用于從所述處理設(shè)備發(fā)送數(shù)據(jù)的方法，所述方法包括：
25.一種計算機程序，其包括一組計算機可讀指令，當(dāng)由處理設(shè)備的執(zhí)行單元執(zhí)行時，所述計算機可讀指令使得執(zhí)行用于存儲在所述處理設(shè)備處接收的數(shù)據(jù)的方法，...
【技術(shù)特征摘要】
【國外來華專利技術(shù)】
1.一種處理設(shè)備，包括：
2.根據(jù)權(quán)利要求1所述的處理設(shè)備，其中所述至少一個指令包括具有組合的發(fā)送和更新功能的指令，當(dāng)由所述執(zhí)行單元執(zhí)行時，所述指令使得：
3.根據(jù)權(quán)利要求1或2所述的處理設(shè)備，其中當(dāng)由所述執(zhí)行單元執(zhí)行時，所述至少一個指令使得所述一個或多個配置值中的至少一個配置值的所述新值被復(fù)制到所述一個或多個寄存器的部分，而所述發(fā)送引擎繼續(xù)使用所述一個或多個配置值中的至少一個配置值的先前值來更新所述指針。
4.根據(jù)權(quán)利要求3所述的處理設(shè)備，其中所述執(zhí)行單元被配置為在將所述新值復(fù)制到所述一個或多個寄存器的所述部分之后，使得所述新值替換所述先前值以供所述發(fā)送引擎使用。
5.根據(jù)前述權(quán)利要求中任一項所述的處理設(shè)備，其中，所述一個或多個配置值中的至少一個配置值包括以下各項中的至少一個：
6.根據(jù)前述權(quán)利要求中任一項所述的處理設(shè)備，其中所述存儲器被配置為存儲經(jīng)編譯的代碼集，所述經(jīng)編譯的代碼集包括所述發(fā)送指令的所述一個或多個實例和用于更新所述可變步幅模式的至少一個指令的一個或多個實例，
7.根據(jù)前述權(quán)利要求中任一項所述的處理設(shè)備，其中，所述處理設(shè)備包括布線，所述布線被配置為沿著回送路徑傳輸來自存儲器的要被存儲回所述存儲器的另外的數(shù)據(jù)，
8.一種處理設(shè)備，包括：
9.根據(jù)權(quán)利要求8所述的處理設(shè)備，其中，所述至少一個指令包括具有組合的發(fā)送和更新功能的指令，當(dāng)由所述執(zhí)行單元執(zhí)行時，所述指令使得：
10.根據(jù)權(quán)利要求8或9所述的處理設(shè)備，其中，當(dāng)由所述執(zhí)行單元執(zhí)行時，所述至少一個指令使得所述一個或多個配置值中的至少一個配置值的所述新值被復(fù)制到所述一個或多個寄存器的部分，而所述接收引擎繼續(xù)使用所述一個或多個配置值中的至少一個配置值的先前值來更新所述指針。
11.根據(jù)權(quán)利要求10所述的處理設(shè)備，其中所述執(zhí)行單元被配置為在將所述新值復(fù)制到所述一個或多個寄存器的所述部分之后，使得所述新值替換所述先前值以供所述接收引擎使用。
12.根據(jù)權(quán)利要求8至11中任一項所述的處理設(shè)備，其中所述一個或多個配置值中的至少一個配置值包括以下各項中的至少一個：
13.根據(jù)權(quán)利要求8至12中任一項所述的處理設(shè)備，其中，所述存儲器被配置為存儲經(jīng)編譯的代碼集，所述經(jīng)編譯的代碼集包...
【專利技術(shù)屬性】
技術(shù)研發(fā)人員：A·亞歷山大，R·奧斯本，S·切斯尼，E·安德魯斯，
申請(專利權(quán))人：圖核有限公司，
類型：發(fā)明
國別省市：
還沒有人留言評論。發(fā)表了對其他瀏覽者有用的留言會獲得科技券。