【技術實現步驟摘要】
本專利技術涉及信息安全，特別是涉及一種基于芯片的數據加密傳輸系統。
技術介紹
1、在大模型權重數據加密傳輸的應用場景下，本專利技術實施例一及實施例二提供了用于數據加密傳輸的芯片以及數據加密傳輸方法，能夠有效避免客戶端client直接讀取到所傳輸的數據，本專利技術實施例三提供了一種基于芯片的簽名驗證方法，能夠有效避免客戶端client通過篡改推理服務程序kernel的方式進行數據竊取，本專利技術實施例四提供一種基于芯片的頁表檢查方法，能夠有效避免客戶端client通過篡改頁表的方式進行數據竊取。
2、但是，上述方法均以數據傳輸安全性較高為前提，在使用gddr、ddr等容易在數據傳輸過程中被截取的安全性較差的顯存時，采用上述方法實際上難以保證數據傳輸的安全性。
3、因此，如何在顯存安全性較低的情況下，保證大模型權重數據傳輸及私有化部署使用的安全性，成為了亟待解決的問題。
技術實現思路
1、針對上述技術問題，本專利技術實施例五提供了一種基于芯片的數據加密傳輸系統，所述系統包括cpu模塊和gpu模塊，其中，cpu模塊包括主存，gpu模塊包括核心計算單元xcore、安全管理單元smp和gddr顯存。
2、所述主存用于存儲密文數據xdata和推理服務程序kernel。
3、所述gddr顯存包括隱私區域和共享區域，所述共享區域與所述主存通信，以獲取所述密文數據xdata。
4、所述共享區域用于存儲所述密文數據xdata、待驗簽的環形緩沖
5、所述隱私區域用于存儲經驗簽的環形緩沖區對應的推理服務程序kernel，所述經驗簽的環形緩沖區為所述安全管理單元smp對所述待驗簽的環形緩沖區進行簽名驗證通過的結果。
6、所述核心計算單元xcore包括共享存儲，所述共享存儲用于存儲解密數據ydata，所述解密數據ydata由所述核心計算單元xcore對所述密文數據xdata解密得到。
7、本專利技術與現有技術相比具有明顯的有益效果，借由上述技術方案，本專利技術提供的一種基于芯片的數據加密傳輸系統可達到相當的技術進步性及實用性，并具有產業上的廣泛利用價值，其至少具有以下有益效果：
8、本專利技術提供了一種基于芯片的數據加密傳輸系統，所述系統包括cpu模塊和gpu模塊，其中，cpu模塊包括主存，gpu模塊包括核心計算單元xcore、安全管理單元smp和gddr顯存。
9、所述主存用于存儲密文數據xdata和推理服務程序kernel。
10、所述gddr顯存包括隱私區域和共享區域，所述共享區域與所述主存通信，以獲取所述密文數據xdata。
11、所述共享區域用于存儲所述密文數據xdata、待驗簽的環形緩沖區，所述待驗簽的環形緩沖區由所述cpu模塊對所述推理服務程序kernel處理得到，再發送至所述共享區域。
12、所述隱私區域用于存儲經驗簽的環形緩沖區對應的推理服務程序kernel，所述經驗簽的環形緩沖區為所述安全管理單元smp對所述待驗簽的環形緩沖區進行簽名驗證通過的結果。
13、所述核心計算單元xcore包括共享存儲，所述共享存儲用于存儲解密數據ydata，所述解密數據ydata由所述核心計算單元xcore對所述密文數據xdata解密得到。
14、可知，針對于gpu模塊使用gddr顯存等安全性較差顯存的情況，由于gddr的數據傳輸過程易被竊取，因此默認gddr顯存是不夠安全的，在此類情況下，禁止核心計算單元xcore與主存通信，以避免核心計算單元xcore直接將解密后的數據寫出到不安全的主存中，并且，區別與上述實施例，隱私區域僅用于存儲推理服務程序kernel，而不存儲解密后的數據，從而避免了解密后的數據在gddr顯存上被讀取的情況，需要說明的是，在應用于大模型權重數據時，由于核心計算單元xcore需要頻繁地換入換出，而共享存儲僅能存儲少量數據，因此在換入換出時，需要重新解密以獲取新數據，從而導致會犧牲部分推理效率，但能夠有效在安全性較差的顯存環境下提高數據的安全性。
本文檔來自技高網...【技術保護點】
1.一種基于芯片的數據加密傳輸系統，其特征在于，所述系統包括CPU模塊和GPU模塊，其中，CPU模塊包括主存，GPU模塊包括核心計算單元Xcore、安全管理單元SMP和GDDR顯存；
2.根據權利要求1所述的基于芯片的數據加密傳輸系統，其特征在于，主存還用于存儲簽名密文，所述簽名密文用于提供給所述安全管理單元SMP，以對所述待驗簽的環形緩沖區進行簽名驗證。
3.根據權利要求1所述的基于芯片的數據加密傳輸系統，其特征在于，GPU模塊還包括數據傳輸單元DMA，所述數據傳輸單元DMA用于進行所述主存和所述共享區域之間的數據傳輸。
4.根據權利要求1所述的基于芯片的數據加密傳輸系統，其特征在于，所述共享區域還用于存儲頁表、所述核心計算單元Xcore的計算中間數據和多卡推理中間數據。
5.根據權利要求1所述的基于芯片的數據加密傳輸系統，其特征在于，所述安全管理單元SMP和所述核心計算單元Xcore均僅與所述GDDR顯存連接。
6.根據權利要求1所述的基于芯片的數據加密傳輸系統，其特征在于，所述安全管理單元SMP還用于將所述GDDR
7.根據權利要求1所述的基于芯片的數據加密傳輸系統，其特征在于，所述共享區域通過PCIe與所述主存通信。
...【技術特征摘要】
1.一種基于芯片的數據加密傳輸系統，其特征在于，所述系統包括cpu模塊和gpu模塊，其中，cpu模塊包括主存，gpu模塊包括核心計算單元xcore、安全管理單元smp和gddr顯存；
2.根據權利要求1所述的基于芯片的數據加密傳輸系統，其特征在于，主存還用于存儲簽名密文，所述簽名密文用于提供給所述安全管理單元smp，以對所述待驗簽的環形緩沖區進行簽名驗證。
3.根據權利要求1所述的基于芯片的數據加密傳輸系統，其特征在于，gpu模塊還包括數據傳輸單元dma，所述數據傳輸單元dma用于進行所述主存和所述共享區域之間的數據傳輸。
4.根據權...
【專利技術屬性】
技術研發人員：李兆石，費菲，劉曉青，付軒，
申請(專利權)人：沐曦科技北京有限公司，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。