【技術實現步驟摘要】
本專利技術涉及人工智能，尤其涉及一種生成式大模型推理結果的驗證方法及驗證系統。
技術介紹
1、大語言模型(large?language?model，llm)今年來在自然語言處理(naturallanguage?processing，nlp)領域取得了顯著的進步。然而，大語言模型中具有若干模型，驗證大語言模型的推理過程是否在預期的模型中進行，尤其是在特定領域知識的模型中，是一個亟待解決的問題。
2、目前現有技術通常關注于推理結果的準確性，缺乏對推理過程本身的驗證，并且缺乏對隱私的保護和數據的完整性。
3、因此，有必要提供一種新型的生成式大模型推理結果的驗證方法及驗證系統以解決現有技術中存在的上述部分問題。
技術實現思路
1、本專利技術的目的在于提供一種生成式大模型推理結果的驗證方法及驗證系統，以實現對生成式大模型推理過程和推理結果的驗證。
2、為實現上述目的，本專利技術的所述生成式大模型推理結果的驗證方法，包括以下步驟：
3、s1：獲取大型語言模型推理過程的證據鏈，所述證據鏈包括輸入數據、若干中間結果數據、若干權重數據、若干算法隨機選擇數及推理結果；
4、s2：根據所述證據鏈和目標模型數據復現所述大型語言模型的推理過程，并且在復現所述大型語言模型的推理過程時將每一步驟得到的中間結果數據與所述證據鏈中對應的中間結果數據進行比較，以得到對比結果，并在判斷所述對比結果滿足驗證條件后，復現所述大型語言模型的推理過程的下一步驟；>
5、s3：在復現所述大型語言模型的推理過程的全部步驟后，將復現所述大型語言模型的推理過程時得到的推理結果與所述證據鏈中的推理結果進行比較，以完成對所述證據鏈中的推理結果的驗證。
6、所述生成式大模型推理結果的驗證方法的有益效果在于：獲取大型語言模型推理過程的證據鏈，根據所述證據鏈和目標模型數據復現所述大型語言模型的推理過程，并且在復現所述大型語言模型的推理過程時將每一步驟得到的中間結果數據與所述證據鏈中對應的中間結果數據進行比較，以得到對比結果，并在判斷所述對比結果滿足驗證條件后，復現所述大型語言模型的推理過程的下一步驟，能夠完成對生成式大模型推理過程的驗證，在復現所述大型語言模型的推理過程的全部步驟后，將復現所述大型語言模型的推理過程時得到的推理結果與所述證據鏈中的推理結果進行比較，以完成對所述證據鏈中的推理結果的驗證，保證了對生成式大模型推推理結果的驗證。
7、可選地，所述大型語言模型的推理過程包括以下步驟：
8、s11：將所述輸入數據轉化為數字編碼；
9、s12：將所述數字編碼轉化為推理模型認可的數字編碼序列；
10、s13：所述推理模型根據所述數字編碼序列預測新數字編碼序列；
11、s14：根據映射表將所述新數字編碼序列轉換為所述推理結果。
12、可選地，步驟s12和步驟s13均包括若干子步驟。
13、可選地，步驟s1中，獲取大型語言模型推理過程的證據鏈，包括：
14、獲取大型語言模型在步驟s12和步驟s13的證據鏈。其有益效果在于：能夠在保證不影響復現所述大型語言模型推理過程的前提下，有效減少所述證據鏈的大小以及計算量。
15、可選地，所述生成式大模型推理結果的驗證方法，還包括：
16、根據所述證據鏈形成梅克爾帕特里夏樹；
17、將所述梅克爾帕特里夏樹的根節點傳輸至可信平臺進行存儲。
18、可選地，所述生成式大模型推理結果的驗證方法，還包括：
19、對所述梅克爾帕特里夏樹的根節點進行加密，以得到加密值，然后將所述加密值傳輸至可信平臺進行存儲；
20、所述加密包括通過加密公式對所述根節點進行加密，以得到加密值，所述加密公式為c＝gv×hr，c為加密值，g和h為橢圓曲線上的生成元，v為根節點。
21、可選地，所述生成式大模型推理結果的驗證方法還包括：
22、執行步驟s1至步驟s3時，采用可信執行環境或零知識證明，以保護所述大型語言模型和所述目標模型數據的隱私。
23、可選地，，所述大型語言模型的推理過程包括多頭注意力機制算法和多智能體算法中的至少一種，獲取多頭注意力機制算法和多智能體算法中未被丟棄的結果形成所述證據鏈。
24、可選地，將復現所述大型語言模型的推理過程時得到的推理結果與所述證據鏈中的推理結果進行比較，包括：
25、判斷復現所述大型語言模型的推理過程時得到的推理結果是否包含時間戳信息；
26、若判斷復現所述大型語言模型的推理過程時得到的推理結果不包含時間戳信息，則計算復現所述大型語言模型的推理過程時得到的推理結果的哈希值以及所述證據鏈中的推理結果的哈希值；
27、將復現所述大型語言模型的推理過程時得到的推理結果的哈希值與所述證據鏈中的推理結果的哈希值進行對比，若復現所述大型語言模型的推理過程時得到的推理結果的哈希值與所述證據鏈中的推理結果的哈希值相同，則驗證通過。
28、本專利技術還提供了一種生成式大模型推理結果的驗證系統，包括獲取單元、復現單元和比較單元，所述獲取單元用于獲取大型語言模型推理過程的證據鏈，所述證據鏈包括輸入數據、若干中間結果數據、若干權重數據、若干算法隨機選擇數及推理結果；所述復現單元用于根據所述證據鏈和目標模型數據復現所述大型語言模型的推理過程，并且在復現所述大型語言模型的推理過程時將每一步驟得到的中間結果數據與所述證據鏈中對應的中間結果數據進行比較，以得到對比結果，并在判斷所述對比結果滿足驗證條件后，復現所述大型語言模型的推理過程的下一步驟；所述比較單元用于在所述復現單元復現所述大型語言模型的推理過程的全部步驟后，將復現所述大型語言模型的推理過程時得到的推理結果與所述證據鏈中的推理結果進行比較，以完成對所述證據鏈中的推理結果的驗證。
29、所述生成式大模型推理結果的驗證系統的有益效果在于：所述獲取單元用于獲取大型語言模型推理過程的證據鏈，所述復現單元用于根據所述證據鏈和目標模型數據復現所述大型語言模型的推理過程，并且在復現所述大型語言模型的推理過程時將每一步驟得到的中間結果數據與所述證據鏈中對應的中間結果數據進行比較，以得到對比結果，并在判斷所述對比結果滿足驗證條件后，復現所述大型語言模型的推理過程的下一步驟，能夠完成對生成式大模型推理過程的驗證，所述比較單元用于在所述復現單元復現所述大型語言模型的推理過程的全部步驟后，將復現所述大型語言模型的推理過程時得到的推理結果與所述證據鏈中的推理結果進行比較，以完成對所述證據鏈中的推理結果的驗證，保證了對生成式大模型推推理結果的驗證。
本文檔來自技高網...【技術保護點】
1.一種生成式大模型推理結果的驗證方法，其特征在于，包括以下步驟：
2.根據權利要求1所述的生成式大模型推理結果的驗證方法，其特征在于，所述大型語言模型的推理過程包括以下步驟：
3.根據權利要求2所述的生成式大模型推理結果的驗證方，其特征在于，步驟S12和步驟S13均包括若干子步驟。
4.根據權利要求3所述的生成式大模型推理結果的驗證方法，其特征在于，步驟S1中，獲取大型語言模型推理過程的證據鏈，包括：
5.根據權利要求1所述的生成式大模型推理結果的驗證方法，其特征在于，還包括：
6.根據權利要求5所述的生成式大模型推理結果的驗證方法，其特征在于，還包括：
7.根據權利要求1所述的生成式大模型推理結果的驗證方法，其特征在于，還包括：
8.根據權利要求1所述的生成式大模型推理結果的驗證方法，其特征在于，所述大型語言模型的推理過程包括多頭注意力機制算法和多智能體算法中的至少一種，獲取多頭注意力機制算法和多智能體算法中未被丟棄的結果形成所述證據鏈。
9.根據權利要求1所述的生成式大模型推理結
10.一種生成式大模型推理結果的驗證系統，其特征在于，包括獲取單元、復現單元和比較單元，所述獲取單元用于獲取大型語言模型推理過程的證據鏈，所述證據鏈包括輸入數據、若干中間結果數據、若干權重數據、若干算法隨機選擇數及推理結果；所述復現單元用于根據所述證據鏈和目標模型數據復現所述大型語言模型的推理過程，并且在復現所述大型語言模型的推理過程時將每一步驟得到的中間結果數據與所述證據鏈中對應的中間結果數據進行比較，以得到對比結果，并在判斷所述對比結果滿足驗證條件后，復現所述大型語言模型的推理過程的下一步驟；所述比較單元用于在所述復現單元復現所述大型語言模型的推理過程的全部步驟后，將復現所述大型語言模型的推理過程時得到的推理結果與所述證據鏈中的推理結果進行比較，以完成對所述證據鏈中的推理結果的驗證。
...【技術特征摘要】
1.一種生成式大模型推理結果的驗證方法，其特征在于，包括以下步驟：
2.根據權利要求1所述的生成式大模型推理結果的驗證方法，其特征在于，所述大型語言模型的推理過程包括以下步驟：
3.根據權利要求2所述的生成式大模型推理結果的驗證方，其特征在于，步驟s12和步驟s13均包括若干子步驟。
4.根據權利要求3所述的生成式大模型推理結果的驗證方法，其特征在于，步驟s1中，獲取大型語言模型推理過程的證據鏈，包括：
5.根據權利要求1所述的生成式大模型推理結果的驗證方法，其特征在于，還包括：
6.根據權利要求5所述的生成式大模型推理結果的驗證方法，其特征在于，還包括：
7.根據權利要求1所述的生成式大模型推理結果的驗證方法，其特征在于，還包括：
8.根據權利要求1所述的生成式大模型推理結果的驗證方法，其特征在于，所述大型語言模型的推理過程包括多頭注意力機制算法和多智能體算法中的至少一種，獲取多頭注意力機制算法和多智能體算法中未...
【專利技術屬性】
技術研發人員：胡凝，
申請(專利權)人：上海桐識信息科技有限公司，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。