【技術實現步驟摘要】
本申請涉及檢測金融領域大模型輸入輸出的，具體而言，涉及一種檢測金融領域大模型輸入輸出的方法、裝置、計算機可讀存儲介質與電子設備。
技術介紹
1、隨著技術進步，以大模型為代表的前沿科技能夠支撐普惠金融領域的方式創新、服務創新、產品創新，進一步提升普惠金融領域智能化水平，為領域發展注入新動能。
2、大模型技術屬于人工智能技術的新突破，其語義理解能力、內容生成能力有助于提升普惠金融科技水平，但其在普惠金融領域應用方面仍面臨著挑戰。大模型是不可見的黑箱，結構復雜且參數量龐大，存在可解釋性差、輸出不可控的問題，模型輸出可能會產生不符合事實、含有偏見、不符合倫理規范、不符合法律規定等問題，使得普惠金融科技領域應用大模型技術面臨嚴峻挑戰。
3、現有內容審核場景主要偏向于互聯網社區、博客等的內容安全審核，審核重點偏向于違禁事件等通用內容，未有金融領域相關內容審核，不滿足金融領域對于輸出內容準確性高的要求；另一方面，現有內容審核多采用傳統規則匹配算法與人工審核打標結合的技術實現，不適用于大模型技術應用場景需要分別考慮輸入、輸出內容的審核，不滿足金融領域對于輸出內容時效性強的要求。
技術實現思路
1、本申請的主要目的在于提供一種檢測金融領域大模型輸入輸出的方法、裝置、計算機可讀存儲介質與電子設備，以至少解決現有技術缺少一種檢測金融領域大模型輸入輸出數據的問題。
2、為了實現上述目的，根據本申請的一個方面，提供了一種檢測金融領域大模型輸入輸出的方法，包括：根據預設規則
3、可選地，至少根據所述第二相似度結果以及所述輸出安全檢測結果確定所述輸出文本是否安全，包括：采用情緒傾向分析模型對所述輸出文本進行情感分析，得到積極情感傾向值，并采用可讀性分析模型對所述輸出文本進行可讀性分析處理，得到可讀等級；獲取預設安全策略，根據所述可讀等級、所述第二相似度結果、所述積極情感傾向值結合所述預設安全策略，確定所述輸出文本的安全指數；根據所述安全指數和所述輸出安全檢測結果確定所述輸出文本是否安全。
4、可選地，根據所述可讀等級、所述第二相似度結果、所述積極情感傾向值結合所述預設安全策略，確定所述輸出文本的安全指數，包括：根據公式：f＝ax+by+cz，確定所述輸出文本的所述安全指數，其中，z為所述安全指數，x為所述可讀等級，y為所述第二相似度結果，z為所述積極情感傾向值，a、b、c為權重系數，且a+b+c＝1。
5、可選地，在根據所述可讀等級、所述第二相似度結果、所述積極情感傾向值結合所述預設安全策略，確定所述輸出文本的安全指數之后，所述方法還包括：確定所述安全指數是否大于設定閾值；在確定所述安全指數小于或等于所述設定閾值的情況下，確定所述金融大模型的所述輸出文本不適合輸出。
6、可選地，在根據所述第一相似度結果和所述輸入安全檢測結果確定所述金融大模型的所述輸入文本是否安全，以及至少根據所述第二相似度結果以及所述輸出安全檢測結果確定所述輸出文本是否安全之后，所述方法還包括：在確定所述金融大模型的所述輸入文本不安全的情況下，根據所述第一相似度結果或所述輸入安全檢測結果生成預設輸入文本；在確定所述金融大模型的所述輸出文本不安全的情況下，根據所述向量數據庫對所述輸出高維向量進行相似度檢索處理，生成第三相似度結果，根據所述第三相似度結果或所述輸出安全檢測結果生成預設輸出文本。
7、可選地，分別將所述輸入文本和所述輸出文本輸入安全大模型中，得到輸入安全檢測結果和輸出安全檢測結果，包括：獲取預設分類策略，根據所述預設分類策略對所述輸入文本和所述輸出文本進行分類處理，得到輸入prompt和輸出prompt，其中，所述預設分類策略包括預設輸入分類策略和預設輸出分類策略；將所述輸入prompt和所述輸出prompt輸入所述安全大模型中，得到所述輸入安全檢測結果和所述輸出安全檢測結果。
8、可選地，所述安全大模型為采用金融領域安全數據對chatglm2-6b模型訓練得到的。
9、根據本申請的另一方面，提供了一種檢測金融領域大模型輸入輸出的裝置，包括：處理單元，用于根據預設規則將金融大模型的輸入文本的特定信息進行替換處理，得到目標文本，并分別對所述目標文本和所述金融大模型的輸出文本進行轉換處理，得到輸入高維向量和輸出高維向量，根據向量數據庫對所述輸入高維向量進行相似度檢索處理，生成第一相似度結果；計算單元，用于采用相似度計算公式計算所述輸入高維向量和所述輸出高維向量的相似度，得到第二相似度結果，并分別將所述輸入文本和所述輸出文本輸入安全大模型中，得到輸入安全檢測結果和輸出安全檢測結果；確定單元，用于根據所述第一相似度結果和所述輸入安全檢測結果確定所述金融大模型的所述輸入文本是否安全，以及至少根據所述第二相似度結果以及所述輸出安全檢測結果確定所述輸出文本是否安全。
10、根據本申請的再一方面，提供了一種計算機可讀存儲介質，所述計算機可讀存儲介質包括存儲的程序，其中，在所述程序運行時控制所述計算機可讀存儲介質所在設備執行任意一種所述的檢測金融領域大模型輸入輸出的方法。
11、根據本申請的又一方面，提供了一種電子設備，包括：一個或多個處理器，存儲器，以及一個或多個程序，其中，所述一個或多個程序被存儲在所述存儲器中，并且被配置為由所述一個或多個處理器執行，所述一個或多個程序包括用于執行任意一種所述的檢測金融領域大模型輸入輸出的方法。
12、應用本申請的技術方案，根據預設規則將金融大模型的輸入文本的特定信息進行替換處理，得到目標文本，并分別對目標文本和金融大模型的輸出文本進行轉換處理，得到輸入高維向量和輸出高維向量，根據向量數據庫對輸入高維向量進行相似度檢索處理，生成第一相似度結果；采用相似度計算公式計算輸入高維向量和輸出高維向量的相似度，得到第二相似度結果，并分別將輸入文本和輸出文本輸入安全大模型中，得到輸入安全檢測結果和輸出安全檢測結果；根據第一相似度結果和輸入安全檢測結果確定金融大模型的輸入文本是否安全，以及至少根據第二相似度結果以及輸出安全檢測結果確定輸出文本是否安全。本方案通過向量數據庫技術對已知的敏感信息進行快速檢測，以識別潛在的安全風險，并通過安全大模型檢測靈活性問答的安全性，這種雙重檢測機制使得檢測過程更加全面、細致，解決了現有技術缺少一種檢測金融領域大本文檔來自技高網...
【技術保護點】
1.一種檢測金融領域大模型輸入輸出的方法，其特征在于，包括：
2.根據權利要求1所述的方法，其特征在于，至少根據所述第二相似度結果以及所述輸出安全檢測結果確定所述輸出文本是否安全，包括：
3.根據權利要求2所述的方法，其特征在于，根據所述可讀等級、所述第二相似度結果、所述積極情感傾向值結合所述預設安全策略，確定所述輸出文本的安全指數，包括：
4.根據權利要求2所述的方法，其特征在于，在根據所述可讀等級、所述第二相似度結果、所述積極情感傾向值結合所述預設安全策略，確定所述輸出文本的安全指數之后，所述方法還包括：
5.根據權利要求1所述的方法，其特征在于，在根據所述第一相似度結果和所述輸入安全檢測結果確定所述金融大模型的所述輸入文本是否安全，以及至少根據所述第二相似度結果以及所述輸出安全檢測結果確定所述輸出文本是否安全之后，所述方法還包括：
6.根據權利要求1所述的方法，其特征在于，分別將所述輸入文本和所述輸出文本輸入安全大模型中，得到輸入安全檢測結果和輸出安全檢測結果，包括：
7.根據權利要求1所述的方法，其特
8.一種檢測金融領域大模型輸入輸出的裝置，其特征在于，包括：
9.一種計算機可讀存儲介質，其特征在于，所述計算機可讀存儲介質包括存儲的程序，其中，在所述程序運行時控制所述計算機可讀存儲介質所在設備執行權利要求1至7中任意一項所述的檢測金融領域大模型輸入輸出的方法。
10.一種電子設備，其特征在于，包括：一個或多個處理器，存儲器，以及一個或多個程序，其中，所述一個或多個程序被存儲在所述存儲器中，并且被配置為由所述一個或多個處理器執行，所述一個或多個程序包括用于執行權利要求1至7中任意一項所述的檢測金融領域大模型輸入輸出的方法。
...【技術特征摘要】
1.一種檢測金融領域大模型輸入輸出的方法，其特征在于，包括：
2.根據權利要求1所述的方法，其特征在于，至少根據所述第二相似度結果以及所述輸出安全檢測結果確定所述輸出文本是否安全，包括：
3.根據權利要求2所述的方法，其特征在于，根據所述可讀等級、所述第二相似度結果、所述積極情感傾向值結合所述預設安全策略，確定所述輸出文本的安全指數，包括：
4.根據權利要求2所述的方法，其特征在于，在根據所述可讀等級、所述第二相似度結果、所述積極情感傾向值結合所述預設安全策略，確定所述輸出文本的安全指數之后，所述方法還包括：
5.根據權利要求1所述的方法，其特征在于，在根據所述第一相似度結果和所述輸入安全檢測結果確定所述金融大模型的所述輸入文本是否安全，以及至少根據所述第二相似度結果以及所述輸出安全檢測結果確定所述輸出文本是否安全之后，所述方法還包括：
6.根據權利要求...
【專利技術屬性】
技術研發人員：陸俊，張希鵬，安迪，陳鵬，侯君達，李鸞，劉暢，王寧，
申請(專利權)人：中國郵政儲蓄銀行股份有限公司，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。