【技術實現步驟摘要】
本申請屬于人工智能，尤其涉及一種問答方法、裝置、電子設備及存儲介質。
技術介紹
1、根據國家《生成式人工智能服務管理暫行辦法》，大語言模型(large?languagemodel，簡稱llm)回答用戶的問題時，必須滿足無害、誠實、有幫助等國家要求。
2、由于llm本身存在“幻覺”和不確定性的問題，因此，僅靠llm自身的能力，難以保證llm的輸出符合上述國家要求。為此，業界亟需一種安全防護方案，保證llm的輸出符合國家要求。
技術實現思路
1、本申請實施例的目的是提供一種問答方法、裝置、電子設備及存儲介質，以解決相關技術中難以保證llm的輸出符合國家要求的問題。
2、為實現上述目的，本申請實施例采用下述技術方案：
3、第一方面，本申請實施例提供一種問答方法，包括：獲取用戶輸入的問題；對所述問題進行風險識別，得到所述問題的風險類型，所述風險類型包括有風險或無風險；若所述風險類型為有風險，則將所述問題輸入至安全問答模型中，得到所述安全問答模型輸出的第一回答，并將所述第一回答確定為所述問題的目標回答，所述安全問答模型是根據安全的訓練數據集訓練得到的，所述安全的訓練數據集包括多個安全的訓練問題，以及對應的多個安全和不安全的訓練回答；若所述風險類型為無風險，則將所述問題輸入至大語言模型中，得到所述大語言模型輸出的第二回答，并根據所述第二回答確定所述問題的目標回答。
4、第二方面，本申請實施例提供一種問答裝置，包括：獲取模塊，用于獲取用戶輸入的問題
5、第三方面，本申請實施例提供一種電子設備，包括：處理器，存儲器及存儲在所述存儲器上并可在所述處理器上運行的程序或指令，所述程序或指令被所述處理器執行時實現如本申請第一方面實施例所述方法的步驟。
6、第四方面，本申請實施例提供一種可讀存儲介質，所述可讀存儲介質上存儲程序或指令，所述程序或指令被處理器執行時實現如本申請第一方面實施例所述方法的步驟。
7、本申請實施例采用的上述至少一個技術方案能夠達到以下有益效果：
8、本申請實施例在利用大語言模型回答問題時，獲取用戶輸入的問題，對問題進行風險識別，得到問題的風險類型，風險類型包括有風險或無風險，若風險類型為有風險，則將問題輸入至安全問答模型中，得到安全問答模型輸出的第一回答，并將第一回答確定為該問題的目標回答，安全問答模型是根據安全的訓練數據集訓練得到的，安全的訓練數據集包括多個安全的訓練問題，以及對應的多個安全和不安全的訓練回答，若風險類型為無風險，則將問題輸入至大語言模型中，得到大語言模型輸出的第二回答，并根據第二回答確定問題的目標回答。本申請實施例在問題輸入大語言模型前，先對問題進行風險識別，只將無風險的問題輸入至大語言模型進行回答，一定程度上保證了llm的輸出符合國家要求。
本文檔來自技高網...【技術保護點】
1.一種問答方法，其特征在于，包括：
2.根據權利要求1所述的方法，其特征在于，所述安全問答模型是根據所述安全的訓練數據集，對所述大語言模型進行訓練得到的。
3.根據權利要求2所述的方法，其特征在于，所述安全問答模型是根據所述安全的訓練數據集，采用人類反饋強化學習或直接偏好優化算法對所述大語言模型進行訓練得到的。
4.根據權利要求1所述的方法，其特征在于，所述對所述問題進行風險識別之前，還包括：
5.根據權利要求1所述的方法，其特征在于，所述根據所述第二回答確定所述問題的目標回答，包括：
6.根據權利要求5所述的方法，其特征在于，所述對所述第二回答進行安全檢測，得到所述第二回答的安全類型，包括：
7.根據權利要求1所述的方法，其特征在于，所述對所述問題進行風險識別，得到所述問題的風險類型，包括：
8.一種問答裝置，其特征在于，包括：
9.一種電子設備，其特征在于，包括處理器，存儲器及存儲在所述存儲器上并可在所述處理器上運行的程序或指令，所述程序或指令被所述處理器執行時實現如權利要求1-
10.一種可讀存儲介質，其特征在于，所述可讀存儲介質上存儲程序或指令，所述程序或指令被處理器執行時實現如權利要求1-7任一項所述的方法的步驟。
...【技術特征摘要】
1.一種問答方法，其特征在于，包括：
2.根據權利要求1所述的方法，其特征在于，所述安全問答模型是根據所述安全的訓練數據集，對所述大語言模型進行訓練得到的。
3.根據權利要求2所述的方法，其特征在于，所述安全問答模型是根據所述安全的訓練數據集，采用人類反饋強化學習或直接偏好優化算法對所述大語言模型進行訓練得到的。
4.根據權利要求1所述的方法，其特征在于，所述對所述問題進行風險識別之前，還包括：
5.根據權利要求1所述的方法，其特征在于，所述根據所述第二回答確定所述問題的目標回答，包括：
6.根據權利要求5所述的方法，其特...
【專利技術屬性】
技術研發人員：李濤，張旭，
申請(專利權)人：麒麟合盛網絡技術股份有限公司，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。