本申請公開了一種智能問答方法、裝置、設備及介質。通過迭代生成token的方式生成目標答案，避免一次性生成帶來的計算復雜性和資源消耗。在確定參考文檔中僅存在一個與參考token匹配的第一片段時，獲取該第一片段之后的第二片段，以使檢索問答模型可以進一步結合該第二片段，即結合該第一片段的下文信息，生成預測片段，提高了該預測片段與問詢文本相關的關聯性，后續基于該預測片段所確定的有效片段具有更強的溯源性。在確定參考文檔中僅存在一個第一片段的情況下，該檢索問答模型可以基于問詢文本、所述問答指令、所述參考文檔、參考token和第二片段，生成預測片段，實現一次迭代進行多個token的生成，提高目標答案的生成效率。
【技術實現步驟摘要】
本申請涉及檢索問答及深度學習，尤其涉及一種智能問答方法、裝置、設備及介質。
技術介紹
1、隨著信息技術的飛速發展，特別是大數據和人工智能技術的廣泛應用，檢索問答(rag,retrieval-augmented?generation)系統作為一種新興的自然語言處理(nlp)技術，逐漸在醫療、法律、搜索等多個專業領域展現出其獨特的優勢。rag系統通過結合檢索技術與生成模型，能夠針對特定領域或高度專業化的查詢，快速提供準確且最新的答案，有效應對了信息快速演變的挑戰。在rag系統的技術架構中，檢索模塊負責從龐大的文檔庫中高效召回與用戶問題高度相關的文檔片段，而問答模塊則基于這些相關文檔，利用預訓練的大模型生成答案。這一模式不僅保證了答案的實時性和準確性，還賦予了系統處理復雜、專業查詢的能力。
2、然而，傳統的檢索問答系統通常依賴于關鍵詞匹配或簡單的語義相似度計算來從參考文檔中檢索相關信息。這種方法在處理復雜問詢或需要深入理解文檔上下文時顯得力不從心，容易導致答案的偏差或遺漏，極大地降低了答案的準確性。
3、并且，隨著數據量的爆炸性增長，如何在海量文本數據中高效檢索并處理相關信息成為了一個亟待解決的問題。傳統的遍歷式檢索方法不僅耗時，而且難以應對實時問答需求。在生成答案的過程中，如果每一步都依賴于復雜的計算或推理，將極大地降低系統的響應速度。
4、基于此，盡管rag系統在特定領域的應用中展現出巨大潛力，但在答案生成效率和準確性方面仍面臨諸多挑戰。
技術實現思路
1、本申請提供了一種智能問答方法、裝置、設備及介質，用于解決現有的智能問答方案存在效率低和準確性差的問題。
2、第一方面，本申請提供了一種智能問答方法，所述方法包括：
3、獲取問詢文本、問答指令以及參考文檔；
4、借助預先訓練的檢索問答模型，基于所述問詢文本、所述問答指令以及所述參考文檔，迭代地生成目標答案中的token，直至生成所述目標答案的結束符；
5、在每次迭代過程中：
6、通過所述檢索問答模型，基于所述問詢文本、所述問答指令、所述參考文檔以及當前已生成的目標答案，對所述當前已生成的目標答案進行更新；其中，首次迭代的當前已生成的目標答案內容為空；
7、確定更新后的目標答案中的參考token；
8、在所述參考文檔中檢索所述參考token；
9、若確定所述參考文檔中僅存在一個與所述參考token匹配的第一片段，則獲取第二片段；其中，所述第二片段為參考句子中所述第一片段之后的片段，所述參考句子為所述第一片段在所述參考文檔所歸屬的句子；通過所述檢索問答模型，基于所述問詢文本、所述問答指令、所述參考文檔、所述更新后的目標答案以及所述第二片段，生成預測片段；基于所述預測片段和所述第二片段之間的差異，確定有效片段；通過將所述有效片段拼接到所述更新后的目標答案之后的方式，確定下一迭代中當前已生成的目標答案；
10、否則，將所述更新后的目標答案確定為下一迭代中當前已生成的目標答案。
11、第二方面，本申請還提供了一種智能問答裝置，所述裝置包括：
12、獲取單元，用于獲取問詢文本、問答指令以及參考文檔；
13、處理單元，用于借助預先訓練的檢索問答模型，基于所述問詢文本、所述問答指令以及所述參考文檔，迭代地生成目標答案中的token，直至生成所述目標答案的結束符；
14、所述處理單元，具體用于在每次迭代過程中：
15、通過所述檢索問答模型，基于所述問詢文本、所述問答指令、所述參考文檔以及當前已生成的目標答案，對所述當前已生成的目標答案進行更新；其中，首次迭代的當前已生成的目標答案內容為空；
16、確定更新后的目標答案中的參考token；
17、在所述參考文檔中檢索所述參考token；
18、若確定所述參考文檔中僅存在一個與所述參考token匹配的第一片段，則獲取第二片段；其中，所述第二片段為參考句子中所述第一片段之后的片段，所述參考句子為所述第一片段在所述參考文檔所歸屬的句子；通過所述檢索問答模型，基于所述問詢文本、所述問答指令、所述參考文檔、所述更新后的目標答案以及所述第二片段，生成預測片段；基于所述預測片段和所述第二片段之間的差異，確定有效片段；通過將所述有效片段拼接到所述更新后的目標答案之后的方式，確定下一迭代中當前已生成的目標答案；
19、否則，將所述更新后的目標答案確定為下一迭代中當前已生成的目標答案。
20、第三方面，本申請提供了一種計算機設備，所述計算機設備包括處理器，所述處理器用于執行存儲器中存儲的計算機程序時實現如上述所述智能問答方法的步驟。
21、第四方面，本申請提供了一種計算機可讀存儲介質，其存儲有計算機程序，所述計算機程序被處理器執行時實現如上述所述智能問答方法的步驟。
22、本申請的有益效果如下：
23、1、通過迭代生成token的方式，檢索問答模型能夠逐步構建目標答案，避免了一次性生成整個答案可能帶來的計算復雜性和資源消耗。
24、2、在每次迭代中，檢索問答模型都會考慮當前已生成的目標答案、問詢文本、問答指令和參考文檔，這有助于提高答案的準確性和相關性。
25、3、在確定參考文檔中僅存在一個與參考token匹配的第一片段時，獲取參考文檔中該第一片段之后的第二片段，以使檢索問答模型可以進一步結合該第二片段，即結合該第一片段的下文信息，生成預測片段，提高了該預測片段與問詢文本相關的關聯性，后續基于該預測片段所確定的有效片段具有更強的溯源性。
26、4、在確定參考文檔中僅存在一個與參考token匹配的第一片段的情況下，該檢索問答模型可以基于問詢文本、所述問答指令、所述參考文檔、參考token以及第二片段，生成預測片段，從而實現一次迭代進行多個token的生成，大大提高了目標答案的生成效率。
27、5、對于參考文檔中存在多個與參考token匹配的第一片段，或，不存在與參考token匹配的第一片段的情況，將更新后的目標答案確定為下一迭代中當前已生成的目標答案，從而保證了即使在沒有足夠上下文信息的情況下，也能繼續生成目標答案，提高了魯棒性。
本文檔來自技高網...
【技術保護點】
1.一種智能問答方法，其特征在于，所述方法包括：
2.如權利要求1所述的方法，其特征在于，所述借助預先訓練的檢索問答模型，基于所述問詢文本、所述問答指令以及所述參考文檔，迭代地生成目標答案中的token，直至生成所述目標答案的結束符之前，所述方法還包括：
3.如權利要求2所述的方法，其特征在于，所述在所述前綴樹中檢索所述參考token，包括：
4.如權利要求3所述的方法，其特征在于，所述獲取第二片段，包括：
5.如權利要求1或4所述的方法，其特征在于，所述借助預先訓練的檢索問答模型，基于所述問詢文本、所述問答指令以及所述參考文檔，迭代地生成目標答案中的token，直至生成所述目標答案的結束符，所述方法還包括：
6.如權利要求4所述的方法，其特征在于，所述確定更新后的目標答案中的參考token，包括：
7.如權利要求6所述的方法，其特征在于，在每次迭代過程中，所述方法還包括：
8.一種智能問答裝置，其特征在于，所述裝置包括：
9.一種計算機設備，其特征在于，所述計算機設備包括處理器，所述處理器用于執行存儲器中存儲的計算機程序時實現如上述權利要求1-7任一所述智能問答方法的步驟。
10.一種計算機可讀存儲介質，其特征在于，其存儲有可由計算機設備執行的計算機程序，當所述程序在計算機設備上運行時，使得所述計算機設備執行如上述權利要求1-7任一所述智能問答方法的步驟。
...
【技術特征摘要】
1.一種智能問答方法，其特征在于，所述方法包括：
2.如權利要求1所述的方法，其特征在于，所述借助預先訓練的檢索問答模型，基于所述問詢文本、所述問答指令以及所述參考文檔，迭代地生成目標答案中的token，直至生成所述目標答案的結束符之前，所述方法還包括：
3.如權利要求2所述的方法，其特征在于，所述在所述前綴樹中檢索所述參考token，包括：
4.如權利要求3所述的方法，其特征在于，所述獲取第二片段，包括：
5.如權利要求1或4所述的方法，其特征在于，所述借助預先訓練的檢索問答模型，基于所述問詢文本、所述問答指令以及所述參考文檔，迭代地生成目標答案中的token，直至生成所述目標答案的結...
【專利技術屬性】
技術研發人員：楊夢詩，劉升平，梁家恩，
申請(專利權)人：云知聲智能科技股份有限公司，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。