【技術(shù)實(shí)現(xiàn)步驟摘要】
本專利技術(shù)涉及自然語言處理?，尤其涉及一種幻覺文本緩解方法、裝置、設(shè)備、存儲介質(zhì)及程序產(chǎn)品。
技術(shù)介紹
1、大型語言模型在文本生成過程中可能產(chǎn)生幻覺現(xiàn)象，即所生成的文本雖具合理性，但卻偏離客觀事實(shí)。這種現(xiàn)象在法律、醫(yī)療、機(jī)器人等關(guān)鍵領(lǐng)域存在潛在風(fēng)險，對大語言模型在實(shí)際場景中的應(yīng)用形成限制。為了提高大語言模型的可靠性，需要對這些幻覺內(nèi)容進(jìn)行緩解。
2、現(xiàn)有技術(shù)中，部分研究致力于在預(yù)訓(xùn)練階段或借助人類反饋的強(qiáng)化學(xué)習(xí)來減輕幻覺，但這些方法成本高昂且具有侵入性。此外，鑒于大語言模型自身的生成特性，完全消除幻覺是無法實(shí)現(xiàn)的。
技術(shù)實(shí)現(xiàn)思路
1、本專利技術(shù)提供一種幻覺文本緩解方法、裝置、設(shè)備、存儲介質(zhì)及程序產(chǎn)品，用以解決現(xiàn)有技術(shù)中消除幻覺的方式不僅成本高昂、具有侵入性而且無法完全消除幻覺的問題。
2、本專利技術(shù)提供一種幻覺文本緩解方法，包括：獲取大語言模型生成的第一幻覺文本；通過基礎(chǔ)修正器對所述第一幻覺文本進(jìn)行修正，得到第二幻覺文本；通過評估器評估所述第二幻覺文本，得到文本評價信息和此次修正過程的質(zhì)量評分；在所述質(zhì)量評分超過預(yù)設(shè)閾值的情況下，將所述第二幻覺文本作為輸出文本；在所述質(zhì)量評分不超過所述預(yù)設(shè)閾值的情況下，基于所述文本評價信息，通過反思器確定緩解策略；根據(jù)所述緩解策略調(diào)整所述基礎(chǔ)修正器的修正策略，并將所述第二幻覺文本重新輸入調(diào)整后的所述基礎(chǔ)修正器中。
3、根據(jù)本專利技術(shù)提供的一種幻覺文本緩解方法，所述通過基礎(chǔ)修正器對所述第一幻覺文本進(jìn)行修正，得到第二
4、根據(jù)本專利技術(shù)提供的一種幻覺文本緩解方法，所述通過評估器評估所述第二幻覺文本，得到文本評價信息和此次修正過程的質(zhì)量評分，包括：分析所述第二幻覺文本與所述第一幻覺文本、所述證據(jù)集的一致性，以確定所述第二幻覺文本滿足準(zhǔn)確性和相關(guān)性的程度；根據(jù)所述第二幻覺文本滿足準(zhǔn)確性和相關(guān)性的程度生成所述質(zhì)量評分。
5、根據(jù)本專利技術(shù)提供的一種幻覺文本緩解方法，所述通過評估器評估所述第二幻覺文本，得到文本評價信息和此次修正過程的質(zhì)量評分，包括：分析所述第二幻覺文本與所述第一幻覺文本、所述證據(jù)集的一致性，以確定所述第二幻覺文本中的可信信息和非可信信息；根據(jù)所述可信信息和所述非可信信息生成文本評價信息；其中，所述可信信息是指滿足準(zhǔn)確性和相關(guān)性的信息，所述非可信信息是指不滿足準(zhǔn)確性或相關(guān)性的信息。
6、根據(jù)本專利技術(shù)提供的一種幻覺文本緩解方法，所述通過基礎(chǔ)修正器對所述第一幻覺文本進(jìn)行修正，得到第二幻覺文本之后，所述方法還包括：通過記憶單元存儲所述第二幻覺文本，得到歷史記憶信息；所述基于所述文本評價信息，通過反思器確定緩解策略，包括：基于所述文本評價信息和所述歷史記憶信息生成所述緩解策略。
7、本專利技術(shù)還提供一種幻覺文本緩解裝置，包括如下模塊：獲取模塊和處理模塊；所述獲取模塊，用于獲取大語言模型生成的第一幻覺文本；所述處理模塊，用于通過基礎(chǔ)修正器對所述第一幻覺文本進(jìn)行修正，得到第二幻覺文本；通過評估器評估所述第二幻覺文本，得到文本評價信息和此次修正過程的質(zhì)量評分；在所述質(zhì)量評分超過預(yù)設(shè)閾值的情況下，將所述第二幻覺文本作為輸出文本；在所述質(zhì)量評分不超過所述預(yù)設(shè)閾值的情況下，基于所述文本評價信息，通過反思器確定緩解策略；根據(jù)所述緩解策略調(diào)整所述基礎(chǔ)修正器的修正策略，并將所述第二幻覺文本重新輸入調(diào)整后的所述基礎(chǔ)修正器中。
8、根據(jù)本專利技術(shù)提供的一種幻覺文本緩解裝置，所述處理模塊，用于基于所述基礎(chǔ)修正器攜帶的證據(jù)集對所述第一幻覺文本的內(nèi)容進(jìn)行錯誤檢測以生成修正策略；根據(jù)所述修正策略對所述第一幻覺文本進(jìn)行修正，得到所述第二幻覺文本。
9、根據(jù)本專利技術(shù)提供的一種幻覺文本緩解裝置，所述處理模塊，用于分析所述第二幻覺文本與所述第一幻覺文本、所述證據(jù)集的一致性，以確定所述第二幻覺文本滿足準(zhǔn)確性和相關(guān)性的程度；根據(jù)所述第二幻覺文本滿足準(zhǔn)確性和相關(guān)性的程度生成所述質(zhì)量評分。
10、根據(jù)本專利技術(shù)提供的一種幻覺文本緩解裝置，所述處理模塊，用于分析所述第二幻覺文本與所述第一幻覺文本、所述證據(jù)集的一致性，以確定所述第二幻覺文本中的可信信息和非可信信息；根據(jù)所述可信信息和所述非可信信息生成文本評價信息；其中，所述可信信息是指滿足準(zhǔn)確性和相關(guān)性的信息，所述非可信信息是指不滿足準(zhǔn)確性或相關(guān)性的信息。
11、根據(jù)本專利技術(shù)提供的一種幻覺文本緩解裝置，所述處理模塊，還用于通過記憶單元存儲所述第二幻覺文本，得到歷史記憶信息；所述處理模塊，用于基于所述文本評價信息和所述歷史記憶信息生成所述緩解策略。
12、本專利技術(shù)還提供一種電子設(shè)備，包括存儲器、處理器及存儲在存儲器上并可在處理器上運(yùn)行的計(jì)算機(jī)程序，所述處理器執(zhí)行所述程序時實(shí)現(xiàn)如上述任一種所述幻覺文本緩解方法。
13、本專利技術(shù)還提供一種非暫態(tài)計(jì)算機(jī)可讀存儲介質(zhì)，其上存儲有計(jì)算機(jī)程序，該計(jì)算機(jī)程序被處理器執(zhí)行時實(shí)現(xiàn)如上述任一種所述幻覺文本緩解方法。
14、本專利技術(shù)還提供一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，所述計(jì)算機(jī)程序被處理器執(zhí)行時實(shí)現(xiàn)如上述任一種所述幻覺文本緩解方法。
15、本專利技術(shù)提供的幻覺文本緩解方法、裝置、設(shè)備、存儲介質(zhì)及程序產(chǎn)品，可以先通過基礎(chǔ)修正器修正第一幻覺文本中的幻覺內(nèi)容，然后在文本不滿足質(zhì)量要求的情況下，通過反思器調(diào)整基礎(chǔ)修正器的修正策略，并對文本進(jìn)行迭代處理，如此，不僅可以緩解大語言模型輸出的幻覺問題，提升模型輸出的可信性，而且可以避免通過改進(jìn)大語言模型造成的成本高昂、具有侵入性且無法完全消除幻覺的問題。
本文檔來自技高網(wǎng)...【技術(shù)保護(hù)點(diǎn)】
1.一種幻覺文本緩解方法，其特征在于，包括：
2.根據(jù)權(quán)利要求1所述的幻覺文本緩解方法，其特征在于，所述通過基礎(chǔ)修正器對所述第一幻覺文本進(jìn)行修正，得到第二幻覺文本，包括：
3.根據(jù)權(quán)利要求2所述的幻覺文本緩解方法，其特征在于，所述通過評估器評估所述第二幻覺文本，得到文本評價信息和此次修正過程的質(zhì)量評分，包括：
4.根據(jù)權(quán)利要求2所述的幻覺文本緩解方法，其特征在于，所述通過評估器評估所述第二幻覺文本，得到文本評價信息和此次修正過程的質(zhì)量評分，包括：
5.根據(jù)權(quán)利要求1所述的幻覺文本緩解方法，其特征在于，所述通過基礎(chǔ)修正器對所述第一幻覺文本進(jìn)行修正，得到第二幻覺文本之后，所述方法還包括：
6.一種幻覺文本緩解裝置，其特征在于，包括：獲取模塊和處理模塊；
7.根據(jù)權(quán)利要求6所述的幻覺文本緩解裝置，其特征在于，所述處理模塊，用于基于所述基礎(chǔ)修正器攜帶的證據(jù)集對所述第一幻覺文本的內(nèi)容進(jìn)行錯誤檢測以生成修正策略；根據(jù)所述修正策略對所述第一幻覺文本進(jìn)行修正，得到所述第二幻覺文本。
8.一種電子設(shè)備，包括存儲器、
9.一種非暫態(tài)計(jì)算機(jī)可讀存儲介質(zhì)，其上存儲有計(jì)算機(jī)程序，其特征在于，所述計(jì)算機(jī)程序被處理器執(zhí)行時實(shí)現(xiàn)如權(quán)利要求1至5任一項(xiàng)所述幻覺文本緩解方法。
10.一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，其特征在于，所述計(jì)算機(jī)程序被處理器執(zhí)行時實(shí)現(xiàn)如權(quán)利要求1至5任一項(xiàng)所述幻覺文本緩解方法。
...【技術(shù)特征摘要】
1.一種幻覺文本緩解方法，其特征在于，包括：
2.根據(jù)權(quán)利要求1所述的幻覺文本緩解方法，其特征在于，所述通過基礎(chǔ)修正器對所述第一幻覺文本進(jìn)行修正，得到第二幻覺文本，包括：
3.根據(jù)權(quán)利要求2所述的幻覺文本緩解方法，其特征在于，所述通過評估器評估所述第二幻覺文本，得到文本評價信息和此次修正過程的質(zhì)量評分，包括：
4.根據(jù)權(quán)利要求2所述的幻覺文本緩解方法，其特征在于，所述通過評估器評估所述第二幻覺文本，得到文本評價信息和此次修正過程的質(zhì)量評分，包括：
5.根據(jù)權(quán)利要求1所述的幻覺文本緩解方法，其特征在于，所述通過基礎(chǔ)修正器對所述第一幻覺文本進(jìn)行修正，得到第二幻覺文本之后，所述方法還包括：
6.一種幻覺文本緩解裝置，其特征在于，包括：獲取模塊和處理模塊；
...【專利技術(shù)屬性】
技術(shù)研發(fā)人員：陳玉博，劉康，趙軍，曹鵬飛，金卓然，苑紅榜，
申請(專利權(quán))人：中國科學(xué)院自動化研究所，
類型：發(fā)明
國別省市：
還沒有人留言評論。發(fā)表了對其他瀏覽者有用的留言會獲得科技券。