【技術實現步驟摘要】
本專利技術涉及人工智能，具體涉及一種基于大語言模型的智慧客服輔助意圖匹配方法。
技術介紹
1、現有的智慧客服主要是設規則、關鍵詞匹配或小規模數據的機器學習模型解決智慧客服的意圖匹配問題，其主要存在如下的技術缺點：
2、首先，預設規則和關鍵詞匹配的方式普遍存在適用范圍狹窄的問題。這種方式主要依賴于預設的規則和關鍵詞庫，這就對預設人員的專業水平和經驗有較高的要求。此外，由于用戶需求的多樣性和復雜性，預設規則和關鍵詞庫往往難以覆蓋所有的用戶需求，尤其在處理一些語義模糊或者多義的需求時，這種方式的匹配效果往往無法滿足業務需求。
3、其次，小規模數據的機器學習模型雖然可以一定程度上避免人工預設規則和關鍵詞的問題，但由于訓練數據規模有限，這些模型往往無法獲取到足夠的用戶意圖模式，這就使得它們在處理一些罕見或者新型的用戶需求時，仍然會出現識別錯誤的情況。
4、再次，現有模型在面對一些異常或者未見過的用戶需求時，識別準確率通常較低，這就導致了模型的魯棒性不強。對于需要處理大量用戶需求的智慧客服系統來說，模型的魯棒性是十分關鍵的，如果模型的魯棒性不強，就會導致其在實際應用中的效果大打折扣。
技術實現思路
1、本專利技術的目的在于克服上述現有技術的不足，提供一種基于大語言模型的智慧客服輔助意圖匹配方法，以改善現有智慧客服的意圖匹配效果，提高其在實際應用中的效率和用戶滿意度。
2、為實現上述目的，本專利技術的技術方案是：
3、一種基于大語言模型
4、前端界面設計步驟，用以構建用戶交互界面；
5、后端服務器配置步驟，用以接收用戶交互界面所傳來的用戶請求，調用所述用戶請求所對應的的大語言模型進行處理，并將處理結果返回給用戶交互界面。
6、進一步地，所述后端服務器在接受到用戶請求時，先進行預處理工作，以提高大語言模型的識別準確度。
7、進一步地，所述預處理工作包括文本清洗、文本規范化、文本分詞；所述文本清洗包括去除多余的空格、標點符號；所述文本規范化包括將所有文本轉化為小寫、統一數字表達方式。
8、進一步地，用戶請求經預處理后，被輸入至所述大語言模型中，所述大語言模型對輸入文本進行理解并生成相應的回應。
9、進一步地，所述大語言模型為llama-2-70b模型，對所述llama-2-70b模型進行微調，所述微調包括：
10、對所述llama-2-70b模型的前端層進行凍結，并對后端層進行訓練，以在保留原有的詞匯和語法模式的同時，學習和適應新的任務；
11、在所述llama-2-70b模型訓練初期，設定一學習率以快速接近最優解；隨著訓練的進行，逐步減小學習率；
12、在微調過程中，使用驗證集對所述llama-2-70b模型進行監測，以防止過擬合并優化模型性能；當模型性能在驗證集上不再提升，則停止訓練；
13、采用few-shot或one-shot的方法優化所述llama-2-70b模型。
14、進一步地，使用html、css和javascript來構建用戶交互界面；采用python語言啟動uvicorn作為后端服務器。
15、進一步地，所述前端界面采用localstorage來緩存靜態資源和數據，用戶在離線狀態下的操作，一旦網絡恢復，同步相關操作至后端服務器。
16、進一步地，所述后端服務器對耗時或多線程的模型推斷任務，使用消息隊列進行異步處理同時使用websocket實時輸出，并使用將流入的網絡流量分散到多臺服務器上。
17、進一步地，所述后端服務器使用的是nvidiaa100?gpu，在后端服務器啟動后使用startup加載模型，并在內存中保持模型實例。
18、進一步地，所述大語言模型采用數據增強的手段來增加數據質量；所述數據增強包括回譯和對抗性訓練兩種方式；所述回譯將文本翻譯成其他語言再翻譯回來，以獲得具有相同含義卻表述不同的新文本；所述對抗性訓練是在原有數據基礎上，通過擾動生成新的訓練樣本。
19、進一步地，所述方法還包括：反饋和優化步驟，用以根據用戶反饋和前端界面以及后端服務器運行情況來對前端界面和后端服務器進行優化。
20、本專利技術與現有技術相比，其有益效果在于：
21、大語言模型由于具有大量的訓練數據，使得它可以學習到更多的用戶意圖模式，從而有效地提高意圖匹配的準確性。其次，大語言模型具有強大的模型能力，使得它在處理一些復雜或者模糊的用戶需求時，也能有較好的識別效果。再次，由于大語言模型具有較強的泛化能力，使得它在處理一些異常或者未見過的用戶需求時，也能保持較高的識別準確率，從而提高模型的魯棒性。
本文檔來自技高網...【技術保護點】
1.一種基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，包括：
2.如權利要求1所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，所述后端服務器在接受到用戶請求時，先進行預處理工作，以提高大語言模型的識別準確度。
3.如權利要求2所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，所述預處理工作包括文本清洗、文本規范化、文本分詞；所述文本清洗包括去除多余的空格、標點符號；所述文本規范化包括將所有文本轉化為小寫、統一數字表達方式。
4.如權利要求3所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，用戶請求經預處理后，被輸入至所述大語言模型中，所述大語言模型對輸入文本進行理解并生成相應的回應。
5.如權利要求1-4任一所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，所述大語言模型為LLaMa-2-70B模型，對所述LLaMa-2-70B模型進行微調，所述微調包括：
6.如權利要求1所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，使用HTML、CSS和JavaScrip
7.如權利要求1所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，所述后端服務器對耗時或多線程的模型推斷任務，使用消息隊列進行異步處理同時使用websocket實時輸出，并使用將流入的網絡流量分散到多臺服務器上。
8.如權利要求1或7所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，所述后端服務器使用的是NVIDIAA100?GPU，在后端服務器啟動后使用startup加載模型，并在內存中保持模型實例。
9.如權利要求5所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，所述大語言模型采用數據增強的手段來增加數據質量；所述數據增強包括回譯和對抗性訓練兩種方式；所述回譯將文本翻譯成其他語言再翻譯回來，以獲得具有相同含義卻表述不同的新文本；所述對抗性訓練是在原有數據基礎上，通過擾動生成新的訓練樣本。
10.如權利要求1所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，所述方法還包括：反饋和優化步驟，用以根據用戶反饋和前端界面以及后端服務器運行情況來對前端界面和后端服務器進行優化。
...【技術特征摘要】
1.一種基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，包括：
2.如權利要求1所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，所述后端服務器在接受到用戶請求時，先進行預處理工作，以提高大語言模型的識別準確度。
3.如權利要求2所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，所述預處理工作包括文本清洗、文本規范化、文本分詞；所述文本清洗包括去除多余的空格、標點符號；所述文本規范化包括將所有文本轉化為小寫、統一數字表達方式。
4.如權利要求3所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，用戶請求經預處理后，被輸入至所述大語言模型中，所述大語言模型對輸入文本進行理解并生成相應的回應。
5.如權利要求1-4任一所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，所述大語言模型為llama-2-70b模型，對所述llama-2-70b模型進行微調，所述微調包括：
6.如權利要求1所述的基于大語言模型的智慧客服輔助意圖匹配方法，其特征在于，使用html、css和javascript來構建用戶交互界面；采用py...
【專利技術屬性】
技術研發人員：張通，劉根生，陳俊龍，
申請(專利權)人：人工智能與數字經濟廣東省實驗室廣州，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。