System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本申請涉及人工智能,尤其涉及一種基于大模型的任務處理系統和方法、計算機程序產品。
技術介紹
1、隨著人工智能技術的快速發展,大語言模型(large?language?models,llms)在自然語言處理(nlp,natural?language?processing)領域取得了顯著成就。這些模型已經在文本生成、機器翻譯、問答系統等多種應用場景中展示了強大的能力。然而,盡管llms在許多任務上表現出色,但它們仍然面臨著一個重要的技術瓶頸——輸出token規模的限制,這里的token可以翻譯為詞元,它是自然語言處理中的一個基礎概念,是將文本數據分割成更小的單位,這些單位可以是單詞、字符或短語等;例如,文本數據“我喜歡人工智能”可以被分成三個詞元,分別是“我”、“喜歡”、“人工智能”。此外,還可以將文本數據“我喜歡人工智能”分成四個詞元,分別是“我”、“喜歡”、“人工”、“智能”,這取決于具體的分詞方法和應用場景。
2、大多數llms為了保證運行效率和穩定性,會設置一個固定的輸出token上限,這導致在處理需要大量連續文本輸出的任務時,如撰寫長篇報告、生成復雜文檔等,模型無法直接提供完整、連貫的結果。相關技術中,試圖通過調整模型參數來增加輸出token規模,然而這樣會導致模型的性能下降,如響應時間變長、輸出質量下降等;或者,用戶需自行將任務分解并多次提交,增加了使用復雜度和時間成本,并且用戶手動整合模型輸出的多部分結果容易出錯,影響最終輸出的質量和一致性。
3、因此,如何能夠在不犧牲性能的前提下,有效解決大語
技術實現思路
1、鑒于上述問題,提出了本申請以便提供一種克服上述問題或者至少部分地解決上述問題的基于大模型的任務處理系統和方法、計算機程序產品、存儲介質。所述技術方案如下:
2、第一方面,提供了一種基于大模型的任務處理系統,所述系統包括任務發起方、任務仿真器和大模型;
3、任務發起方調用任務仿真器的接口向任務仿真器提交任務請求;
4、任務仿真器接收所述任務請求,解析所述任務請求中的任務描述信息,識別出任務的關鍵要素和邏輯結構;
5、任務仿真器基于任務的關鍵要素和邏輯結構,構建一個有向無環圖,所述有向無環圖包括具有邏輯順序的多個子任務節點,多個子任務節點用于存儲多個子任務的任務內容和約束信息;根據所述有向無環圖,生成包含多個子任務的任務集合;以及根據所述有向無環圖,生成規定了各個子任務的處理結果的輸出順序的有序任務隊列;其中,任務集合中的各個子任務包含任務內容和約束信息,且各個子任務能夠被大模型一次實現處理,各個子任務的處理結果不會超出大模型的輸出限制;
6、任務仿真器調用大模型的接口,將任務集合中的各個子任務的任務內容和約束信息發送給大模型;
7、大模型根據各個子任務的任務內容和約束信息,生成各個子任務的處理結果,返回給任務仿真器;
8、任務仿真器接收各個子任務的處理結果,并根據有序任務隊列中各個子任務的處理結果的輸出順序,將各個子任務的處理結果返回給任務發起方。
9、在一種可能的實現方式中,約束信息包括格式要求、時間線歷史背景、內容深度要求、內容廣度要求中的一項或多項。
10、在一種可能的實現方式中,對于任務集合中的某一個子任務,不妨稱為當前子任務;
11、約束信息還包括與當前子任務相關聯的其他子任務的概述信息,其他子任務的概述信息通過其他子任務的任務內容得到。
12、在一種可能的實現方式中,多個子任務節點中的一個子任務節點代表一個子任務,子任務節點的第一子節點存儲子任務的任務內容,子任務節點的第二子節點存儲子任務的約束信息。
13、在一種可能的實現方式中,任務仿真器調用大模型的接口,將任務集合中的各個子任務的任務內容和約束信息發送給大模型,包括:
14、任務仿真器調用大模型的接口,按照設定周期從任務集合中隨機選取一個或多個子任務的任務內容和約束信息發送給大模型,直到將任務集合中的全部子任務的任務內容和約束信息發送給大模型。
15、在一種可能的實現方式中,如果有序任務隊列中各個子任務的處理結果的輸出順序,依次是第一子任務的處理結果至第n子任務的處理結果,n為正整數;
16、任務仿真器調用大模型的接口,將任務集合中的各個子任務的任務內容和約束信息發送給大模型,包括:
17、任務仿真器調用大模型的接口,基于有序任務隊列中各個子任務的處理結果的輸出順序,將任務集合中第一子任務的任務內容和約束信息、第二子任務的任務內容和約束信息、第n子任務的任務內容和約束信息依序發送給大模型。
18、在一種可能的實現方式中,任務仿真器接收各個子任務的處理結果,并根據有序任務隊列中各個子任務的處理結果的輸出順序,將各個子任務的處理結果返回給任務發起方,包括:
19、任務仿真器接收各個子任務的處理結果,并根據有序任務隊列中各個子任務的處理結果的輸出順序,如果接收到當前子任務的處理結果,在當前子任務之前的子任務的處理結果還沒有接收到,則等待接收在當前子任務之前的子任務的處理結果,當接收到在當前子任務之前的子任務的處理結果時,依序將在當前子任務之前的子任務的處理結果和當前子任務的處理結果返回給任務發起方。
20、第二方面,提供了一種基于大模型的任務處理方法,應用于任務仿真器,所述方法包括:
21、接收任務發起方調用任務仿真器的接口提交的任務請求;
22、解析所述任務請求中的任務描述信息,識別出任務的關鍵要素和邏輯結構;
23、基于任務的關鍵要素和邏輯結構,構建一個有向無環圖,所述有向無環圖包括具有邏輯順序的多個子任務節點,多個子任務節點用于存儲多個子任務的任務內容和約束信息;根據所述有向無環圖,生成包含多個子任務的任務集合;以及根據所述有向無環圖,生成規定了各個子任務的處理結果的輸出順序的有序任務隊列;其中,任務集合中的各個子任務包含任務內容和約束信息,且各個子任務能夠被大模型一次實現處理,各個子任務的處理結果不會超出大模型的輸出限制;
24、調用大模型的接口,將任務集合中的各個子任務的任務內容和約束信息發送給大模型;
25、接收大模型返回的各個子任務的處理結果,并根據有序任務隊列中各個子任務的處理結果的輸出順序,將各個子任務的處理結果返回給任務發起方。
26、在一種可能的實現方式中,約束信息包括格式要求、時間線歷史背景、內容深度要求、內容廣度要求中的一項或多項。
27、在一種可能的實現方式中,對于任務集合中的某一個子任務,不妨稱為當前子任務;
28、約束信息還包括與當前子任務相關聯的其他子任務的概述信息,其他子任務的概述信息通過其他子任務的任務內容得到。
2本文檔來自技高網...
【技術保護點】
1.一種基于大模型的任務處理系統,其特征在于,所述系統包括任務發起方、任務仿真器和大模型;
2.根據權利要求1所述的系統,其特征在于,約束信息包括格式要求、時間線歷史背景、內容深度要求、內容廣度要求中的一項或多項。
3.根據權利要求2所述的系統,其特征在于,對于任務集合中的某一個子任務,不妨稱為當前子任務;
4.根據權利要求1所述的系統,其特征在于,多個子任務節點中的一個子任務節點代表一個子任務,子任務節點的第一子節點存儲子任務的任務內容,子任務節點的第二子節點存儲子任務的約束信息。
5.根據權利要求1所述的系統,其特征在于,任務仿真器調用大模型的接口,將任務集合中的各個子任務的任務內容和約束信息發送給大模型,包括:
6.根據權利要求1所述的系統,其特征在于,如果有序任務隊列中各個子任務的處理結果的輸出順序,依次是第一子任務的處理結果至第N子任務的處理結果,N為正整數;
7.根據權利要求5或6所述的系統,其特征在于,任務仿真器接收各個子任務的處理結果,并根據有序任務隊列中各個子任務的處理結果的輸出順序,將各個
8.一種基于大模型的任務處理方法,其特征在于,應用于任務仿真器,所述方法包括:
9.一種計算機程序產品,包括計算機程序,其特征在于,所述計算機程序被配置為運行時執行權利要求8所述的基于大模型的任務處理方法。
10.一種存儲介質,其特征在于,所述存儲介質中存儲有計算機程序,其中,所述計算機程序被配置為運行時執行權利要求8所述的基于大模型的任務處理方法。
...【技術特征摘要】
1.一種基于大模型的任務處理系統,其特征在于,所述系統包括任務發起方、任務仿真器和大模型;
2.根據權利要求1所述的系統,其特征在于,約束信息包括格式要求、時間線歷史背景、內容深度要求、內容廣度要求中的一項或多項。
3.根據權利要求2所述的系統,其特征在于,對于任務集合中的某一個子任務,不妨稱為當前子任務;
4.根據權利要求1所述的系統,其特征在于,多個子任務節點中的一個子任務節點代表一個子任務,子任務節點的第一子節點存儲子任務的任務內容,子任務節點的第二子節點存儲子任務的約束信息。
5.根據權利要求1所述的系統,其特征在于,任務仿真器調用大模型的接口,將任務集合中的各個子任務的任務內容和約束信息發送給大模型,包括:
6.根據權利要求1所述的系...
【專利技術屬性】
技術研發人員:劉多蘭,王兵魯,郝瑋,
申請(專利權)人:北京安寧創新網絡科技股份有限公司,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。