System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本專利技術涉及一種網絡靶場中的大模型助理動態輸出整流方法與系統,屬于信息處理、網絡安全。
技術介紹
1、大模型在自然語言理解和文本生成方面具有顯著優勢,能夠作為高效的人機交互智能助理。然而,模型的知識來源僅限于訓練數據,這意味著其回答能力受限于訓練期的內容,而這些數據通常覆蓋的是特定行業(如編程、數學等)的領域知識。因此,面對一些特定專業領域(如網絡靶場等)的特殊問題時,大模型往往難以給出針對性的回答。
2、為了解決這一問題,通常采用外部知識庫結合檢索增強生成(rag,retrieval-augmented?generation)方法,向大模型注入額外的專業領域知識。當用戶提問時,大模型首先通過外部知識庫匹配相關信息,然后利用自身的文本生成能力對這些信息進行加工和輸出。這一過程通過流式生成文本,其中模型會基于當前上下文和前后內容,預測最可能的下一步輸出。模型輸出時,每次輸出一個或若干個字符。
3、流式輸出過程可以讓用戶動態感知模型的生成過程,也帶來如下幾個問題:
4、1、無法實時對特定內容(如html鏈接)進行動態判別并渲染,從而導致類似于網絡鏈接地址等特定內容無法有效展示。如圖1所示,大模型本身輸出的字符串列表,客戶端無法根據動態的字符串列表判斷鏈接地址的開頭和結尾,從而導致顯示樣式不友好;
5、2、采用全局緩存大模型輸出內容,并在輸出內容中遍歷尋找特定標簽的方式,在大數據量的情況下會導致瀏覽器緩存過高、遍歷速度很慢,且該方式在遍歷到特定內容的情況下會導致頁面刷新,影響用戶體驗。
技術實現思路
1、專利技術目的:針對上述現有技術存在的問題,本專利技術目的在于提供一種網絡靶場中的大模型助理動態輸出整流方法與系統,通過在原始內容中增加自定義標簽,對大模型的輸出內容實時整流,提高用戶使用體驗。
2、技術方案:為實現上述專利技術目的,本專利技術采用如下技術方案:
3、第一方面,本專利技術提供一種網絡靶場中的大模型助理動態輸出整流方法,包括以下步驟:
4、設置命中開始標簽狀態為初始值假;
5、接收大模型輸出的字符串,并將所述字符串加入到緩存列表中;
6、判斷當前緩存列表中的字符串長度是否達到預設閾值,如果未達到,則繼續接收并緩存新的字符串;否則,執行下一步驟;
7、根據所述命中開始標簽狀態在當前緩存列表中尋找自定義標簽,當所述命中開始標簽狀態為真時,尋找結束標簽;當所述狀態為假時,尋找開始標簽;
8、根據標簽命中結果,生成標簽尋找返回的值,同時更新緩存列表;
9、根據當前的命中開始標簽狀態設置瀏覽器的渲染狀態;如果標簽命中結果為真,則翻轉命中開始標簽狀態;
10、針對每次輸入字符串,最終返回一個包含要顯示的值和對應的渲染狀態的元組;持續接收大模型的輸出內容并動態展示。
11、作為優選,尋找開始標簽或結束標簽的步驟包括:
12、將緩存列表中的所有字符串拼接成一個完整字符串,并用待尋找的標簽進行分割;
13、判斷分割后的字符串集合拼接后與原始字符串是否相等,若相等則表示未找到標簽,設置標簽命中結果為假;否則,設置標簽命中結果為真。
14、作為優選,生成標簽尋找返回的值,以及更新緩存列表的步驟包括:
15、如果所述標簽命中結果為假,所述返回的值為緩存列表中彈出的第一個值;否則,為分割后的字符串集合中第一個值,同時清空當前緩存列表,并將分割后的字符串集合中其余值依次加入到緩存列表中。
16、第二方面,本專利技術提供一種網絡靶場中的大模型助理動態輸出整流系統,包括緩存模塊,標簽尋找模塊,以及渲染模塊;
17、所述緩存模塊,用于接收大模型輸出的字符串,并將所述字符串加入到緩存列表中;以及判斷當前緩存列表中的字符串長度是否達到預設閾值,如果未達到,則繼續接收并緩存新的字符串;否則調用標簽尋找模塊;
18、所述標簽尋找模塊,用于設置命中開始標簽狀態為初始值假,當緩存模塊中緩存的字符串長度達到預設閾值時,根據所述命中開始標簽狀態在當前緩存列表中尋找自定義標簽,當所述命中開始標簽狀態為真時,尋找結束標簽;當所述狀態為假時,尋找開始標簽;以及,根據標簽命中結果,生成標簽尋找返回的值,同時更新緩存列表;根據當前的命中開始標簽狀態設置瀏覽器的渲染狀態;如果標簽命中結果為真,則翻轉命中開始標簽狀態;針對每次輸入字符串,最終返回一個包含要顯示的值和對應的渲染狀態的元組;
19、所述渲染模塊,用于根據所述元組中的渲染狀態動態展示要顯示的值。
20、第三方面,本專利技術提供一種計算機系統,包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序/指令,所述計算機程序/指令被處理器執行時實現所述的一種網絡靶場中的大模型助理動態輸出整流的步驟。
21、第四方面,本專利技術提供一種計算機可讀存儲介質,所述計算機可讀存儲介質存儲有計算機程序,所述計算機程序被處理器執行時實現所述的一種網絡靶場中的大模型助理動態輸出整流的步驟。
22、第五方面,本專利技術提供一種計算機程序產品,包括計算機程序/指令,所述計算機程序/指令被處理器執行時實現所述的一種網絡靶場中的大模型助理動態輸出整流的步驟。
23、有益效果:與現有技術相比,本專利技術具有如下優點:本專利技術通過在原始內容中增加自定義標簽,對大模型的輸出內容實時整流、尋找用戶的自定義標簽,根據尋找結果實時輸出整流后的內容及渲染規則;瀏覽器只需要緩存很少大模型的輸出內容即可,不需要對模型的輸出全局緩存,減少對瀏覽器的硬件資源占用、并加快對特定內容的遍歷性能;采用動態整流的方式,頁面可以實時輸出特定的樣式內容、無需在命中特定標簽后刷新頁面,從而提高了用戶使用體驗。
本文檔來自技高網...【技術保護點】
1.一種網絡靶場中的大模型助理動態輸出整流方法,其特征在于,包括以下步驟:
2.根據權利要求1所述的一種網絡靶場中的大模型助理動態輸出整流方法,其特征在于,尋找開始標簽或結束標簽的步驟包括:
3.根據權利要求2所述的一種網絡靶場中的大模型助理動態輸出整流方法,其特征在于,生成標簽尋找返回的值,以及更新緩存列表的步驟包括:
4.根據權利要求1所述的一種網絡靶場中的大模型助理動態輸出整流方法,其特征在于,所述預設閾值設定為足以覆蓋自定義標簽的最小長度。
5.根據權利要求1所述的一種網絡靶場中的大模型助理動態輸出整流方法,其特征在于,當所述渲染狀態為真時,瀏覽器對于返回的值按照預設的規則進行渲染。
6.根據權利要求1所述的一種網絡靶場中的大模型助理動態輸出整流方法,其特征在于,所述自定義標簽用于標記html鏈接,當所述渲染狀態為真時,所述返回的值作為html鏈接形式展示。
7.一種網絡靶場中的大模型助理動態輸出整流系統,其特征在于,包括緩存模塊,標簽尋找模塊,以及渲染模塊;
8.一種計算機系統,包括存儲
9.一種計算機可讀存儲介質,所述計算機可讀存儲介質存儲有計算機程序,其特征在于,所述計算機程序被處理器執行時實現根據權利要求1-6任一項所述的一種網絡靶場中的大模型助理動態輸出整流的步驟。
10.一種計算機程序產品,包括計算機程序/指令,其特征在于,所述計算機程序/指令被處理器執行時實現根據權利要求1-6任一項所述的一種網絡靶場中的大模型助理動態輸出整流的步驟。
...【技術特征摘要】
1.一種網絡靶場中的大模型助理動態輸出整流方法,其特征在于,包括以下步驟:
2.根據權利要求1所述的一種網絡靶場中的大模型助理動態輸出整流方法,其特征在于,尋找開始標簽或結束標簽的步驟包括:
3.根據權利要求2所述的一種網絡靶場中的大模型助理動態輸出整流方法,其特征在于,生成標簽尋找返回的值,以及更新緩存列表的步驟包括:
4.根據權利要求1所述的一種網絡靶場中的大模型助理動態輸出整流方法,其特征在于,所述預設閾值設定為足以覆蓋自定義標簽的最小長度。
5.根據權利要求1所述的一種網絡靶場中的大模型助理動態輸出整流方法,其特征在于,當所述渲染狀態為真時,瀏覽器對于返回的值按照預設的規則進行渲染。
6.根據權利要求1所述的一種網絡靶場中的大模型助理動態輸出整流方法,其特征在于,所述自定義標簽用于標記html鏈接,當所述渲染狀...
【專利技術屬性】
技術研發人員:曲原,殷慶榮,高慶官,謝崢,
申請(專利權)人:南京賽寧信息技術有限公司,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。