System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本專利技術涉及一種基于大模型的智能醫療問答系統,屬于智能醫療問答。
技術介紹
1、近年來,人們對醫療服務的要求也愈來愈高,患者或患者家屬通常需要獲取醫療健康方面的咨詢和建議。傳統的面對面問診方式常常受制于時間和空間等因素,在一定程度上影響了醫療效力;以往基于知識圖譜或知識檢索的智慧醫療問答系統,在應對未知問題時往往不如大語言模型靈活。
2、得益于智能計算能力提升和自然語言處理技術的迅速發展,大語言模型(largelanguage?models,以下簡稱llm)經歷了井噴式的爆發,相繼出現了chatgpt、gpt-4、llama、claude、gemini等基礎大語言模型。llm在醫療領域的應用也得到了飛速的發展,其主要生成范式為收集醫療垂直領域的數據集對llm進行微調,使其具備針對專有領域的知識,該llm微調的生成范式在實際應用中取得了不錯的效果,如med-palm由palm微調得到、doctorglm由glm微調得到、chatdoctor由llama等。然而,隨著gpt-4turbo的出現,實驗顯示其具備的能力超過了其他通過微調得到了醫療llm,隨之醫療llm的研究方向轉為了如何將llm更加合理地應用在醫療場景中。
3、本專利技術是llm在醫療領域智能問答場景中的應用,隨著醫療信息化程度的不斷提高和醫療行業管理的自動化趨勢,智能問答系統將在未來成為醫療領域的重要組成部分。基于llm的智能問答系統能夠根據醫療知識庫和患者提出的問題,自動化地生成準確的答案,為醫生和患者提供全面、高效的醫療服務。其應用部署簡
技術實現思路
1、本專利技術提供了一種基于大模型的智能醫療問答系統,以用于通過基礎模塊實現對現有不同通用領域llm的快速接入與自動路由,保證應用的穩定性和可靠性;通過功能模塊實現對用戶所提問題的prompt優化,使llm得到更加明確的引導,進而返回更加準確的回答;通過記憶模塊,實現對用戶所提問題上下文以及用戶病例數據的整合,使llm能夠充分理解多輪對話的上下文信息,從而返回更加準確的個性化回答;通過安全模塊實現對模型輸出添加安全聲明提示用戶謹慎對待,同時針對模型的高危回答或用戶的高危提問進行人工審核介入。
2、本專利技術的技術方案是:一種基于大模型的智能醫療問答系統,包括基礎模塊、功能模塊、記憶模塊、安全模塊;
3、所述基礎模塊,用于作為用戶和llm間的中間件,充當了“路由網關”的作用,通過該模塊,所述基于大模型的智能醫療問答系統無需修改任何代碼連接到任何受支持的llm;
4、所述功能模塊用于實現對用戶所提問題的解析,構造提示詞對llm進行提問生成回答,并對llm的響應進行格式化后返回系統用戶界面;
5、所述記憶模塊用于借助向量數據庫實現對用戶病例數據以及用戶歷史對話的關聯;幫助大模型在進行回答時,能夠對特定用戶進行針對性的回答、同時擁有歷史對話信息;
6、所述安全模塊用于進行安全提示。
7、作為本專利技術的進一步方案,所述基礎模塊包括:
8、用于進行llm靈活配置:允許用戶對llm列表進行配置,通過llm管理界面進行llm的零代碼新增、編輯、刪除操作;
9、用于進行自動路由:允許用戶按照優先順序指定llm,若某一請求llm無法響應或遇到基礎設施錯誤,將自動選擇下一個llm進行訪問;
10、用于實現自動重試功能:允許在請求失敗時候以指數退避策略進行重試,該策略能夠對失敗請求進行自動重發,同時試以防止頻繁重試導致的網絡過載;
11、用于實現負載均衡:允許根據自定義權重在多個llm或服務之間有效分配負載,確保系統的高可用性和最佳性能,防止任何單個llm成為性能瓶頸。
12、作為本專利技術的進一步方案,所述功能模塊包括:
13、用于實現問題歸類和規范化:功能模塊首先針對用戶所提出的問題進行意圖識別和主題領域識別,將問題分類為:疾病推測診斷、醫療術語或關鍵詞解釋、用藥或措施建議三大類,同時對問題中可能存在的非法字符、無關詞語、語義歧義進行清理;
14、用于進行多輪對話優化提示詞:為了引導用戶使用更加準確的提示詞提問,在功能模塊在中,使用多輪對話的方式進行提示詞優化;每輪對話后增量式地添加對話歷史上下文、關鍵信息,并針對不當的回復進行語義偏差修正;
15、用于實現提示詞模板:針對常用的提問,功能模塊提供常用的模板,用戶只需輸入關鍵詞即可得到相應準確的回答。
16、作為本專利技術的進一步方案,所述記憶模塊包括:
17、用于實現知識存儲與檢索:記憶模塊首先將用戶的電子病例數據、檢驗檢查數據、手術信息進行加載,通過文本分割,將大段文本分割成小塊,接著利用文本嵌入模型將文本轉為嵌入向量存儲在向量數據庫中;用戶與大模型交互時,根據用戶的提問從向量數據庫中進行檢索最相關的信息,作為補充信息提供給大模型,有助于提高大模型的知識涵蓋范圍和生成質量,為用戶提供更加個性化的問答服務;
18、用于進行上下文記憶:除了將用戶的病例數據存儲在向量數據庫以外,記憶模塊還將大模型與用戶的多輪對話歷史進行向量化,存儲在向量數據庫中;這樣在后續交互時,能快速從對話向量庫中查找語義上最相關的對話信息,作為上下文提示輸入給大模型,增強其對話管理和問題理解能力;
19、用于實現提示詞反饋優化:記憶模塊還將用戶對大模型輸出的反饋向量化后存儲在向量數據庫中,在后續對話中能夠根據新的提問去向量數據庫中進行相似性匹配,檢索出之前優化過的類似問題下的提示詞模板,加速提示詞優化過程。
20、作為本專利技術的進一步方案,所述安全模塊包括:
21、針對可能存在風險的輸出添加明確的警示,提醒患者謹慎行事,避免盲目遵從可能產生不利后果的建議,進而促進用戶做出謹慎理性的判斷,同時,安全模塊通過添加免責聲明的形式明確系統輸出的非權威性和參考性質,能夠有效規避潛在的法律糾紛風險,確保醫療大模型問答系統可控、負責、可信賴運行。
22、本專利技術的有益效果是:
23、(1)本專利技術系統實現在醫療領域對現有通用領域llm的零微調應用,節省對llm進行二次微調的開發成本。
24、(2)本專利技術系統借助基礎模塊,實現對現有不同通用領域llm的快速接入與自動路由
25、(3)本專利技術系統借助功能模塊,改變原有用戶直接與llm進行交互的模式,通過prompt優化實現llm對用戶提問更準確的回答。
26、(4)本專利技術系統借助記憶模塊,實現對用戶所提問題上下文以及用戶病例數據的整合,緩解現有llm對話時對最大token數量的限制,使得llm能夠充分理解多輪對話的上下文信息,從而返回更加準確的個性化回答。
27、(5)本專利技術系統借助安全模塊,實現對模型輸出添加安全聲明提示用戶謹慎對待,同時針對本文檔來自技高網...
【技術保護點】
1.一種基于大模型的智能醫療問答系統,其特征在于:包括基礎模塊、功能模塊、記憶模塊、安全模塊;
2.根據權利要求1所述的基于大模型的智能醫療問答系統,其特征在于:所述基礎模塊包括:
3.根據權利要求1所述的基于大模型的智能醫療問答系統,其特征在于:所述功能模塊包括:
4.根據權利要求1所述的基于大模型的智能醫療問答系統,其特征在于:所述記憶模塊包括:
5.根據權利要求1所述的基于大模型的智能醫療問答系統,其特征在于:所述安全模塊包括:
【技術特征摘要】
1.一種基于大模型的智能醫療問答系統,其特征在于:包括基礎模塊、功能模塊、記憶模塊、安全模塊;
2.根據權利要求1所述的基于大模型的智能醫療問答系統,其特征在于:所述基礎模塊包括:
3.根據權利要求1所述的基于大模型的智...
【專利技術屬性】
技術研發人員:朱達,詹憶冰,林旭,齊沖沖,詹均,楊輝,
申請(專利權)人:云南聯合視覺科技有限公司,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。