【技術實現步驟摘要】
本申請涉及人工智能，尤其涉及一種大模型資源的統一管理方法。
技術介紹
1、近年來，隨著計算機技術的快速發展，大模型的應用場景越來越多。隨著人工智能技術的發展，尤其是大語言模型(large?language?models，llms)的廣泛應用，企業在提升服務質量和效率方面面臨著前所未有的機遇。然而，當前的接口(application?programinterface，api，應用程序接口)調用方式分散且不統一，導致了資源管理的復雜性和調用效率的降低。不同的api接口在使用上存在差異，使得開發者在集成和維護時耗費大量時間和精力，影響了產品的迭代速度和服務的響應能力。
技術實現思路
1、本申請的一個目的是提供一種大模型資源的統一管理方法，至少用以解決大模型的調用接口不統一，造成的復雜性高、調用效率低以及集成和維護的成本大等問題。本申請通過響應于模型模板創建請求，接收模型模板的類型選擇結果，得到當前類型的資源模板；響應于資源模板的選擇操作，跳轉至參數填寫界面，并在獲取參數填寫結果之后，保存待調用模型到模型資源池中；獲取用戶發出的模型調用請求，并確定用戶需要使用的目標類型；對所述模型調用請求進行鑒權，若鑒權通過，則從所述目標類型中的各待調用模型中確定目標模型，并調用所述目標模型。通過采用本方案，可以使用資源管理平臺對大模型資源進行統一配置和管理，便于對大模型資源進行維護，且調用方式集中配置，有利于多種大模型資源的集成和維護，提高了開發者的開發和維護效率，同時也為用戶的使用提供保障。
<...【技術保護點】
1.一種大模型資源的統一管理方法，其特征在于，所述方法由資源管理平臺執行，所述方法包括：
2.根據權利要求1所述的方法，其特征在于，在保存模型到模型資源池中之前，所述方法還包括：
3.根據權利要求2所述的方法，其特征在于，對參數填寫結果進行測試，包括：
4.根據權利要求1所述的方法，其特征在于，對所述模型調用請求進行鑒權，包括：
5.根據權利要求1所述的方法，其特征在于，從所述目標類型中的各待調用模型中確定目標模型，包括：
6.根據權利要求5所述的方法，其特征在于，獲取所述目標類型中的各待調用模型的負載狀態，包括：
7.根據權利要求1所述的方法，其特征在于，接收模型模板的類型選擇結果，得到當前類型的資源模板，包括：
【技術特征摘要】
1.一種大模型資源的統一管理方法，其特征在于，所述方法由資源管理平臺執行，所述方法包括：
2.根據權利要求1所述的方法，其特征在于，在保存模型到模型資源池中之前，所述方法還包括：
3.根據權利要求2所述的方法，其特征在于，對參數填寫結果進行測試，包括：
4.根據權利要求1所述的方法，其特征在于，對所述模型調用請...
【專利技術屬性】
技術研發人員：吳世豪，曾佑軒，伍玉晟，王健錚，董經緯，周青林，岳泳泳，唐佳樂，梁曉靜，謝歡，田坤坤，朱挺，
申請(專利權)人：上海南洋萬邦軟件技術有限公司，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。