System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本申請涉及資源彈性伸縮,尤其涉及一種無服務器的資源伸縮系統、方法、設備及介質。
技術介紹
1、隨著容器技術的發展和微服務框架的普及,開發人員期望一種無需管理服務器操作以及硬件資源管理的云計算范式。傳統的服務器計算需要開發人員管理服務器的硬件資源,而且當業務空閑時,應用實例仍然占用服務器資源造成資源浪費。為了滿足開發人員無需管理服務器和用戶節省成本的需求,提出了無服務器(serverless)計算的概念。無服務器(serverless)計算是一種全新的云服務系統體系結構。在該體系結構下,用戶無需考慮服務器和基礎設施細節,只需負責編寫發生某些事件后所需執行的代碼,并在必要時對應用容器進行縮放,執行完畢后,承擔這些功能的應用容器會立刻停用,釋放服務器資源。
2、在kubernetes社區方案中,hpa(horizontal?pod?autoscaler)(pod水平自動伸縮)也能實現應用容器的自動擴縮容,該方案周期性檢測pod資源使用率,并根據設定的閥值來計算出合理的pod數量,然后調整pod的數量。但hpa方案不支持將pod縮容到0,這樣針對一些每天大部分時間都沒有流量的中長尾應用場景,還是存在資源浪費,而serverless將pod縮容為0可以大大增加集群資源利用率。
3、由于serverless在無業務流量時,將應用實例的pod縮容為0。這樣后續又有請求流程時,就需要將應用實例的pod完成從0到1的冷啟動過程。現有技術冷啟動的過程為一種異步擴容的過程,首先統計設定時長內的資源使用率,然后將資源使用率上報至
技術實現思路
1、本申請提供了一種無服務器的資源伸縮系統、方法、設備及介質,用以解決應用實例的pod資源從0到1的冷啟動場景中,擴容效率較低的問題。
2、第一方面,本申請提供了一種無服務器的資源伸縮系統,所述系統包括:路由控制模塊、請求緩存模塊和資源伸縮模塊;
3、所述路由控制模塊,用于當pod資源為0時,將接收到的第一請求發送至所述請求緩存模塊;
4、所述請求緩存模塊,用于當接收到所述第一請求,向所述資源伸縮模塊發送pod資源擴容指令;
5、所述資源伸縮模塊,用于當接收到所述pod資源擴容指令,進行pod資源擴容。
6、第二方面,本申請提供了一種無服務器的資源伸縮方法,所述方法包括:
7、資源伸縮模塊當接收到pod資源擴容指令,進行pod資源擴容;其中,所述pod資源擴容指令是請求緩存模塊當接收到第一請求,向所述資源伸縮模塊發送的;所述第一請求是路由控制模塊當pod資源為0時,將接收到的第一請求發送至所述請求緩存模塊的。
8、第三方面,本申請提供了一種電子設備,包括處理器、通信接口、存儲器和通信總線,其中,處理器,通信接口,存儲器通過通信總線完成相互間的通信;
9、存儲器,用于存放計算機程序;
10、處理器,用于執行存儲器上所存放的程序時,實現所述的方法步驟。
11、第四方面,本申請提供了一種計算機可讀存儲介質,所述計算機可讀存儲介質內存儲有計算機程序,所述計算機程序被處理器執行時實現所述的方法步驟。
12、本申請提供了一種無服務器的資源伸縮系統、方法、設備及介質,所述系統包括:路由控制模塊、請求緩存模塊和資源伸縮模塊;所述路由控制模塊,用于當pod資源為0時,將接收到的第一請求發送至所述請求緩存模塊;所述請求緩存模塊,用于當接收到所述第一請求,向所述資源伸縮模塊發送pod資源擴容指令;所述資源伸縮模塊,用于當接收到所述pod資源擴容指令,進行pod資源擴容。
13、上述的技術方案具有如下優點或有益效果:
14、本申請提供了一種無服務器的資源伸縮系統,包括:路由控制模塊、請求緩存模塊和資源伸縮模塊。當pod資源為0時,路由控制模塊接收到第一請求,此時觸發冷啟動過程,路由控制模塊將接收到的第一請求發送至請求緩存模塊;請求緩存模塊當接收到第一請求,向資源伸縮模塊發送pod資源擴容指令,資源伸縮模塊當接收到pod資源擴容指令,進行pod資源擴容。本申請相較于現有技術首先統計設定時長內的資源使用率,然后將資源使用率上報至擴容管理模塊,由擴容管理模塊判斷資源使用率達到要求時,下發指令執行擴容的過程。避免了統計設定時長內的資源使用率的過程耗時較長,上報資源使用率以及擴容管理模塊判斷資源使用率達到要求時,下發指令執行擴容的過程耗時較長,從而導致應用實例的pod完成從0到1的冷啟動過程效率較低的問題。提高了應用實例的pod資源從0到1的冷啟動場景中的擴容效率。
本文檔來自技高網...【技術保護點】
1.一種無服務器的資源伸縮系統,其特征在于,所述系統包括:路由控制模塊、請求緩存模塊和資源伸縮模塊;
2.如權利要求1所述的系統,其特征在于,所述路由控制模塊,還用于當pod資源不為0時,當接收到的第二請求,將所述第二請求發送至pod資源。
3.如權利要求2所述的系統,其特征在于,所述系統還包括:請求量統計模塊;
4.如權利要求3所述的系統,其特征在于,所述請求量統計模塊,用于分別統計開啟的各個pod資源在所述預設時長內的請求量,將各個請求量發送至所述資源伸縮模塊;
5.如權利要求3或4所述的系統,其特征在于,所述資源伸縮模塊,用于根據所述開啟的各個pod資源的數量和所述各個pod資源各自的承載請求量,確定請求量上限值;根據所述請求量上限值、所述目標請求量和預設的請求量閾值,確定擴縮容模式;根據所述擴縮容模式確定請求統計時長;將所述請求統計時長發送至所述請求量統計模塊;
6.如權利要求5所述的系統,其特征在于,所述資源伸縮模塊,具體用于確定所述請求量上限值和所述目標請求量的差值,若所述差值小于所述預設的請求量閾值,確定所
7.如權利要求6所述的系統,其特征在于,所述資源伸縮模塊,具體用于在預設數量的統計周期內,若所述請求量上限值和所述目標請求量的差值均小于所述預設的請求量閾值,確定所述擴縮容模式為快速擴縮容模式;若所述請求量上限值和所述目標請求量的差值均不小于所述預設的請求量閾值,確定所述擴縮容模式為穩定擴縮容模式。
8.一種無服務器的資源伸縮方法,其特征在于,所述方法包括:
9.一種電子設備,其特征在于,包括處理器、通信接口、存儲器和通信總線,其中,處理器,通信接口,存儲器通過通信總線完成相互間的通信;
10.一種計算機可讀存儲介質,其特征在于,所述計算機可讀存儲介質內存儲有計算機程序,所述計算機程序被處理器執行時實現權利要求8所述的方法步驟。
...【技術特征摘要】
1.一種無服務器的資源伸縮系統,其特征在于,所述系統包括:路由控制模塊、請求緩存模塊和資源伸縮模塊;
2.如權利要求1所述的系統,其特征在于,所述路由控制模塊,還用于當pod資源不為0時,當接收到的第二請求,將所述第二請求發送至pod資源。
3.如權利要求2所述的系統,其特征在于,所述系統還包括:請求量統計模塊;
4.如權利要求3所述的系統,其特征在于,所述請求量統計模塊,用于分別統計開啟的各個pod資源在所述預設時長內的請求量,將各個請求量發送至所述資源伸縮模塊;
5.如權利要求3或4所述的系統,其特征在于,所述資源伸縮模塊,用于根據所述開啟的各個pod資源的數量和所述各個pod資源各自的承載請求量,確定請求量上限值;根據所述請求量上限值、所述目標請求量和預設的請求量閾值,確定擴縮容模式;根據所述擴縮容模式確定請求統計時長;將所述請求統計時長發送至所述請求量統計模塊;
6.如權利要求5所述的系統,其特征在于,所述資源伸縮模塊,具體用于確定所述請求量上限值和所述目...
【專利技術屬性】
技術研發人員:周星,高偉,周明偉,
申請(專利權)人:浙江大華技術股份有限公司,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。