System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本專利技術涉及動態存儲服務,具體涉及一種基于網絡文件系統nfs構建動態存儲服務解決方法。
技術介紹
1、當前隨著互聯網技術的飛速發展,網絡應用的用戶規模不斷擴大,業務復雜性日益提高,特別是在高峰時段,如大規模用戶的二維碼亮碼、解碼、數據協同等,互聯網應用面臨著巨大的并發訪問壓力情況下,相應的非結構化數據如圖片、文件、動態擴展數據等存儲需求增多,高并發訪問情況下出現不同程度的卡頓、丟失、錯亂等問題。這種情況都需要對動態存儲提出了極高的要求。
2、特別是在特定的高峰時段,如節假日、大型活動或突發事件發生時,用戶集中訪問網絡應用以完成諸如二維碼亮碼(用于身份驗證、支付、信息獲取等場景)、解碼處理以及跨平臺數據協同等任務,給系統帶來了空前的并發訪問壓力。這些操作不僅要求系統能夠迅速響應并處理海量的請求,還需要確保數據的準確性和一致性,以滿足用戶對于高效、穩定服務體驗的期待。
3、然而,隨著業務復雜性的增加,傳統的存儲架構逐漸暴露出其局限性。特別是針對非結構化數據(如圖片、視頻、音頻文件、文檔、日志以及各類動態擴展的數據集等),其存儲和管理方式面臨著巨大挑戰。非結構化數據不僅體量大、增長速度快,而且格式多樣、難以用傳統的關系型數據庫進行有效管理。在高并發訪問的情境下,這些數據的讀寫效率、數據一致性和可靠性等問題愈發凸顯,容易出現卡頓、數據丟失、錯亂等嚴重影響用戶體驗和服務質量的現象。
技術實現思路
1、本專利技術需要解決的技術問題是提供一種基于網絡文件系統nfs構建動
2、為解決上述技術問題,本專利技術所采取的技術方案如下。
3、一種基于網絡文件系統nfs構建動態存儲服務解決方法,基于一臺采用nginx存儲查詢服務的nginx存儲查詢服務器、一臺采用ftp存儲接收/提供服務的ftp存儲接收/提供服務器、若干臺內置調優器的主存儲服務器、若干臺內置調優器的備份存儲服務器以及一臺存儲調優計算器實現;所述方法包括以下步驟:
4、s1.將所有主存儲服務器和備份存儲服務器進行配置和服務相連,形成nfs存儲集群,并通過調優器與存儲調優計算器連接;
5、s2.將nginx存儲查詢服務節點和ftp掛載目錄并網到nfs存儲集群中,使nginx目錄和ftp目錄能夠獲取到nfs存儲節點目錄;
6、s3.優先并全部使用nfs存儲集群中所有主存儲服務器的nfs存儲節點,通過調優器和存儲調優計算器實現動態存儲,且在動態存儲過程中,當已使用nfs存儲節點資源枯竭之際,新下發一個備份存儲服務器,使其nfs存儲節點加入。
7、優選的,所述步驟s3中通過調優器和存儲調優計算器實現動態存儲,具體包括以下步驟:
8、s31.利用調優器獲取nfs存儲節點存儲信息,并發送到存儲調優計算器;
9、s32.存儲調優計算器利用程序按照配置好的存儲規則計算出最優存儲節點分配,并通過指令形式反饋給調優器;
10、s33.調優器根據指令信息,將本nfs存儲節點存儲數據發送到指令指定的nfs存儲節點,實現動態存儲。
11、優選的,所述存儲調優計算器采用服務器分片機制,在存儲一份數據的nfs存儲節點之外的nfs存儲節點再存儲一份此數據,由調優器自動分發。
12、優選的,所述步驟s32中存儲規則包括:存儲調優計算器接收調優器發送的nfs存儲節點的存儲總量和使用值;
13、當存儲調優計算器發現所有已用nfs存儲節點的存儲使用率不相等且均不高于設定的存儲使用率閾值時,則計算出最優存儲節點分配,使存儲使用率較高的nfs存儲節點將自身的部分存儲傳輸到其他存儲使用率較低的nfs存儲節點,并保證傳輸和接受傳輸完成后每個已使用的nfs存儲節點的存儲使用率相等;
14、當存儲調優計算器發現某nfs存儲節點的存儲使用率高于設定的存儲使用率閾值時,自動查詢存儲使用率低于設定的存儲使用率閾值的nfs存儲節點,并計算出最優存儲節點分配,使存儲使用率高于設定的存儲使用率閾值的nfs存儲節點將自身的部分存儲傳輸到其他存儲使用率低于設定的存儲使用率閾值的nfs存儲節點,并保證接受傳輸的nfs存儲節點在接受傳輸后存儲使用率低于設定的存儲使用率閾值,且保證傳輸和接受傳輸完成后每個已使用的nfs存儲節點的存儲使用率相等。
15、優選的,所述步驟s3中當已使用nfs存儲節點資源枯竭之際,具體為:在保證傳輸和接受傳輸完成后每個已使用的nfs存儲節點的存儲使用率相等且均低于設定的存儲使用率閾值的前提下,無法計算出最優存儲節點分配;所述新下發一個備份存儲服務器,使其nfs存儲節點加入,存儲調優計算器利用程序按照配置好的存儲規則計算出最優存儲節點分配;所述存儲使用率閾值為80%。
16、優選的,當客戶端請求訪問文件時,通過負載均衡策略將請求轉發給主存儲服務器或備份存儲服務器。
17、由于采用了以上技術方案,本專利技術所取得技術進步如下。
18、本專利技術易于實現:nfs、nginx以及ftp都是在數據存儲、并發查詢、數據傳輸方面的通用技術,將三者通過少量代碼創新式的結合起來,即可實現服務器節點動態存儲并服務化。
19、本專利技術可提高系統的高可用性和可擴展性:通過構建網絡文件系統nfs存儲集群,多臺服務器共同承擔文件存儲和訪問的任務,顯著提高了系統的容錯能力和可擴展性。當某臺服務器出現故障時,系統能夠自動將請求轉發到其他正常運行的服務器上,保證了服務的連續性和不間斷性。
20、本專利技術可增強存儲服務的靈活性和響應速度:引入nginx代理特性構建的nginx存儲查詢服務,能夠高效地處理高并發查詢請求,提供穩定且快速的響應。這為用戶訪問存儲數據提供了極大的便利,尤其在數據訪問量大的場景下,顯著提升了用戶體驗。
21、本專利技術可豐富數據存儲交互功能:利用ftp的全面功能(如文件上傳、下載、目錄瀏覽、文件重命名、刪除、斷點續傳等),本技術方案為存儲接收/提供服務提供了更加完善的數據交互方式。同時,ftp支持的用戶管理功能和多種數據傳輸模式及安全措施,進一步保障了數據的安全性和可靠性。
22、本專利技術可實現動態存儲管理和優化:存儲調優計算器和調優器的結合使用,通過實時監測和智能分析nfs存儲節點的存儲情況,自動計算出最優的存儲節點分配方案,并自動調整存儲布局。這不僅保證了數據的合理分布和高效利用,還能有效防止存儲節點因過載而宕機,減少了數據丟失的風險。
23、本專利技術可提升整體系統的自動化和智能化水平:整個解決方案的設計注重自動化和智能化,通過各組件的協同工作,實現了從數據存儲、查詢到優化的全過程自動化管理。這不僅降低了人工操作的復雜性和出錯率,還提高了系統的整體運行效率和穩定性。
本文檔來自技高網...【技術保護點】
1.一種基于網絡文件系統NFS構建動態存儲服務解決方法,其特征在于:基于一臺采用Nginx存儲查詢服務的Nginx存儲查詢服務器、一臺采用FTP存儲接收/提供服務的FTP存儲接收/提供服務器、若干臺內置調優器的主存儲服務器、若干臺內置調優器的備份存儲服務器以及一臺存儲調優計算器實現;所述方法包括以下步驟:
2.根據權利要求1所述的一種基于網絡文件系統NFS構建動態存儲服務解決方法,其特征在于:所述步驟S3中通過調優器和存儲調優計算器實現動態存儲,具體包括以下步驟:
3.根據權利要求2所述的一種基于網絡文件系統NFS構建動態存儲服務解決方法,其特征在于:所述存儲調優計算器采用服務器分片機制,在存儲一份數據的NFS存儲節點之外的NFS存儲節點再存儲一份此數據,由調優器自動分發。
4.根據權利要求2所述的一種基于網絡文件系統NFS構建動態存儲服務解決方法,其特征在于:所述步驟S32中存儲規則包括:存儲調優計算器接收調優器發送的NFS存儲節點的存儲總量和使用值;
5.根據權利要求4所述的一種基于網絡文件系統NFS構建動態存儲服務解決方法,其
6.根據權利要求1所述的一種基于網絡文件系統NFS構建動態存儲服務解決方法,其特征在于:當客戶端請求訪問文件時,通過負載均衡策略將請求轉發給主存儲服務器或備份存儲服務器。
...【技術特征摘要】
1.一種基于網絡文件系統nfs構建動態存儲服務解決方法,其特征在于:基于一臺采用nginx存儲查詢服務的nginx存儲查詢服務器、一臺采用ftp存儲接收/提供服務的ftp存儲接收/提供服務器、若干臺內置調優器的主存儲服務器、若干臺內置調優器的備份存儲服務器以及一臺存儲調優計算器實現;所述方法包括以下步驟:
2.根據權利要求1所述的一種基于網絡文件系統nfs構建動態存儲服務解決方法,其特征在于:所述步驟s3中通過調優器和存儲調優計算器實現動態存儲,具體包括以下步驟:
3.根據權利要求2所述的一種基于網絡文件系統nfs構建動態存儲服務解決方法,其特征在于:所述存儲調優計算器采用服務器分片機制,在存儲一份數據的nfs存儲節點之外的nfs存儲節點再存儲一份此數據,由調優器自動分發。
4.根據權利要求2所述的一種基于網絡文件系統...
【專利技術屬性】
技術研發人員:唐飛,龔波,水軍,肖觀生,王慶,李小祥,
申請(專利權)人:珠海市新德匯信息技術有限公司,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。