System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本專利技術涉及存儲數據處理領域,具體是一種存儲系統數據智能預取的方法。
技術介紹
1、在存儲數據訪問過程中,決定數據讀取性能的一個關鍵因素就是存儲的數據預取到內存有效性,因為存儲數據在硬盤的訪問時延和內存的訪問時延是數量級的差距,硬盤訪問時延一般在毫秒,而內存的訪問時延一般在納秒,如何在應用訪問前就將數據預先讀取到內存中,能極大的提升應用的運行速度。
2、當前傳統存儲系統,一般會簡單針對一個讀io,除了將本次讀取數據讀取到內存中,還會讀取這個io地址周圍的一些數據到內存中,這些數據有可能就是下個io訪問所需的,可以直接在內存命中返回,提升了存儲的訪問性能。
3、首次讀取io時延會非常高,但是再次發起讀io的時延就會很低。但是當前數據的預取算法存在很大的局限性,就是在業務變化的時候,很難根據變化情況及時調整,比如如下兩種io訪問場景,他們所需的預取策略就不一樣。
4、io為lba連續訪問場景,只需要在io1訪問lba2的時候,順便把lba3的數據預取到內存中,則io2訪問的時候就可以在內存中直接命中數據。
5、io為lba為lba順序間隔訪問場景,如果使用上述的預取算法則不行,io1訪問時預取的lba3的數據,并不是io2所需的。
6、更為復雜的情況,如io為lba跳變的訪問場景,所需預取的數據除了間隔的情況,還有非順序的情況,那么當前數據預取算法更難以適應。
7、在具體的應用訪問場景,在不同時間段對數據的io訪問模型是不一樣的,那么會存在固定的數據預取算法無
技術實現思路
1、本專利技術的目的在于克服現有技術的不足,提供一種存儲系統數據智能預取的方法,包括如下步驟:
2、步驟一,構建數據預取算法池和預取算法選擇表;
3、步驟二,根據io請求,數據預取算法管理器在數據預取算法池查找當前時刻的預取算法,若當前時刻預取算法存在,則進入步驟三,若不存在,則選取時間相近的數據預取算法,進入步驟四;
4、步驟三,選取時間最接近的預取算法或預取當前io前后相鄰lba的數據;
5、步驟四,根據選擇的數據預取算法預取數據,并得到io命中率,數據預取算法管理器根據不同時間尺度中最小的時間尺度,更新預取算法的io預取命中率,將過程數據和選擇結果更新到預取算法選擇表,完成存儲系統數據智能預取。
6、進一步的,所述的構建數據預取算法池和預取算法列表,包括:
7、所述的數據預取算法池包括不同時間尺度對應的預取算法,以及io預取命中率;所述的預取算法列表包括不同時間尺度、以及不同時間尺度對應的預取算法對應的io預取命中率。
8、進一步的,所述的數據預取算法管理器根據不同時間尺度中最小的時間尺度,更新預取算法的io預取命中率,將過程數據和選擇結果更新到預取算法選擇表,包括:
9、數據預取算法管理器根據最小的時間尺度,更新預取算法的io預取命中率,判斷預取算法的io預取命中率是否達到預設的閾值,若達到,則更新預取算法的io預取命中率,否則,根據不同時間尺度從小到大,獲取下一級時間尺度的預取算法的io預取命中率,若達到,則將預取算法改為選擇下一級時間尺度的預取算法,當調整到最大時間尺度的預取算法時,預取算法的io預取命中率仍不能達到預設的閾值,則改為選擇不同時間尺度對應的預取算法中io預取命中率最大的預取算法,并更新到預取算法選擇表。
10、進一步的,數據預取算法訓練包括如下過程:
11、通過采集io的lba并通過lstm網絡進行訓練,lstm網絡里面包含:c為記憶單元狀態,h為隱藏狀態;x為輸入數據,即對應的當前一段時間內的io的lba信息;y為輸出數據,即需要預取數據的lba信息;在對應的時間段內采集io的lba數據,通過訓練,輸出對應的預取算法模型;通過預取算法模型,在相同時間段內,輸入當前一段時間內的io的lba信息,預測到下一個io的lba信息。
12、本專利技術的有益效果是:
13、1、持續采集io?lba數據,通過lstm網絡,按照時間維度進行數據預取算法的訓練,維度可以按時、日、周、月進行;
14、2、通過數據預取算法選擇器進行動態適配,持續監控當前所選預取算法的數據命中率,選擇最優的預取算法。
本文檔來自技高網...【技術保護點】
1.一種存儲系統數據智能預取的方法,其特征在于,包括如下步驟:
2.根據權利要求1所述的一種存儲系統數據智能預取的方法,其特征在于,所述的構建數據預取算法池和預取算法列表,包括:
3.根據權利要求2所述的一種存儲系統數據智能預取的方法,其特征在于,所述的數據預取算法管理器根據不同時間尺度中最小的時間尺度,更新預取算法的IO預取命中率,將過程數據和選擇結果更新到預取算法選擇表,包括:
4.根據權利要求3所述的一種存儲系統數據智能預取的方法,其特征在于,數據預取算法訓練包括如下過程:
【技術特征摘要】
1.一種存儲系統數據智能預取的方法,其特征在于,包括如下步驟:
2.根據權利要求1所述的一種存儲系統數據智能預取的方法,其特征在于,所述的構建數據預取算法池和預取算法列表,包括:
3.根據權利要求2所述的一種存儲系統數據智能預取的方法,...
【專利技術屬性】
技術研發人員:黃耀年,杜小華,鐘吉林,董博,符青云,嚴鑫,
申請(專利權)人:四川省華存智谷科技有限責任公司,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。