System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本公開屬于互聯網存儲,尤其涉及一種數據一致性確定方法和裝置、電子設備及程序產品。
技術介紹
1、隨著業務的不斷發展,線上業務的復雜性越來越高,對業務的任何改變都可能帶來級聯影響,例如:組件升級、多機房部署、數據治理等操作等會對整個系統產生影響。針對這些操作所產生的影響有時無法進行準確評估,還有一些風險會在一定條件下才能觸發,這就容易導致在業務測試的過程中被忽略,卻在業務上線后被用戶發現,導致業務運行出現問題,且用戶體驗較差。
2、針對上述問題,目前尚未提出有效的解決方案。
3、本
技術介紹
描述的內容僅為了便于了解本領域的相關技術,不視作對現有技術的承認。
技術實現思路
1、本公開目的在于提供一種數據一致性確定方法和裝置、電子設備及程序產品,可以達到及時發現數據不一致的情況,以降低業務改變對系統層面的影響。
2、本公開提供一種數據一致性確定方法和裝置、電子設備及程序產品是這樣實現的:
3、一種數據一致性確定方法,包括:
4、從預先建立的目標數據庫中提取指定時間片的目標數據;
5、將提取的指定時間片的目標數據,根據目標api對應的數據查詢條件,封裝成目標數據對應的查詢請求;
6、發送所述目標數據對應的查詢請求至多個機房的目標api,所述目標數據對應的查詢請求用于基于目標api進行數據查詢;
7、接收多個機房的底層庫返回的查詢結果;
8、在查詢結果一致的情況下,確定所述多個機房的數據
9、在查詢結果不一致的情況下,確定至少一機房存在數據異常。
10、在一個實施方式中,在從預先建立的目標數據庫中提取指定時間片的目標數據之前,還包括:
11、獲取目標api對應的業務實時生成的數據;
12、將業務實時生成的數據寫入數據倉庫對應的數據表中,其中,在數據倉庫中存在一個或多個數據表,一個業務對應一個或多個數據表;
13、對數據倉庫對應的數據表中的數據進行數據抽樣;
14、將抽樣得到的數據,按照預設的格式條件分時間片存儲至所述目標數據庫中。
15、在一個實施方式中,對數據倉庫對應的數據表中的數據進行數據抽樣,包括以下至少之一:
16、對數據倉庫對應的數據表中的實時數據進行數據抽樣;
17、對數據倉庫對應的數據表中的按天更新的增量數據隨機抽取指定條數;
18、對數據倉庫對應中的數據表中的按月更新的增量數據隨機抽取指定條數。
19、在一個實施方式中,在將業務實時生成的數據寫入數據倉庫對應的數據表中之后,還包括:
20、將數據倉庫對應的數據表中的數據,存儲至所述多個機房的底層庫中。
21、在一個實施方式中,所述多個機房包括:第一機房和第二機房,其中,第一機房的底層庫包括:hbase數據庫、es數據庫、mysql數據庫,所述第二機房的底層庫包括:hbase數據庫、es數據庫、mysql數據庫。
22、在一個實施方式中,從預先建立的目標數據庫中提取指定時間片的數據,包括:
23、按照預設周期從所述目標數據庫中提取指定時間片的數據,所述指定時間片為所述預設周期;或者,
24、在接收到觸發指令的情況下,從所述目標數據庫中提取指定時間片的數據。
25、在一個實施方式中,在確定存在數據異常之后,還包括:
26、生成數據異常記錄;
27、將所述數據異常記錄推送至預設處理節點,所述預設處理節點用于基于數據異常記錄確定問題原因。
28、一種數據一致性確定裝置,包括:
29、提取模塊,用于從預先建立的目標數據庫中提取指定時間片的目標數據;
30、封裝模塊,用于將提取的指定時間片的目標數據,根據目標api對應的數據查詢條件,封裝成目標數據對應的查詢請求;
31、發送模塊,用于發送所述目標數據對應的查詢請求至多個機房的目標api,所述目標數據對應的查詢請求用于基于目標api進行數據查詢;
32、接收模塊,用于接收多個機房的底層庫返回的查詢結果;
33、第一確定模塊,用于在查詢結果一致的情況下,確定所述多個機房的數據一致;
34、第二確定模塊,用于在查詢結果不一致的情況下,確定至少一機房存在數據異常。
35、一種電子設備,包括處理器以及用于存儲處理器可執行指令的存儲器,所述處理器執行所述指令時實現上述方法的步驟。
36、一種程序產品,包括計算機程序,其中,所述計算機程序被處理器執行時實現上述方法的步驟。
37、本公開提供的數據一致性確定方法,從預先建立的目標數據庫中提取指定時間片的目標數據;將提取的指定時間片的數據,根據目標api對應的數據查詢條件,封裝成目標數據對應的查詢請求;將查詢請求輸送至多個機房的目標api進行數據查詢;確定多個機房的底層庫返回的查詢結果是否一致;在結果一致的情況下,確定數據一致;在結果不一致的情況下,確定存在數據異常。即,本公開提供的數據一致性確定方法基于時間片數據對多個機房的底層庫返回數據進行一致性對比,以確定數據是否存在異常,本公開通過上述方式解決了現有的無法有效發現數據不一致導致的業務改變對系統層的影響,而導致的業務穩定性較差的技術問題,達到了提升業務系統穩定性的技術效果。
38、本公開實施例的其他可選特征和技術效果一部分在下文描述,一部分可通過閱讀本文而明白。
本文檔來自技高網...【技術保護點】
1.一種數據一致性確定方法,其特征在于,包括:
2.根據權利要求1所述的方法,其特征在于,在從預先建立的目標數據庫中提取指定時間片的目標數據之前,還包括:
3.根據權利要求2所述的方法,其特征在于,對數據倉庫對應的數據表中的數據進行數據抽樣,包括以下至少之一:
4.根據權利要求2所述的方法,其特征在于,在將業務實時生成的數據寫入數據倉庫對應的數據表中之后,還包括:
5.根據權利要求4所述的方法,其特征在于,所述多個機房包括:第一機房和第二機房,其中,第一機房的底層庫包括:hbase數據庫、es數據庫、mysql數據庫,所述第二機房的底層庫包括:hbase數據庫、es數據庫、mysql數據庫。
6.根據權利要求1至5中任一項所述的方法,其特征在于,從預先建立的目標數據庫中提取指定時間片的數據,包括:
7.根據權利要求1至5中任一項所述的方法,其特征在于,在確定存在數據異常之后,還包括:
8.一種數據一致性確定裝置,其特征在于,包括:
9.一種電子設備,包括處理器以及用于存儲處理器可執行指
10.一種程序產品,包括計算機程序,其中,所述計算機程序被處理器執行時實現如權利要求1-7中任一所述所述方法的步驟。
...【技術特征摘要】
1.一種數據一致性確定方法,其特征在于,包括:
2.根據權利要求1所述的方法,其特征在于,在從預先建立的目標數據庫中提取指定時間片的目標數據之前,還包括:
3.根據權利要求2所述的方法,其特征在于,對數據倉庫對應的數據表中的數據進行數據抽樣,包括以下至少之一:
4.根據權利要求2所述的方法,其特征在于,在將業務實時生成的數據寫入數據倉庫對應的數據表中之后,還包括:
5.根據權利要求4所述的方法,其特征在于,所述多個機房包括:第一機房和第二機房,其中,第一機房的底層庫包括:hbase數據庫、es數據庫、mysql數據庫,所述第二機房的底層庫包括:hbase...
【專利技術屬性】
技術研發人員:張超,高維國,
申請(專利權)人:百融至信北京科技有限公司,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。