System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本申請涉及數據庫,特別涉及一種數據表處理方法、裝置及電子設備。
技術介紹
1、當前信息
具有較多的業務系統,通常會出現打通兩個業務系統的情況。例如,a業務系統產生的數據會被b業務系統使用。各業務系統通常是獨立研發的,各業務系統的架構設計、數據結構標準不統一,各業務系統若要在數據層面打通,需要采用etl(extract-transform-load,抽取-轉換-加載)工具。
2、現有的etl工具中通常預先編寫了所要處理的源數據表的信息、目標數據表的信息以及數據轉換的方法。目標系統在使用源數據庫中的數據進行業務處理時,通常先通過etl工具將源數據庫中的數據轉換為符合目標數據庫中的數據要求,然后再對目標數據表中的數據進行處理。
3、上述數據表處理方式的數據轉換關系不夠靈活,在源業務系統的數據要求更改、目標業務系統的數據要求更改或者數據轉換規則更改的情況下,需要聯系研發人員更改etl的編碼,這增加了運維的負擔,也容易耽誤目標業務系統的工作進度。
技術實現思路
1、本說明書提供一種數據表處理方法、裝置及電子設備,以解決現有數據表處理方式的數據轉換關系不夠靈活的問題。
2、為解決上述技術問題,本說明書第一方面提供一種數據表處理方法,包括:獲取數據轉換任務集合,所述數據轉換任務集合中包括多個數據轉換任務,每個數據轉換任務包括源表數據信息、目標表數據信息和數據轉換規則;執行所述數據轉換任務集合中的各目標數據轉換任務,從目標數據轉換任務對應的源數據表獲取源數
3、在一些實施例中,所述方法還包括:響應于增加新的數據轉換任務請求,接收用戶輸入的第三方系統的地址、登錄賬號及密碼;根據用戶輸入的數據生成一個數據轉換任務,所述數據轉換任務用于根據所述地址打開所述第三方系統,輸入登錄賬號及密碼,在登錄后輸入源數據以獲得查詢結果,并將所述查詢結果作為目標數據加載至目標數據表中。
4、在一些實施例中,所述數據轉換任務的數據轉換規則包括:在根據源數據庫的源數據表中的源數據字段進行處理后,向日志文件中寫入日志信息,所述日志信息包括數據轉換完成狀態,以及以下至少一者:源數據庫名稱、源數據表名稱、源數據字段名稱。
5、在一些實施例中,所述方法還包括:響應于對于現有數據轉換任務的修改請求,接收用戶輸入的待修改數據轉換任務對應的以下至少一種信息:源數據庫名稱、源數據表名稱、源數據字段名稱、目標數據庫名稱、目標數據表名稱、目標數據字段名稱;根據修改請求中的信息查詢到關聯數據轉換任務;判斷所述關聯數據轉換任務是否存在數據轉換規則處于執行中狀態;在判斷結果為是的情況下,暫停對新的數據執行關聯數據轉換任務,并在處于執行中狀態的關聯數據轉換任務執行完畢后,再開始對新的數據執行更新后的關聯數據轉換任務。
6、在一些實施例中,所述方法還包括:在一個數據轉換規則執行失敗的情況下,確定所述數據轉換規則對應的關聯數據轉換任務;回退執行所述關聯數據轉換任務對應的各數據轉換規則;設置所述關聯數據轉換任務執行失敗。
7、在一些實施例中,執行所述數據轉換任務集合中的各目標數據轉換任務之前,包括:按照所述數據轉換任務集合中的各目標數據轉換任務的優先級為各目標數據轉換任務分配處理資源。
8、在一些實施例中,所述方法還包括:獲取用戶的數據轉換任務集合更新請求;響應于所述數據轉換任務集合更新請求,呈現所述數據轉換任務集合中各數據轉換任務的列表,以及各數據轉換任務分別對應的標記組件;接收用戶對各數據轉換任務更改后的標記;將重新標記的數據轉換任務作為目標數據轉換任務。
9、在一些實施例中,所述數據轉換規則包括以下至少一者:數據類型轉換、字段歸并、字段截取、字典轉換。
10、本說明書第二方面提供一種數據表處理裝置,包括:第一獲取單元,用于獲取數據轉換任務集合,所述數據轉換任務集合中包括多個數據轉換任務,每個數據轉換任務包括源表數據信息、目標表數據信息和數據轉換規則;執行單元,用于執行所述數據轉換任務集合中的各目標數據轉換任務,從目標數據轉換任務對應的源數據表獲取源數據,將源數據按照數據轉換規則進行處理得到目標數據,并將目標數據加載至目標數據轉換任務對應的目標數據表中;所述裝置還包括:第二獲取單元,用于獲取用戶觸發的數據轉換任務處理請求;所述數據轉換任務處理請求包括以下至少一者:增加新的數據轉換任務、刪除或修改現有的數據轉換任務;第一呈現單元,用于響應于所述數據轉換任務處理請求,呈現相應的用戶界面并接收用戶輸入的數據;更新單元,用于根據用戶輸入的數據更新數據轉換任務集合。
11、在一些實施例中,所述裝置還包括:第一接收單元,用于響應于增加新的數據轉換任務請求,接收用戶輸入的第三方系統的地址、登錄賬號及密碼;生成單元,用于根據用戶輸入的數據生成一個數據轉換任務,所述數據轉換任務用于根據所述地址打開所述第三方系統,輸入登錄賬號及密碼,在登錄后輸入源數據以獲得查詢結果,并將所述查詢結果作為目標數據加載至目標數據表中。
12、在一些實施例中,所述執行單元在執行所述數據轉換任務的數據轉換規則過程中,在根據源數據庫的源數據表中的源數據字段進行處理后,向日志文件中寫入日志信息,所述日志信息包括數據轉換完成狀態,以及以下至少一者:源數據庫名稱、源數據表名稱、源數據字段名稱。
13、在一些實施例中,所述裝置還包括:第二接收單元,用于響應于對于現有數據轉換任務的修改請求,接收用戶輸入的待修改數據轉換任務對應的以下至少一種信息:源數據庫名稱、源數據表名稱、源數據字段名稱、目標數據庫名稱、目標數據表名稱、目標數據字段名稱;查詢單元,用于根據修改請求中的信息查詢到關聯數據轉換任務;判斷單元,用于判斷所述關聯數據轉換任務是否存在數據轉換規則處于執行中狀態;處理單元,用于在判斷結果為是的情況下,暫停對新的數據執行關聯數據轉換任務,并在處于執行中狀態的關聯數據轉換任務執行完畢后,再開始對新的數據執行更新后的關聯數據轉換任務。
14、在一些實施例中,所述裝置還包括:第一確定單元,用于在一個數據轉換規則執行失敗的情況下,確定所述數據轉換規則對應的關聯數據轉換任務;回退單元,用于回退執行所述關聯數據轉換任務對應的各數據轉換規則;設置單元,用于設置所述關聯數據轉換任務執行失敗。
15、在一些實施例中,所述裝置還包括:分配單元,用于執行所述數據轉換任務集合中的各目標數據轉換任務之前,按照所述數據轉換任務集合中的各目標數據轉換任務的優先級為各目標數據轉換任務分配處理資源。
16、本文檔來自技高網...
【技術保護點】
1.一種數據表處理方法,其特征在于,包括:
2.根據權利要求1所述的方法,其特征在于,所述方法還包括:
3.根據權利要求1所述的方法,其特征在于,所述數據轉換任務的數據轉換規則包括:
4.根據權利要求1所述的方法,其特征在于,所述方法還包括:
5.根據權利要求1所述的方法,其特征在于,所述方法還包括:
6.根據權利要求5所述的方法,其特征在于,執行所述數據轉換任務集合中的各目標數據轉換任務之前,包括:
7.根據權利要求1所述的方法,其特征在于,所述方法還包括:
8.根據權利要求1所述的方法,其特征在于,所述數據轉換規則包括以下至少一者:數據類型轉換、字段歸并、字段截取、字典轉換。
9.一種數據表處理裝置,其特征在于,包括:
10.一種電子設備,其特征在于,包括:
11.一種計算機存儲介質,其特征在于,所述計算機存儲介質存儲有計算機程序指令,所述計算機程序指令被執行時實現權利要求1至8任一項所述的數據表處理方法的步驟。
12.一種計算機程序產品,其特征
...【技術特征摘要】
1.一種數據表處理方法,其特征在于,包括:
2.根據權利要求1所述的方法,其特征在于,所述方法還包括:
3.根據權利要求1所述的方法,其特征在于,所述數據轉換任務的數據轉換規則包括:
4.根據權利要求1所述的方法,其特征在于,所述方法還包括:
5.根據權利要求1所述的方法,其特征在于,所述方法還包括:
6.根據權利要求5所述的方法,其特征在于,執行所述數據轉換任務集合中的各目標數據轉換任務之前,包括:
7.根據權利要求1所述的方法,其特征在于,所述方法還包括:
...
【專利技術屬性】
技術研發人員:武小圍,
申請(專利權)人:中國建設銀行股份有限公司,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。