System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本申請屬于數據處理,尤其涉及一種數據處理方法、裝置、設備及存儲介質。
技術介紹
1、數據傳輸平臺(data?transfer?express,dtex)是一種為服務系統實時數據分發和批量數據轉移的平臺,該平臺需要實現按照時間片維度從數據庫中查詢數據,并將其查詢的數據推送至中轉服務。
2、在相關技術中,按照時間片維度從數據庫中查詢數據的過程為,通過預設時間片的起始時間和時間片大小,按照時間片大小串行的從數據庫中讀取每一個時間片對應的數據,比如,預設時間片的起始時間為1月1號零點,時間片大小為10分鐘,基于此,先從數據庫中讀取零點到零點10分的數據,提取完畢后,才能繼續讀取零點10分到20分的數據,由此,會增加數據查詢的時長和耗能,降低從數據庫中查詢數據的效率。
技術實現思路
1、本申請實施例提供一種數據處理方法、裝置、設備及存儲介質,能夠解決相關技術中從數據庫中查詢數據耗能高、效率低的問題。
2、第一方面,本申請實施例提供一種數據處理方法,該方法可以包括:
3、獲取查詢任務的n個查詢時間片;
4、根據n個查詢時間片,創建n個采集協程池,n個采集協程池包括與n個查詢時間片中每個查詢時間片對應的采集協程池,采集協程池包括m個第一協程;
5、通過與每個查詢時間片對應的采集攜程池中的m個第一協程,從數據庫中讀取每個查詢時間片相關的查詢數據;
6、在n個采集協程池中存在目標采集協程池且目標采集協程池對應的目標查詢時間片的時
7、第二方面,本申請實施例提供一種數據處理裝置,該裝置可以包括:
8、獲取模塊,用于獲取查詢任務的n個查詢時間片;
9、創建模塊,用于根據n個查詢時間片,創建n個采集協程池,n個采集協程池包括與n個查詢時間片中每個查詢時間片對應的采集協程池,采集協程池包括m個第一協程;
10、讀取模塊,用于通過與每個查詢時間片對應的采集攜程池中的m個第一協程,從數據庫中讀取每個查詢時間片相關的查詢數據;
11、讀取模塊還可以用于,在n個采集協程池中存在目標采集協程池且目標采集協程池對應的目標查詢時間片的時間與通知管道攜帶的第一查詢時間片的時間匹配的情況下,將與目標查詢時間片相關的查詢數據讀取到數據管道,以向中轉服務發送數據管道中的數據,目標采集協程池中的每個第一攜程處于第一狀態。
12、第三方面,本申請實施例提供了一種計算機設備,該計算機設備包括:處理器以及存儲有計算機程序指令的存儲器;
13、處理器執行計算機程序指令時實現如第一方面所示的數據處理方法。
14、第四方面,本申請實施例提供了一種計算機存儲介質,計算機存儲介質上存儲有計算機程序指令,計算機程序指令被處理器執行時實現如第一方面所示的數據處理方法。
15、第五方面,本申請實施例提供了一種芯片,芯片包括處理器和通信接口,通信接口和處理器耦合,處理器用于運行程序或指令,實現如第一方面所示的數據處理方法。
16、第六方面,本申請實施例提供一種計算機程序產品,該程序產品被存儲在存儲介質中,該程序產品被至少一個處理器執行以實現如第一方面所示的數據處理方法。
17、本申請實施例的數據處理方法、裝置、設備及存儲介質,獲取查詢任務的n個查詢時間片;根據n個查詢時間片,創建n個采集協程池,n個采集協程池包括與n個查詢時間片中每個查詢時間片對應的采集協程池,采集協程池包括m個第一協程;通過與每個查詢時間片對應的采集攜程池中的m個第一協程,從數據庫中讀取每個查詢時間片相關的查詢數據,這樣,可以通過每個查詢時間片對應的采集攜程池中的m個第一協程對數據進行并發處理,能夠顯著減少時間片處理時的等待時間,提高從數據庫中查詢數據的效率,降低從數據庫中查詢數據的耗能。然后,在n個采集協程池中存在目標采集協程池且目標采集協程池對應的目標查詢時間片的時間與通知管道攜帶的第一查詢時間片的時間匹配的情況下,將與目標查詢時間片相關的查詢數據讀取到數據管道,以向中轉服務發送數據管道中的數據,目標采集協程池中的每個第一攜程處于第一狀態。由此,利用單線程串行處理的特性,在保證不影響從數據庫中查詢數據的效率的前提下實現了組包的正確性,避免出現時間片的數據亂序問題。
本文檔來自技高網...【技術保護點】
1.一種數據處理方法,包括:
2.根據權利要求1所述的方法,其中,所述通過與所述每個查詢時間片對應的采集攜程池中的M個第一協程,從數據庫中讀取所述每個查詢時間片相關的查詢數據,包括:
3.根據權利要求1所述的方法,其中,所述通知管道包括N個通知管道,所述N個通知管道包括與所述N個查詢時間片中每個查詢時間片對應的通知管道;所述將與所述目標查詢時間片相關的查詢數據讀取到數據管道之前,所述方法還包括:
4.根據權利要求1所述的方法,其中,所述根據所述N個查詢時間片,創建N個采集協程池,包括:
5.根據權利要求4所述的方法,其中,所述第一狀態為所述第一協程已執行完成讀取的狀態;
6.根據權利要求4所述的方法,其中,所述從數據庫中讀取所述每個查詢時間片相關的查詢數據之后,所述方法還包括:
7.根據權利要求1所述的方法,其中,所述將與所述目標查詢時間片相關的查詢數據讀取到數據管道之后,所述方法還包括:
8.根據權利要求7所述的方法,其中,所述方法還包括:
9.根據權利要求1所述的方法,其中,所述方
10.一種數據處理裝置,包括:
11.一種計算機設備,所述設備包括:處理器以及存儲有計算機程序指令的存儲器;
12.一種存儲介質,所述存儲介質上存儲有計算機程序指令,所述計算機程序指令被處理器執行時實現如權利要求1-9任意一項所述的數據處理方法的步驟。
13.一種計算機程序產品,其特征在于,所述程序產品被存儲在存儲介質中,所述程序產品被至少一個處理器執行以實現如權利要求1-9任意一項所述的數據處理方法的步驟。
...【技術特征摘要】
1.一種數據處理方法,包括:
2.根據權利要求1所述的方法,其中,所述通過與所述每個查詢時間片對應的采集攜程池中的m個第一協程,從數據庫中讀取所述每個查詢時間片相關的查詢數據,包括:
3.根據權利要求1所述的方法,其中,所述通知管道包括n個通知管道,所述n個通知管道包括與所述n個查詢時間片中每個查詢時間片對應的通知管道;所述將與所述目標查詢時間片相關的查詢數據讀取到數據管道之前,所述方法還包括:
4.根據權利要求1所述的方法,其中,所述根據所述n個查詢時間片,創建n個采集協程池,包括:
5.根據權利要求4所述的方法,其中,所述第一狀態為所述第一協程已執行完成讀取的狀態;
6.根據權利要求4所述的方法,其中,所述從數據庫中讀取所述每個查詢時間片相關的查詢數據之后,所述...
【專利技術屬性】
技術研發人員:王斯丙,
申請(專利權)人:中國銀聯股份有限公司,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。