System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 国产精品无码一区二区三区在,无码国产精品一区二区免费虚拟VR,日韩精品人妻系列无码专区
  • 
    <ul id="o6k0g"></ul>
    <ul id="o6k0g"></ul>

    一種自動化元數據管理方法、系統、設備及存儲介質技術方案

    技術編號:44247336 閱讀:11 留言:0更新日期:2025-02-11 13:44
    本發明專利技術公開了一種自動化元數據管理方法、系統、設備和存儲介質,涉及數據治理、元數據管理技術領域,包括系統對不同數據源進行適配,通過數據源配置自動連接數據庫,根據元模型和采集任務配置,將與元模型匹配的元數據自動采集到元數據庫中;定義元模型庫自動從數據庫中采集元模型的當前元數據信息,并校驗采集的元數據是否需要入庫和升版;通過關聯元數據庫中的表和字段進行數據采集,配置過濾條件后使用數據開發組件和將數據自動采集數據倉庫并進行開發,自動構建血緣關系。本發明專利技術減少人工干預,提高元數據管理的效率,確保元數據的一致性和準確性,建立元數據表的血緣關系,清晰展示數據在不同表間的流轉和依賴關系,方便數據的管理和追溯。

    【技術實現步驟摘要】

    本專利技術屬于電力工程,具體涉及一種自動化元數據管理方法、系統、設備及存儲介質


    技術介紹

    1、在現代電力系統中,汽輪機發電機組的穩定運行是保證電力供應連續性和可靠性的關鍵。然而,機組在長期運行過程中不可避免地會遇到設備故障、維護需求或外界干擾導致的停運。根據電力行業的規程,發電機組的停運分為計劃停運和非計劃停運兩種類型。計劃停運是預先安排的停機操作,通常用于設備檢修或系統升級,旨在保障機組的長期安全穩定運行。非計劃停運則是因突發故障或其他意外事件導致的非預期停運,這不僅會影響電力供應的穩定性,還可能對電力系統的整體安全造成威脅。

    2、傳統的機組停運監測和管理方法主要依賴人工巡檢和數據記錄。盡管這種方法在一定程度上能夠滿足基本的管理需求,但隨著電力系統的復雜化和數據量的急劇增長,這種手動監控方式面臨著嚴重的效率和準確性問題。

    3、大量的數據需要人工采集和處理,這不僅耗時費力,還容易導致數據遺漏或錯誤,進而影響停運事件的及時報告和處理。

    4、由于依賴人工填報,機組出現故障后的信息不能及時上傳,可能導致調度和電力平衡受到不利影響,增加了電網運行的壓力。

    5、手工操作容易出現漏報或誤報,導致監管部門無法準確掌握機組的真實運行情況,從而影響決策和后續措施的實施。

    6、鑒于上述問題的存在,本專利技術提出了一種基于模型驅動的機組非停監督方法,旨在通過智能模型的構建和實時數據的自動化處理,克服傳統方法的缺陷,實現對發電機組運行狀態的精準監控和停運事件的自動分類與上報。


    >

    技術實現思路

    1、鑒于上述存在的問題,提出了本專利技術。

    2、因此,本專利技術解決的技術問題是:現有的發電機組停運監控方法存在人工監控效率低、信息反饋滯后以及數據準確性不足的問題,以及如何實現對發電機組運行狀態進行實時監測和自動分類的優化問題。

    3、為解決上述技術問題,本專利技術提供如下技術方案:一種自動化元數據管理方法,包括:進行數據源適配并連接數據庫,采集與元模型匹配的元數據;定義元模型庫,通過數據庫中采集元模型的當前元數據信息;校驗采集的元數據是否需要入庫和升版;將數據自動采集數據倉庫進行數據開發;獲取用戶指定的指標信息構建血緣關系,預測依賴關系定位異常數據。

    4、作為本專利技術所述的一種自動化元數據管理方法的一種優選方案,其中:所述采集與元模型匹配的元數據,包括,

    5、元數據采集包括數據源定義、采集任務配置、采集任務執行和元數據信息入庫;

    6、所述采集任務配置包括數據源、元模型分類、采集策略、自動入庫、采集頻率和采集內容;

    7、采集任務發布后生成采集任務的定時任務,到達指定時間采集任務自行啟動并根據配置的元模型對元數據進行采集和入庫;

    8、所述采集內容點擊新增操作時,從元模型庫中選擇已配置的元模型,添加元模型后,采集任務將采集配置的元模型的元數據信息。

    9、作為本專利技術所述的一種自動化元數據管理方法的一種優選方案,其中:所述校驗采集的元數據是否需要入庫和升版,包括,

    10、在采集任務自行啟動時,查詢本次采集任務前采集到的元數據并獲取元數據對象;

    11、將所有元數據對象的id作為關鍵字存儲到元數據集合map中;

    12、元數據采集任務根據元模型從databasemetadata對象中獲取元模型對應的元數據信息;

    13、元數據信息生成元數據對象,定義元數據對象的id作為關鍵字,查詢元數據集合map中是否包含當前元數據對象的關鍵字;

    14、當map中不包含關鍵字時,則當前元數據對象不存在于元數據庫,進行數據插入。

    15、作為本專利技術所述的一種自動化元數據管理方法的一種優選方案,其中:所述校驗采集的元數據是否需要入庫和升版,還包括,

    16、當map中包含關鍵字時,則判斷當前元數據對象和元數據集合map中的元數據對象是否相等;

    17、若當前元數據對象與元數據集合map中的元數據對象相等,則不需要處理;

    18、若當前元數據對象與元數據集合map中的元數據對象不相等,則把元數據庫中的元數據對象記錄為歷史版本,將當前元數據對象入庫作為最新版本,版本號增加1。

    19、作為本專利技術所述的一種自動化元數據管理方法的一種優選方案,其中:所述數據開發,包括,

    20、通過關聯元數據庫中的表和字段進行數據采集;

    21、將元數據對應表中所有數據存入到數據倉庫中;

    22、所述數據倉庫包括ods、dwd、dws、ads;

    23、根據數據源確定系統中采集到的元數據;

    24、將提供的輸出組件將采集到的結果自動寫入到指定數據倉庫的ods層;

    25、進行清洗和轉換并通過輸出組件自動寫入到dwd層中;

    26、根據用戶數據進行初步聚合和計算并寫入到指定數據倉庫的dws層;

    27、對dws層的數據再次進行高緯度的聚合和運算并寫入到aws層中;

    28、通過圖表組件自動生成圖表并展示到網頁上。

    29、作為本專利技術所述的一種自動化元數據管理方法的一種優選方案,其中:所述構建血緣關系,包括,

    30、在數據倉庫中進行數據開發的過程中,建立元數據表及字段之間的血緣關系,使用spring?aop攔截sql執行語句,并將攔截的sql語句推送到kafka消息隊列,自動識別數據血緣關系;

    31、將攔截到的sql進行篩選獲取查詢語句,解析sql查詢語句,提取表名、列名、操作類型和條件,生成詞法單元,將解析后的詞法單元轉為向量表示為:

    32、,

    33、其中,是詞w的向量表示,構建輸入序列;

    34、構建lstm模型,包括遺忘層、輸入層、lstm層和輸出層;

    35、通過歷史sql查詢和日志數據中提取已知依賴關系作為訓練數據,計算輸出并使用交叉熵損失函數計算誤差loss:

    36、,

    37、通過反向傳播算法計算梯度:

    38、,

    39、使用adam優化器更新模型參數,最小化損失函數a:

    40、,

    41、其中,為第i個元數據的真實標簽,為第i個元數據的預測概率輸出,η是學習率,i為變量索引;

    42、將新的sql查詢或日志數據轉換為向量序列,輸入到訓練好的lstm模型中;

    43、將lstm模型輸出門的值作為輸入值預測數據實體之間的依賴關系,構建數據血緣關系圖;

    44、根據數據血緣關系圖將構建的數據血緣關系存儲到neo4j圖數據庫中,包括表、字段、操作類型。

    45、作為本專利技術所述的一種自動化元數據管理方法的一種優選方案,其中:所述預測依賴關系,包括,

    46、通過三階段依賴模型進行依賴關系的判斷;

    47、輸入模型的第一階段,計算數據間的相似性:

    48、,

    本文檔來自技高網...

    【技術保護點】

    1.一種自動化元數據管理方法,其特征在于:包括,

    2.如權利要求1所述的一種自動化元數據管理方法,其特征在于:所述采集與元模型匹配的元數據,包括,

    3.如權利要求2所述的一種自動化元數據管理方法,其特征在于:所述校驗采集的元數據是否需要入庫和升版,包括,

    4.如權利要求3所述的一種自動化元數據管理方法,其特征在于:所述校驗采集的元數據是否需要入庫和升版,還包括,

    5.如權利要求4所述的一種自動化元數據管理方法,其特征在于:所述數據開發,包括,

    6.如權利要求5所述的一種自動化元數據管理方法,其特征在于:所述構建血緣關系,包括,

    7.如權利要求6所述的一種自動化元數據管理方法,其特征在于:所述預測依賴關系,包括,

    8.一種自動化元數據管理系統,其特征在于,包括,

    9.如權利要求8所述的一種自動化元數據管理系統,其特征在于:所述數據采集與適配模塊,包括,數據源適配單元、采集任務管理單元以及元數據采集單元,數據源適配單元提供連接信息給采集任務管理單元,采集任務管理單元調用元數據采集單元進行數據采集;

    10.一種計算機設備,包括存儲器和處理器,所述存儲器存儲有計算機程序,其特征在于,所述處理器執行所述計算機程序時實現所述的一種自動化元數據管理方法的步驟。

    11.一種計算機可讀存儲介質,其上存儲有計算機程序,其特征在于,所述計算機程序被處理器執行時實現所述的一種自動化元數據管理方法的步驟。

    ...

    【技術特征摘要】

    1.一種自動化元數據管理方法,其特征在于:包括,

    2.如權利要求1所述的一種自動化元數據管理方法,其特征在于:所述采集與元模型匹配的元數據,包括,

    3.如權利要求2所述的一種自動化元數據管理方法,其特征在于:所述校驗采集的元數據是否需要入庫和升版,包括,

    4.如權利要求3所述的一種自動化元數據管理方法,其特征在于:所述校驗采集的元數據是否需要入庫和升版,還包括,

    5.如權利要求4所述的一種自動化元數據管理方法,其特征在于:所述數據開發,包括,

    6.如權利要求5所述的一種自動化元數據管理方法,其特征在于:所述構建血緣關系,包括,

    7.如權利要求6所述的一種自動化元數據管理方法,其特征...

    【專利技術屬性】
    技術研發人員:袁存發張海東鄭豹張強何招亮江家杰岳希沛
    申請(專利權)人:朗坤智慧科技股份有限公司
    類型:發明
    國別省市:

    網友詢問留言 已有0條評論
    • 還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。

    1
    主站蜘蛛池模板: 精品无码成人片一区二区| 精品无码国产自产拍在线观看蜜 | 中文字幕日产无码| 亚洲av无码一区二区三区人妖| 精品国产性色无码AV网站| 亚洲欧洲日产国码无码网站| 中文AV人妻AV无码中文视频| 少妇中文无码高清| 亚洲最大天堂无码精品区| 亚洲精品无码Av人在线观看国产| 亚洲AV成人无码久久WWW| 久久精品无码一区二区三区| 亚洲日韩国产二区无码| 亚洲AV无码不卡无码| 国产日产欧洲无码视频无遮挡| AAA级久久久精品无码片| 亚洲AV无码一区二区乱子伦| 亚洲AV无码乱码在线观看性色扶 | 亚洲国产超清无码专区| 在线精品自拍无码| 无码人妻av一区二区三区蜜臀| 2024你懂的网站无码内射| 无码精品国产VA在线观看| 最新高清无码专区| 亚洲熟妇无码乱子AV电影| 中文字幕av无码不卡| 东京热加勒比无码少妇| 国产成人亚洲精品无码AV大片| 国产久热精品无码激情| 亚洲午夜无码毛片av久久京东热| 无码人妻AV一二区二区三区 | 亚洲中文字幕无码永久在线| 国产精品成人99一区无码| 黄色成人网站免费无码av| 精品欧洲av无码一区二区14| 久久精品aⅴ无码中文字字幕不卡 久久精品aⅴ无码中文字字幕重口 | 国产精品成人一区无码| 真人无码作爱免费视频| 亚洲成A∨人片天堂网无码| 亚洲免费日韩无码系列| 久久精品无码一区二区三区日韩 |