System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內(nèi)的位置。 參數(shù)名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術(shù)實(shí)現(xiàn)步驟摘要】
本專利技術(shù)涉及人工智能,尤其是一種層次實(shí)體鄰居多關(guān)系融合的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法。
技術(shù)介紹
1、知識圖譜(knowledge?graph)是一種用于表示和組織大量結(jié)構(gòu)化知識的圖形數(shù)據(jù)模型。它通過節(jié)點(diǎn)(實(shí)體)和邊(關(guān)系)的形式來表示現(xiàn)實(shí)世界中的實(shí)體及其之間的關(guān)系,從而構(gòu)建出一個(gè)復(fù)雜的、語義豐富的知識網(wǎng)絡(luò)。
2、現(xiàn)有基于圖神經(jīng)網(wǎng)絡(luò)(gnn)的知識圖譜技術(shù)通常默認(rèn)所有鄰居節(jié)點(diǎn)具有相同的貢獻(xiàn),即為所有鄰居節(jié)點(diǎn)分配相同的權(quán)重。然而,不同鄰居節(jié)點(diǎn)對中心實(shí)體的影響并不均等,這種假設(shè)忽略了鄰居之間的重要性差異,導(dǎo)致現(xiàn)有模型難以準(zhǔn)確捕捉實(shí)體間的細(xì)微聯(lián)系,從而影響鏈接預(yù)測的性能。
3、其次,現(xiàn)有方法在處理不同關(guān)系路徑時(shí),未能充分考慮各關(guān)系路徑對中心實(shí)體表示的重要性差異,往往一視同仁地對待所有路徑,這可能削弱某些關(guān)鍵路徑在知識表示中的語義貢獻(xiàn),限制了模型對復(fù)雜關(guān)系的建模能力。
技術(shù)實(shí)現(xiàn)思路
1、本專利技術(shù)的目的是提供一種層次實(shí)體鄰居多關(guān)系融合的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,可解決現(xiàn)有模型在構(gòu)建中忽視不同鄰居節(jié)點(diǎn)間重要性差異和關(guān)系路徑處理不足的問題。
2、為達(dá)到上述目的,本專利技術(shù)提供了一種層次實(shí)體鄰居多關(guān)系融合的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,包括:
3、s1,對知識圖譜中的各個(gè)目標(biāo)實(shí)體構(gòu)建關(guān)系子圖;
4、s2,運(yùn)用動態(tài)注意力機(jī)制對每一關(guān)系子圖中實(shí)體周圍的信息進(jìn)行聚合,并對不同嵌入關(guān)系下的實(shí)體進(jìn)行連接和聚合;
5、s3,利用鄰接關(guān)系融合技術(shù),整合不同
6、可選的,所述步驟s1包含:
7、s1.1,將知識圖譜中的實(shí)體三元組進(jìn)行劃分;得到某一目標(biāo)實(shí)體hv的核心實(shí)體e1、各鄰居實(shí)體ei,以及核心實(shí)體與鄰居實(shí)體間的不同嵌入關(guān)系ri;
8、s1.2,根據(jù)不同的關(guān)系嵌入ri,對劃分后的實(shí)體三元組進(jìn)行關(guān)系子圖的構(gòu)建。
9、可選的,所述步驟s2包含:
10、s2.1,第一層融合:對同一嵌入關(guān)系下的關(guān)系子圖進(jìn)行關(guān)系融合;
11、s2.2,第二層融合:對經(jīng)過第一層融合后的不同嵌入關(guān)系下的實(shí)體信息進(jìn)行再次融合;
12、其中,所述第一層融合包含:
13、s2.1.1,第一次特征融合;
14、s2.1.2,第二次特征融合;
15、s2.1.3,第三次特征融合;
16、s2.1.4,信息融入。
17、可選的,所述s2.1.1第一次特征融合包含:
18、對同一嵌入關(guān)系下的關(guān)系子圖進(jìn)行特征融合,以形成特征融合向量:
19、
20、式中,hv代表關(guān)系子圖中的中心節(jié)點(diǎn)v的特征向量,hu代表關(guān)系子圖中的中心節(jié)點(diǎn)v的鄰居節(jié)點(diǎn)u的特征向量,運(yùn)算符表示特征融合操作,表示融合特征向量。
21、可選的,所述s2.1.2第二次特征融合包含:
22、s2.1.2.1,通過動態(tài)注意力函數(shù)得到經(jīng)過第一次特征融合后的注意力值該注意力值的計(jì)算公式如下:
23、
24、式中,exp代表指數(shù)函數(shù),是一個(gè)可學(xué)習(xí)向量,leakyrelu是一種激活函數(shù),w1表示可學(xué)習(xí)的權(quán)重矩陣;表示在嵌入關(guān)系r下,連接到中心節(jié)點(diǎn)v的鄰居節(jié)點(diǎn)u的集合;
25、s2.1.2.2,運(yùn)用注意力值對融合特征向量進(jìn)行更新,得到二次融合特征向量
26、
27、式中,hn表示鄰居節(jié)點(diǎn)n的特征向量;表示中心節(jié)點(diǎn)v與鄰居節(jié)點(diǎn)u之間的關(guān)系數(shù)量。
28、可選的,所述s2.1.3第三次特征融合包含:
29、通過k頭注意方式對二次融合特征向量進(jìn)行再次更新,得到三次融合特征向量
30、
31、式中,k表示多頭注意力的頭數(shù)。
32、可選的,所述s2.1.4信息融入包含:
33、將與實(shí)體相關(guān)的信息通過信息融入公式融入到經(jīng)過特征融合的實(shí)體中,得到n個(gè)對應(yīng)于不同關(guān)系子圖的信息融入特征向量,該信息融入特征向量的計(jì)算公式為:
34、
35、式中,hr表示實(shí)體間的關(guān)系節(jié)點(diǎn),w3表示線性變換矩陣。
36、可選的,所述步驟s2.2包含:
37、s2.2.1,獲得基于不同嵌入關(guān)系的關(guān)系子圖的重要性,捕獲過程如下:
38、
39、其中,att表示注意力函數(shù),表示不同嵌入關(guān)系下的關(guān)系子圖的重要性,表示基于不同關(guān)系子圖的信息融入特征向量;
40、s2.2.2,根據(jù)不同嵌入關(guān)系的關(guān)系子圖的重要性,對不同嵌入關(guān)系下的實(shí)體進(jìn)行連接和聚合,得到聚合向量
41、
42、式中,表示中的任意一個(gè),表示與該對應(yīng)的學(xué)習(xí)系數(shù)。
43、可選的,所述步驟s3包含:
44、s3.1,采用鄰接關(guān)系融合技術(shù)對聚合向量進(jìn)行鄰接融合計(jì)算,以得到鄰接融合向量
45、s3.2,通過負(fù)采樣,進(jìn)行梯度訓(xùn)練以獲得模型預(yù)測值與真實(shí)值之間的loss差異,進(jìn)而優(yōu)化模型。
46、可選的,所述步驟s3.1中采用的鄰接關(guān)系融合技術(shù)的計(jì)算公式為:
47、
48、式中,w5和w6為線性變換矩陣;⊙表示哈達(dá)瑪積計(jì)算符;σ為融合計(jì)算符。
49、綜上所述,與現(xiàn)有技術(shù)相比,本專利技術(shù)具有以下有益效果:
50、1、本專利技術(shù)提供的一種層次實(shí)體鄰居多關(guān)系融合的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,通過引入動態(tài)注意力機(jī)制,實(shí)現(xiàn)了對不同鄰居節(jié)點(diǎn)重要性影響的精確評估,以有效捕捉對鏈接預(yù)測至關(guān)重要的鄰居節(jié)點(diǎn)信息,從而提高實(shí)體表示的精確性和模型的預(yù)測性能。
51、2、本專利技術(shù)提供的一種層次實(shí)體鄰居多關(guān)系融合的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,通過將關(guān)系子圖與鄰接關(guān)系融合技術(shù)(arf)相結(jié)合,進(jìn)而根據(jù)每個(gè)關(guān)系路徑的重要性動態(tài)分配權(quán)重,使得模型能夠更加細(xì)致地理解和構(gòu)建這些關(guān)系路徑。
本文檔來自技高網(wǎng)...【技術(shù)保護(hù)點(diǎn)】
1.一種層次實(shí)體鄰居多關(guān)系融合的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,包含:
2.如權(quán)利要求1所述的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,所述步驟S1包含:
3.如權(quán)利要求2所述的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,所述步驟S2包含:
4.如權(quán)利要求3所述的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,所述S2.1.1第一次特征融合包含:
5.如權(quán)利要求4所述的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,所述S2.1.2第二次特征融合包含:
6.如權(quán)利要求5所述的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,所述S2.1.3第三次特征融合包含:
7.如權(quán)利要求6所述的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,所述S2.1.4信息融入包含:
8.如權(quán)利要求7所述的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,所述步驟S2.2包含:
9.如權(quán)利要求8所述的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,所述步驟S3包含:
10.如權(quán)利要求9所述的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,所述步驟S3.1中采用的鄰接關(guān)系融合技術(shù)的計(jì)算公式為:
【技術(shù)特征摘要】
1.一種層次實(shí)體鄰居多關(guān)系融合的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,包含:
2.如權(quán)利要求1所述的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,所述步驟s1包含:
3.如權(quán)利要求2所述的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,所述步驟s2包含:
4.如權(quán)利要求3所述的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,所述s2.1.1第一次特征融合包含:
5.如權(quán)利要求4所述的知識圖譜補(bǔ)全網(wǎng)絡(luò)算法,其特征在于,所述s2.1.2第二次特征融合包含:
6.如權(quán)利要...
【專利技術(shù)屬性】
技術(shù)研發(fā)人員:王佳裕,周敏,謝邦鵬,沈浩,陳赟,潘智俊,趙文愷,傅超然,王曉慧,杜海舟,曹渝昆,徐康樂,
申請(專利權(quán))人:國網(wǎng)上海市電力公司,
類型:發(fā)明
國別省市:
還沒有人留言評論。發(fā)表了對其他瀏覽者有用的留言會獲得科技券。