System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本專利技術屬于圖表示學習領域,更為具體地講,涉及一種簡單的無監(jiān)督圖表示學習方法。
技術介紹
1、由于圖神經網絡(gnn)的廣泛應用,無監(jiān)督圖表示學習(ugrl)最近也受到了極大的關注。ugrl不需要大量的標記節(jié)點進行訓練,它可以通過同時學習表示和保留樣本的局部結構來輸出判別表示。判別性表示保證了下游任務輸出有效的模型,使得ugrl在實際應用中表現出顯著的性能。作為ugrl的代表方法之一,對比學習被提出以最大化輸入內容和相關內容之間的互補信息(mi)。
2、圖對比學習方法之間的關鍵區(qū)別在于對輸入內容及其相關內容的定義,例如,deep?graph?infomax(dgi)最大化了節(jié)點表示和圖摘要之間的互信息。圖形互信息(gmi)最大化了輸入圖和輸出圖之間的互信息。grace通過各種數據增強,例如屬性屏蔽或邊緣擾動,最大化每個節(jié)點的兩個視圖之間的互信息。
3、雖然之前的方法在表示學習的許多任務中都是有效的,但它們通常依賴數據增強來生成互信息最大化的輸入內容及其相關內容,從而導致訓練過程的計算成本昂貴。因此,之前的這些方法通常是低效的,特別是對于大規(guī)模數據集,其中隨著樣本數量或嵌入維度的增加,計算成本會急劇增加。事實上,之前的對比學習方法導致可擴展性弱的原因包括數據增強、高維嵌入、對比損失等。首先,之前的工作通常通過數據增強生成多個視圖作為相關內容,例如,通過刪除邊和屏蔽節(jié)點特征來生成多個視圖,因此,數據增強(包括數據生成和數據編碼)的計算成本約占訓練時間的20%-40%。其次,現有工作通過增加嵌入的維度來提高表
技術實現思路
1、本專利技術的目的是克服現有技術的不足,提供一種新的對比學習方法即簡單無監(jiān)督圖表示學習(simple?unsupervised?graph?representation?learning,sugrl),以實現表示學習的有效性和可擴展性。
2、專利技術設計了一個簡單的框架,即sugrl,以實現有效和高效的對比學習。為了獲得有效性,我們設計了兩個三元組損失來探索結構信息和鄰居信息之間的互補信息,以擴大類間差異,以及一個上限損失來減少類內差異。為了提高效率,我們的方法被設計去除了用于生成錨點和負樣本表示的gcn,以及從之前的圖對比學習中去除了數據增強和鑒別器。我們在各種真實世界的數據集上進行了全面的實驗,實驗結果表明,我們的方法在準確性和可擴展性方面始終優(yōu)于最先進的方法。
3、本專利技術具有以下有益效果:
4、1)本專利技術聯合考慮結構信息和鄰居信息來探索它們的互補信息,旨在擴大類間差異,同時設計一個上限損失來實現小的類內差異,保證了有效性;
5、2)本專利技術為了提高效率從對比學習中刪除了數據增強和判別器,這使得我們的方法在大規(guī)模數據集上很容易實現可擴展性;
6、3)本專利技術在8個公開基準數據集上進行了全面的實證研究,與11種對比方法相比,驗證了本專利技術在節(jié)點分類方面的有效性和高效性。
本文檔來自技高網...【技術保護點】
1.一種簡單無監(jiān)督圖表示學習方法,其特征在于,包括以下步驟:
2.根據權利要求1所述的采用GCN生成正樣本表示方法,其特征在于,所述步驟S5中兩種類型的正樣本表示采用如下方法生成:
【技術特征摘要】
1.一種簡單無監(jiān)督圖表示學習方法,其特征在于,包括以下步驟:
2.根據權利要求1所述...
【專利技術屬性】
技術研發(fā)人員:朱曉峰,楊文遠,莫宇杰,
申請(專利權)人:電子科技大學深圳高等研究院,
類型:發(fā)明
國別省市:
還沒有人留言評論。發(fā)表了對其他瀏覽者有用的留言會獲得科技券。