【技術(shù)實(shí)現(xiàn)步驟摘要】
本公開的實(shí)施例涉及計(jì)算機(jī)，具體涉及模型訓(xùn)練方法、信息生成方法、裝置、設(shè)備、介質(zhì)和產(chǎn)品。
技術(shù)介紹
1、物品圖數(shù)據(jù)是記錄物品和其他物品之間關(guān)聯(lián)關(guān)系的圖譜。通過物品圖數(shù)據(jù)，可以提供更多的物品相關(guān)特征，以用于物品相關(guān)任務(wù)模型的訓(xùn)練。目前，在對(duì)物品相關(guān)任務(wù)模型進(jìn)行訓(xùn)練時(shí)，通常采用的方式為：使用固定溫度系數(shù)的神經(jīng)網(wǎng)絡(luò)蒸餾方法，或獨(dú)立考慮圖數(shù)據(jù)中每個(gè)節(jié)點(diǎn)在教師模型和學(xué)生模型中生成的輸出向量確定溫度系數(shù)。
2、然而，專利技術(shù)人發(fā)現(xiàn)，當(dāng)采用上述方式對(duì)物品相關(guān)任務(wù)模型進(jìn)行訓(xùn)練時(shí)，經(jīng)常會(huì)存在如下技術(shù)問題：相比采用動(dòng)態(tài)溫度系數(shù)的神經(jīng)網(wǎng)絡(luò)蒸餾方法，采用固定溫度系數(shù)方式訓(xùn)練得到的物品相關(guān)任務(wù)模型的準(zhǔn)確率較低，確定溫度系數(shù)時(shí)獨(dú)立考慮圖數(shù)據(jù)中每個(gè)節(jié)點(diǎn)在教師模型和學(xué)生模型中生成的輸出向量，導(dǎo)致相鄰節(jié)點(diǎn)之間的溫度系數(shù)差異較大，造成訓(xùn)練得到的物品相關(guān)任務(wù)模型的準(zhǔn)確率較低。
3、該
技術(shù)介紹
部分中所公開的以上信息僅用于增強(qiáng)對(duì)本專利技術(shù)構(gòu)思的背景的理解，并因此，其可包含并不形成本國(guó)的本領(lǐng)域普通技術(shù)人員已知的現(xiàn)有技術(shù)的信息。
技術(shù)實(shí)現(xiàn)思路
1、本公開的內(nèi)容部分用于以簡(jiǎn)要的形式介紹構(gòu)思，這些構(gòu)思將在后面的具體實(shí)施方式部分被詳細(xì)描述。本公開的內(nèi)容部分并不旨在標(biāo)識(shí)要求保護(hù)的技術(shù)方案的關(guān)鍵特征或必要特征，也不旨在用于限制所要求的保護(hù)的技術(shù)方案的范圍。
2、本公開的一些實(shí)施例提出了信息生成模型訓(xùn)練方法、信息生成方法、裝置、電子設(shè)備、計(jì)算機(jī)可讀介質(zhì)和計(jì)算機(jī)程序產(chǎn)品，來解決以上
技術(shù)介紹
部分提到的技術(shù)問題
3、第一方面，本公開的一些實(shí)施例提供了一種信息生成模型訓(xùn)練方法，該方法包括：根據(jù)獲取的物品圖數(shù)據(jù)，對(duì)第一初始物品信息生成模型進(jìn)行訓(xùn)練，得到第一物品信息生成模型，其中，上述第一物品信息生成模型對(duì)應(yīng)有與各個(gè)物品節(jié)點(diǎn)對(duì)應(yīng)的各個(gè)第一預(yù)測(cè)分向量，上述各個(gè)物品節(jié)點(diǎn)對(duì)應(yīng)上述物品圖數(shù)據(jù)；基于物品圖數(shù)據(jù)，執(zhí)行以下訓(xùn)練步驟：對(duì)于物品圖數(shù)據(jù)對(duì)應(yīng)的至少一個(gè)物品節(jié)點(diǎn)中的每個(gè)物品節(jié)點(diǎn)，根據(jù)物品圖數(shù)據(jù)中上述物品節(jié)點(diǎn)對(duì)應(yīng)的物品節(jié)點(diǎn)數(shù)據(jù)和第二初始物品信息生成模型，生成對(duì)應(yīng)上述物品節(jié)點(diǎn)的初始溫度系數(shù)，其中，第二初始物品信息生成模型為圖神經(jīng)網(wǎng)絡(luò)模型；對(duì)于上述至少一個(gè)物品節(jié)點(diǎn)中的每個(gè)物品節(jié)點(diǎn)，根據(jù)對(duì)應(yīng)上述物品節(jié)點(diǎn)的各個(gè)鄰接物品節(jié)點(diǎn)的初始溫度系數(shù)和上述物品節(jié)點(diǎn)的初始溫度系數(shù)，生成對(duì)應(yīng)上述物品節(jié)點(diǎn)的溫度系數(shù)；根據(jù)上述各個(gè)第一預(yù)測(cè)分向量、對(duì)應(yīng)上述至少一個(gè)物品節(jié)點(diǎn)的各個(gè)溫度系數(shù)、第二初始物品信息生成模型對(duì)應(yīng)上述至少一個(gè)物品節(jié)點(diǎn)的各個(gè)第二預(yù)測(cè)分向量，生成損失值；響應(yīng)于確定第二初始物品信息生成模型未達(dá)到收斂條件，根據(jù)上述損失值，調(diào)整第二初始物品信息生成模型的網(wǎng)絡(luò)參數(shù)，以及使用未使用過的物品節(jié)點(diǎn)的節(jié)點(diǎn)數(shù)據(jù)組成物品圖數(shù)據(jù)，使用調(diào)整后的第二初始物品信息生成模型作為第二初始物品信息生成模型，再次執(zhí)行上述訓(xùn)練步驟。
4、可選地，上述訓(xùn)練步驟還包括：響應(yīng)于確定第二初始物品信息生成模型達(dá)到收斂條件，將第二初始物品信息生成模型確定為訓(xùn)練完成的物品信息生成模型。
5、可選地，上述根據(jù)物品圖數(shù)據(jù)中上述物品節(jié)點(diǎn)對(duì)應(yīng)的物品節(jié)點(diǎn)數(shù)據(jù)和第二初始物品信息生成模型，生成對(duì)應(yīng)上述物品節(jié)點(diǎn)的初始溫度系數(shù)，包括：響應(yīng)于確定上述物品節(jié)點(diǎn)滿足預(yù)設(shè)條件，將上述物品節(jié)點(diǎn)的初始溫度系數(shù)確定為對(duì)應(yīng)預(yù)設(shè)溫度系數(shù)范圍的最大預(yù)設(shè)溫度系數(shù)，其中，上述預(yù)設(shè)條件為物品節(jié)點(diǎn)對(duì)應(yīng)有標(biāo)簽信息，且上述第一物品信息生成模型對(duì)應(yīng)上述物品節(jié)點(diǎn)的預(yù)測(cè)標(biāo)簽信息滿足預(yù)設(shè)錯(cuò)誤條件。
6、可選地，上述根據(jù)物品圖數(shù)據(jù)中上述物品節(jié)點(diǎn)對(duì)應(yīng)的物品節(jié)點(diǎn)數(shù)據(jù)和第二初始物品信息生成模型，生成對(duì)應(yīng)上述物品節(jié)點(diǎn)的初始溫度系數(shù)，還包括：響應(yīng)于確定上述物品節(jié)點(diǎn)不滿足上述預(yù)設(shè)條件，將上述物品節(jié)點(diǎn)數(shù)據(jù)輸入至第二初始物品信息生成模型，得到第二預(yù)測(cè)分向量；確定上述第二預(yù)測(cè)分向量中的最大值；根據(jù)上述最大值和上述預(yù)設(shè)溫度系數(shù)范圍，生成對(duì)應(yīng)上述物品節(jié)點(diǎn)的初始溫度系數(shù)。
7、可選地，上述根據(jù)對(duì)應(yīng)上述物品節(jié)點(diǎn)的各個(gè)鄰接物品節(jié)點(diǎn)的初始溫度系數(shù)和上述物品節(jié)點(diǎn)的初始溫度系數(shù)，生成對(duì)應(yīng)上述物品節(jié)點(diǎn)的溫度系數(shù)，包括：將上述各個(gè)鄰接物品節(jié)點(diǎn)的初始溫度系數(shù)的平均值確定為平均初始溫度系數(shù)；根據(jù)上述平均初始溫度系數(shù)、上述物品節(jié)點(diǎn)的初始溫度系數(shù)和超參數(shù)，生成對(duì)應(yīng)上述物品節(jié)點(diǎn)的溫度系數(shù)。
8、可選地，上述根據(jù)上述各個(gè)第一預(yù)測(cè)分向量、對(duì)應(yīng)上述至少一個(gè)物品節(jié)點(diǎn)的各個(gè)溫度系數(shù)、第二初始物品信息生成模型對(duì)應(yīng)上述至少一個(gè)物品節(jié)點(diǎn)的各個(gè)第二預(yù)測(cè)分向量，生成損失值，包括：對(duì)于上述至少一個(gè)物品節(jié)點(diǎn)中的每個(gè)物品節(jié)點(diǎn)，執(zhí)行以下步驟：響應(yīng)于確定上述物品節(jié)點(diǎn)對(duì)應(yīng)有標(biāo)簽信息，根據(jù)上述標(biāo)簽信息和對(duì)應(yīng)上述物品節(jié)點(diǎn)的第二預(yù)測(cè)分向量，生成監(jiān)督損失值；根據(jù)對(duì)應(yīng)上述物品節(jié)點(diǎn)的溫度系數(shù)、第一預(yù)測(cè)分向量和第二預(yù)測(cè)分向量，生成蒸餾損失值；根據(jù)上述監(jiān)督損失值和上述蒸餾損失值，生成對(duì)應(yīng)上述物品節(jié)點(diǎn)的物品節(jié)點(diǎn)損失值；將所生成的各個(gè)物品節(jié)點(diǎn)損失值的和確定為損失值。
9、可選地，方法還包括：對(duì)上述物品信息生成模型進(jìn)行上線處理。
10、第二方面，本公開的一些實(shí)施例提供了一種信息生成模型訓(xùn)練裝置，裝置包括：第一訓(xùn)練單元，被配置成根據(jù)獲取的物品圖數(shù)據(jù)，對(duì)第一初始物品信息生成模型進(jìn)行訓(xùn)練，得到第一物品信息生成模型，其中，上述第一物品信息生成模型對(duì)應(yīng)有與各個(gè)物品節(jié)點(diǎn)對(duì)應(yīng)的各個(gè)第一預(yù)測(cè)分向量，上述各個(gè)物品節(jié)點(diǎn)對(duì)應(yīng)上述物品圖數(shù)據(jù)；第二訓(xùn)練單元，被配置成基于物品圖數(shù)據(jù)，執(zhí)行以下訓(xùn)練步驟：對(duì)于物品圖數(shù)據(jù)對(duì)應(yīng)的至少一個(gè)物品節(jié)點(diǎn)中的每個(gè)物品節(jié)點(diǎn)，根據(jù)物品圖數(shù)據(jù)中上述物品節(jié)點(diǎn)對(duì)應(yīng)的物品節(jié)點(diǎn)數(shù)據(jù)和第二初始物品信息生成模型，生成對(duì)應(yīng)上述物品節(jié)點(diǎn)的初始溫度系數(shù)，其中，第二初始物品信息生成模型為圖神經(jīng)網(wǎng)絡(luò)模型；對(duì)于上述至少一個(gè)物品節(jié)點(diǎn)中的每個(gè)物品節(jié)點(diǎn)，根據(jù)對(duì)應(yīng)上述物品節(jié)點(diǎn)的各個(gè)鄰接物品節(jié)點(diǎn)的初始溫度系數(shù)和上述物品節(jié)點(diǎn)的初始溫度系數(shù)，生成對(duì)應(yīng)上述物品節(jié)點(diǎn)的溫度系數(shù)；根據(jù)上述各個(gè)第一預(yù)測(cè)分向量、對(duì)應(yīng)上述至少一個(gè)物品節(jié)點(diǎn)的各個(gè)溫度系數(shù)、第二初始物品信息生成模型對(duì)應(yīng)上述至少一個(gè)物品節(jié)點(diǎn)的各個(gè)第二預(yù)測(cè)分向量，生成損失值；響應(yīng)于確定第二初始物品信息生成模型未達(dá)到收斂條件，根據(jù)上述損失值，調(diào)整第二初始物品信息生成模型的網(wǎng)絡(luò)參數(shù)，以及使用未使用過的物品節(jié)點(diǎn)的節(jié)點(diǎn)數(shù)據(jù)組成物品圖數(shù)據(jù)，使用調(diào)整后的第二初始物品信息生成模型作為第二初始物品信息生成模型，再次執(zhí)行上述訓(xùn)練步驟。
11、可選地，上述訓(xùn)練步驟還包括：響應(yīng)于確定第二初始物品信息生成模型達(dá)到收斂條件，將第二初始物品信息生成模型確定為訓(xùn)練完成的物品信息生成模型。
12、可選地，第二訓(xùn)練單元進(jìn)一步被配置成：響應(yīng)于確定上述物品節(jié)點(diǎn)滿足預(yù)設(shè)條件，將上述物品節(jié)點(diǎn)的初始溫度系數(shù)確定為對(duì)應(yīng)預(yù)設(shè)溫度系數(shù)范圍的最大預(yù)設(shè)溫度系數(shù)，其中，上述預(yù)設(shè)條件為物品節(jié)點(diǎn)對(duì)應(yīng)有標(biāo)簽信息，且上述第一物品信息生成模型對(duì)應(yīng)上述物品節(jié)點(diǎn)的預(yù)測(cè)標(biāo)簽信息滿足預(yù)設(shè)錯(cuò)誤條件。
13、可選地，第二訓(xùn)練單元進(jìn)一步被配置成：響應(yīng)于確定上述物品節(jié)點(diǎn)不滿足上述預(yù)設(shè)條件，將上述物品節(jié)點(diǎn)數(shù)據(jù)輸入至第二初本文檔來自技高網(wǎng)...
【技術(shù)保護(hù)點(diǎn)】
1.一種信息生成模型訓(xùn)練方法，包括：
2.根據(jù)權(quán)利要求1所述的方法，其中，所述訓(xùn)練步驟還包括：
3.根據(jù)權(quán)利要求1所述的方法，其中，所述根據(jù)物品圖數(shù)據(jù)中所述物品節(jié)點(diǎn)對(duì)應(yīng)的物品節(jié)點(diǎn)數(shù)據(jù)和第二初始物品信息生成模型，生成對(duì)應(yīng)所述物品節(jié)點(diǎn)的初始溫度系數(shù)，包括：
4.根據(jù)權(quán)利要求3所述的方法，其中，所述根據(jù)物品圖數(shù)據(jù)中所述物品節(jié)點(diǎn)對(duì)應(yīng)的物品節(jié)點(diǎn)數(shù)據(jù)和第二初始物品信息生成模型，生成對(duì)應(yīng)所述物品節(jié)點(diǎn)的初始溫度系數(shù)，還包括：
5.根據(jù)權(quán)利要求1所述的方法，其中，所述根據(jù)對(duì)應(yīng)所述物品節(jié)點(diǎn)的各個(gè)鄰接物品節(jié)點(diǎn)的初始溫度系數(shù)和所述物品節(jié)點(diǎn)的初始溫度系數(shù)，生成對(duì)應(yīng)所述物品節(jié)點(diǎn)的溫度系數(shù)，包括：
6.根據(jù)權(quán)利要求1所述的方法，其中，所述根據(jù)所述各個(gè)第一預(yù)測(cè)分向量、對(duì)應(yīng)所述至少一個(gè)物品節(jié)點(diǎn)的各個(gè)溫度系數(shù)、第二初始物品信息生成模型對(duì)應(yīng)所述至少一個(gè)物品節(jié)點(diǎn)的各個(gè)第二預(yù)測(cè)分向量，生成損失值，包括：
7.根據(jù)權(quán)利要求1-6之一所述的方法，其中，所述方法還包括：
8.一種信息生成方法，包括：
9.根據(jù)權(quán)利要求8所述的方法，其
10.一種信息生成模型訓(xùn)練裝置，包括：
11.一種信息生成裝置，包括：
12.一種電子設(shè)備，包括：
13.一種計(jì)算機(jī)可讀介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序，其中，所述計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1-7或8-9中任一所述的方法。
14.一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，所述計(jì)算機(jī)程序在被處理器執(zhí)行時(shí)實(shí)現(xiàn)根據(jù)權(quán)利要求1-7或8-9中任一項(xiàng)所述的方法。
...【技術(shù)特征摘要】
1.一種信息生成模型訓(xùn)練方法，包括：
2.根據(jù)權(quán)利要求1所述的方法，其中，所述訓(xùn)練步驟還包括：
3.根據(jù)權(quán)利要求1所述的方法，其中，所述根據(jù)物品圖數(shù)據(jù)中所述物品節(jié)點(diǎn)對(duì)應(yīng)的物品節(jié)點(diǎn)數(shù)據(jù)和第二初始物品信息生成模型，生成對(duì)應(yīng)所述物品節(jié)點(diǎn)的初始溫度系數(shù)，包括：
4.根據(jù)權(quán)利要求3所述的方法，其中，所述根據(jù)物品圖數(shù)據(jù)中所述物品節(jié)點(diǎn)對(duì)應(yīng)的物品節(jié)點(diǎn)數(shù)據(jù)和第二初始物品信息生成模型，生成對(duì)應(yīng)所述物品節(jié)點(diǎn)的初始溫度系數(shù)，還包括：
5.根據(jù)權(quán)利要求1所述的方法，其中，所述根據(jù)對(duì)應(yīng)所述物品節(jié)點(diǎn)的各個(gè)鄰接物品節(jié)點(diǎn)的初始溫度系數(shù)和所述物品節(jié)點(diǎn)的初始溫度系數(shù)，生成對(duì)應(yīng)所述物品節(jié)點(diǎn)的溫度系數(shù)，包括：
6.根據(jù)權(quán)利要求1所述的方法，其中，所述根據(jù)所述各個(gè)第一預(yù)測(cè)分向量、對(duì)應(yīng)所述至少一個(gè)物品節(jié)點(diǎn)的各個(gè)溫度...
【專利技術(shù)屬性】
技術(shù)研發(fā)人員：王朝坤，馮昊，姚普，劉健，崔浩，王三鵬，包勇軍，顏偉鵬，朱小坤，
申請(qǐng)(專利權(quán))人：北京京東世紀(jì)貿(mào)易有限公司，
類型：發(fā)明
國(guó)別省市：
還沒有人留言評(píng)論。發(fā)表了對(duì)其他瀏覽者有用的留言會(huì)獲得科技券。