【技術(shù)實(shí)現(xiàn)步驟摘要】
本申請(qǐng)涉及神經(jīng)網(wǎng)絡(luò)，且更為具體地，涉及一種用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法及系統(tǒng)。
技術(shù)介紹
1、微分代數(shù)方程(different?ia?l-al?gebraic?equat?ion,dae)是科學(xué)與工程領(lǐng)域中常見(jiàn)且重要的方程類型，包含了微分方程和代數(shù)方程。這類方程被廣泛應(yīng)用于電力系統(tǒng)仿真、機(jī)械系統(tǒng)建模、化學(xué)反應(yīng)動(dòng)力學(xué)、電路模擬、控制系統(tǒng)設(shè)計(jì)、生物科學(xué)建模等多個(gè)領(lǐng)域。
2、微分代數(shù)方程的指標(biāo)(i?ndex)指的是將微分代數(shù)方程系統(tǒng)轉(zhuǎn)化為常微分方程系統(tǒng)時(shí)，需要對(duì)其部分或全部方程進(jìn)行微分的最小次數(shù)。一般來(lái)說(shuō)，指標(biāo)越高，直接求解dae的難度也越大。由于其復(fù)雜性和高階導(dǎo)數(shù)的存在，求解高指標(biāo)(i?ndex≥2)的微分代數(shù)方程通常具有很大挑戰(zhàn)性，需要采用特殊的數(shù)值方法和算法才能獲得有效解。為此，人們提出了各種近似解析解的數(shù)值方法，如有限差分法、有限元法、有限體積法。然而，傳統(tǒng)的求解方法通常基于數(shù)值計(jì)算或符號(hào)計(jì)算，這些方法存在計(jì)算復(fù)雜度高和精度不高等問(wèn)題。
3、近年來(lái)，隨著物理信息神經(jīng)網(wǎng)絡(luò)技術(shù)的發(fā)展，越來(lái)越多研究者開(kāi)始探索使用神經(jīng)網(wǎng)絡(luò)求解微分代數(shù)方程的方法。神經(jīng)網(wǎng)絡(luò)作為一種新型計(jì)算模型，與傳統(tǒng)數(shù)值計(jì)算方法相比，具有并行計(jì)算、自適應(yīng)學(xué)習(xí)、泛化性強(qiáng)和容錯(cuò)性高等優(yōu)點(diǎn)，因此被認(rèn)為是具有潛力的求解微分代數(shù)方程的工具。
4、目前大多數(shù)神經(jīng)網(wǎng)絡(luò)方法只能求解指標(biāo)為1的微分代數(shù)方程，且現(xiàn)有的神經(jīng)網(wǎng)絡(luò)方法在求解高指標(biāo)微分代數(shù)方程時(shí)存在精度不高和穩(wěn)定性差的問(wèn)題。而kolmogorov–arnold?networks(
5、因此，期望一種用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法及系統(tǒng)，以解決求解高指標(biāo)微分代數(shù)方程所面臨的問(wèn)題。
技術(shù)實(shí)現(xiàn)思路
1、為了解決上述技術(shù)問(wèn)題，提出了本申請(qǐng)。本申請(qǐng)的實(shí)施例提供了一種用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法及系統(tǒng)，通過(guò)預(yù)處理方程、構(gòu)建物理信息神經(jīng)網(wǎng)絡(luò)模型、定義損失函數(shù)、設(shè)置訓(xùn)練參數(shù)和數(shù)據(jù)、以及使用l-bfgs算法進(jìn)行迭代訓(xùn)練，最終實(shí)現(xiàn)高指標(biāo)微分代數(shù)方程的高效精確求解，克服了傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)在此類問(wèn)題上的精度和效率限制。
2、根據(jù)本申請(qǐng)的一個(gè)方面，提供了一種用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其包括：s1.構(gòu)建預(yù)處理模塊，用于對(duì)高指標(biāo)微分代數(shù)方程進(jìn)行預(yù)處理；s2.構(gòu)建基于kan的高指標(biāo)微分代數(shù)方程物理信息神經(jīng)網(wǎng)絡(luò)模型；s3.根據(jù)高指標(biāo)微分代數(shù)方程的物理信息構(gòu)建損失函數(shù)；s4.設(shè)置訓(xùn)練參數(shù)，生成訓(xùn)練數(shù)據(jù)，利用l-bfgs算法對(duì)高指標(biāo)微分代數(shù)方程物理信息神經(jīng)網(wǎng)絡(luò)模型進(jìn)行迭代訓(xùn)練；獲取用于求解高指標(biāo)微分代數(shù)方程物理信息神經(jīng)網(wǎng)絡(luò)模型。
3、在上述用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法中，其特征在于，還包括以下步驟：s5.使用訓(xùn)練好的高指標(biāo)微分代數(shù)方程物理信息神經(jīng)網(wǎng)絡(luò)模型按時(shí)間順序求解微分代數(shù)方程。
4、在上述用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法中，其特征在于，所述步驟s1中的預(yù)處理具體為：將所述形如：y′＝f(y,z)，y(t0)＝y(tǒng)0；0＝g(y)，z(t0)＝z0指標(biāo)微分代數(shù)方程組拆分為微分方程y′＝f(y,z)和代數(shù)方程0＝g(y)。
5、在上述用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法中，其特征在于，所述步驟s2，包括：構(gòu)造帶有可訓(xùn)練參數(shù)θ的多輸出kolmogorov–arnold?networks(kans)神經(jīng)網(wǎng)絡(luò)，使用xavier初始化方法對(duì)神經(jīng)網(wǎng)絡(luò)參數(shù)θ進(jìn)行初始化，選擇b樣條函數(shù)作為可訓(xùn)練的激活函數(shù)，為高指標(biāo)微分代數(shù)方程分配一個(gè)基于kan的多輸出神經(jīng)網(wǎng)絡(luò)。
6、在上述用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法中，其特征在于，所述步驟s3，包括：根據(jù)高指標(biāo)微分代數(shù)方程的特點(diǎn)，將微分代數(shù)方程的物理信息嵌入到基于kan的神經(jīng)網(wǎng)絡(luò)，構(gòu)建基于kan的神經(jīng)網(wǎng)絡(luò)的殘差損失項(xiàng)l殘差，具體如下公式所示：
7、
8、通過(guò)對(duì)初始條件的真實(shí)值與神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)值的均方誤差作為神經(jīng)網(wǎng)絡(luò)的初始條件損失，構(gòu)建基于kan的神經(jīng)網(wǎng)絡(luò)的初始損失項(xiàng)l初始，具體如下公式所示：
9、
10、其中，nf為殘差點(diǎn)數(shù)量，n0為初始點(diǎn)數(shù)量，f為微分函數(shù)方程和代數(shù)函數(shù)方程，為初始條件的真實(shí)值，yn為神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)值；
11、根據(jù)所述神經(jīng)網(wǎng)絡(luò)的殘差損失項(xiàng)和初始損失項(xiàng)得到總的損失函數(shù)l總，具體如下公式所示：
12、l總＝l殘差+l初始。
13、在上述用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法中，其特征在于，所述步驟s4，包括：s41.根據(jù)微分代數(shù)方程的復(fù)雜程度，設(shè)置神經(jīng)網(wǎng)絡(luò)的規(guī)模，包括神經(jīng)網(wǎng)絡(luò)的寬度和深度，設(shè)置神經(jīng)網(wǎng)絡(luò)基函數(shù)的網(wǎng)格數(shù)和階數(shù)；s42.設(shè)置優(yōu)化器最小化損失函數(shù)；s43.在整個(gè)時(shí)域內(nèi)均勻采樣，生成殘差數(shù)據(jù)點(diǎn)集；s44.根據(jù)微分代數(shù)方程的初始條件，生成初始條件數(shù)據(jù)集；s45.將殘差數(shù)據(jù)點(diǎn)集和初始條件數(shù)據(jù)集組成訓(xùn)練數(shù)據(jù)；s46.使用訓(xùn)練數(shù)據(jù)，迭代訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型，使用l-bfgs優(yōu)化算法最小化損失函數(shù)，得到最優(yōu)的神經(jīng)網(wǎng)絡(luò)模型。
14、在上述用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法中，其特征在于，所述步驟s5，包括：使用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型求解高指標(biāo)微分代數(shù)方程：在輸出預(yù)測(cè)近似解過(guò)程中，在定義域內(nèi)均勻地取變量值，作為微分代數(shù)方程的變量值輸入訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型，獲得微分代數(shù)方程的解。
15、在上述用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法中，其特征在于，所述步驟s4，包括：對(duì)訓(xùn)練好的高指標(biāo)微分代數(shù)方程物理信息神經(jīng)網(wǎng)絡(luò)模型進(jìn)行測(cè)試和優(yōu)化，具體為：將神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)解與的微分代數(shù)方程精確解集對(duì)比，通過(guò)誤差對(duì)比分析，對(duì)訓(xùn)練好的高指標(biāo)微分代數(shù)方程物理信息神經(jīng)網(wǎng)絡(luò)模型進(jìn)行測(cè)試和優(yōu)化。
16、根據(jù)本申請(qǐng)的一個(gè)方面，還提供了一種用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建系統(tǒng)，其包括：預(yù)處理模塊，用于對(duì)高指標(biāo)微分代數(shù)方程進(jìn)行預(yù)處理；基于kan的高指標(biāo)微分代數(shù)方程物理信息神經(jīng)網(wǎng)絡(luò)模型；所述高指標(biāo)微分代數(shù)方程物理信息神經(jīng)網(wǎng)絡(luò)模型的損失函數(shù)根據(jù)高指標(biāo)微分代數(shù)方程的物理信息構(gòu)建，所述高指標(biāo)微分代數(shù)方程物理信息神經(jīng)網(wǎng)絡(luò)模型通過(guò)設(shè)置訓(xùn)練參數(shù)，生成訓(xùn)練數(shù)據(jù)，利用l-bfgs算法進(jìn)行迭代訓(xùn)練獲得。
17、根據(jù)本申請(qǐng)的一個(gè)方面，還提供了一種電子裝置，所述電子裝置包括處理器和存儲(chǔ)器，所述存儲(chǔ)器存儲(chǔ)有可執(zhí)行程序，所述處理器執(zhí)行所述可執(zhí)行程序時(shí)，實(shí)現(xiàn)如上述任一所述的用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法。
18、與現(xiàn)有技術(shù)相比，本申請(qǐng)?zhí)峁┑囊环N用于求解高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，有效地克服了現(xiàn)有人工神經(jīng)網(wǎng)絡(luò)在求解高指標(biāo)微分代數(shù)方程時(shí)存在的精度低、計(jì)算效率低等問(wèn)題。這種方法具有廣泛的應(yīng)用前景，適用于物理、化學(xué)、生物等領(lǐng)域中的各類微分代數(shù)方程求解。例如，在物理領(lǐng)域，可用于求解薛定諤方程、波動(dòng)方程、熱傳導(dǎo)本文檔來(lái)自技高網(wǎng)...
【技術(shù)保護(hù)點(diǎn)】
1.一種用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其特征在于，包括：
2.根據(jù)權(quán)利要求1所述的用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其特征在于，還包括以下步驟：
3.根據(jù)權(quán)利要求2所述的用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其特征在于，所述步驟S1中的預(yù)處理具體為：將所述形如：y′＝f(y,z)，y(t0)＝y(tǒng)0；0＝g(y)，z(t0)＝z0指標(biāo)微分代數(shù)方程組拆分為微分方程y′＝f(y,z)和代數(shù)方程0＝g(y)。
4.根據(jù)權(quán)利要求3所述的用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其特征在于，所述步驟S2，具體包括：構(gòu)造帶有可訓(xùn)練參數(shù)θ的多輸出KANs神經(jīng)網(wǎng)絡(luò)，使用Xavier初始化方法對(duì)神經(jīng)網(wǎng)絡(luò)參數(shù)θ進(jìn)行初始化，選擇B樣條函數(shù)作為可訓(xùn)練的激活函數(shù)，為高指標(biāo)微分代數(shù)方程分配一個(gè)基于KAN的多輸出神經(jīng)網(wǎng)絡(luò)。
5.根據(jù)權(quán)利要求4所述的用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其特征在于，所述步驟S3，包括：根據(jù)高指標(biāo)微
6.根據(jù)權(quán)利要求5所述的用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其特征在于，所述步驟S4，包括：
7.根據(jù)權(quán)利要求6所述的用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其特征在于，所述步驟S5，包括：使用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型求解高指標(biāo)微分代數(shù)方程：在輸出預(yù)測(cè)近似解過(guò)程中，在定義域內(nèi)均勻地取變量值，作為微分代數(shù)方程的變量值輸入訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型，獲得微分代數(shù)方程的解。
8.根據(jù)權(quán)利要求7所述的用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其特征在于，所述步驟S4，包括：對(duì)訓(xùn)練好的高指標(biāo)微分代數(shù)方程物理信息神經(jīng)網(wǎng)絡(luò)模型進(jìn)行測(cè)試和優(yōu)化，具體為：將神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)解與的微分代數(shù)方程精確解集對(duì)比，通過(guò)誤差對(duì)比分析，對(duì)訓(xùn)練好的高指標(biāo)微分代數(shù)方程物理信息神經(jīng)網(wǎng)絡(luò)模型進(jìn)行測(cè)試和優(yōu)化。
9.一種用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建系統(tǒng)，其特征在于，包括：
10.一種電子裝置，其特征在于，所述電子裝置包括處理器和存儲(chǔ)器，所述存儲(chǔ)器存儲(chǔ)有可執(zhí)行程序，所述處理器執(zhí)行所述可執(zhí)行程序時(shí)，實(shí)現(xiàn)如權(quán)利要求1至8任一所述的用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法。
...【技術(shù)特征摘要】
1.一種用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其特征在于，包括：
2.根據(jù)權(quán)利要求1所述的用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其特征在于，還包括以下步驟：
3.根據(jù)權(quán)利要求2所述的用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其特征在于，所述步驟s1中的預(yù)處理具體為：將所述形如：y′＝f(y,z)，y(t0)＝y(tǒng)0；0＝g(y)，z(t0)＝z0指標(biāo)微分代數(shù)方程組拆分為微分方程y′＝f(y,z)和代數(shù)方程0＝g(y)。
4.根據(jù)權(quán)利要求3所述的用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其特征在于，所述步驟s2，具體包括：構(gòu)造帶有可訓(xùn)練參數(shù)θ的多輸出kans神經(jīng)網(wǎng)絡(luò)，使用xavier初始化方法對(duì)神經(jīng)網(wǎng)絡(luò)參數(shù)θ進(jìn)行初始化，選擇b樣條函數(shù)作為可訓(xùn)練的激活函數(shù)，為高指標(biāo)微分代數(shù)方程分配一個(gè)基于kan的多輸出神經(jīng)網(wǎng)絡(luò)。
5.根據(jù)權(quán)利要求4所述的用于求解約束機(jī)械多體系統(tǒng)的高指標(biāo)微分代數(shù)方程的神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，其特征在于，所述步驟s3，包括：根據(jù)高指標(biāo)微分代數(shù)方程的特點(diǎn)，將微分代數(shù)方程的物理信息嵌入到基于kan的神經(jīng)網(wǎng)絡(luò)，構(gòu)建基于kan的神經(jīng)網(wǎng)絡(luò)的殘差損失項(xiàng)l殘差，具體如下公...
【專利技術(shù)屬性】
技術(shù)研發(fā)人員：唐卷，羅凱，曾曉青，謝漫淇，馮文奧，楊中華，
申請(qǐng)(專利權(quán))人：廣州大學(xué)，
類型：發(fā)明
國(guó)別省市：
還沒(méi)有人留言評(píng)論。發(fā)表了對(duì)其他瀏覽者有用的留言會(huì)獲得科技券。