【技術(shù)實(shí)現(xiàn)步驟摘要】
本專利技術(shù)涉及航天與航空、深度學(xué)習(xí)和輻射耐受性，特別是一種基于transformer語(yǔ)音識(shí)別模型的抗單粒子翻轉(zhuǎn)加固方法。
技術(shù)介紹
1、隨著深空探索任務(wù)的不斷推進(jìn)，智能化和自主化系統(tǒng)在航天領(lǐng)域的重要性日益凸顯。在高輻射環(huán)境中，尤其是深空任務(wù)中，宇航員在執(zhí)行復(fù)雜任務(wù)時(shí)，需要依靠語(yǔ)音識(shí)別技術(shù)進(jìn)行人機(jī)交互，以提高任務(wù)執(zhí)行的效率和準(zhǔn)確性。然而，由于太空環(huán)境的輻射水平顯著高于地面環(huán)境，會(huì)造成半導(dǎo)體元器件發(fā)生單粒子翻轉(zhuǎn)(seu)，可能會(huì)導(dǎo)致深度學(xué)習(xí)模型在面對(duì)輻射影響時(shí)出現(xiàn)參數(shù)錯(cuò)誤、輸出不準(zhǔn)確等問題，這使得現(xiàn)有模型在高輻射環(huán)境下的魯棒性和可靠性面臨嚴(yán)峻考驗(yàn)。
2、目前，針對(duì)單粒子翻轉(zhuǎn)的加固方法主要包括三模冗余(tmr)和錯(cuò)誤檢測(cè)與糾正碼(ecc)。三模冗余通過將計(jì)算單元復(fù)制三次并進(jìn)行并行處理，以實(shí)現(xiàn)多數(shù)投票機(jī)制來防止因單粒子翻轉(zhuǎn)導(dǎo)致的錯(cuò)誤。盡管tmr在提高系統(tǒng)可靠性方面有效，但其硬件開銷較大，尤其在復(fù)雜的深度學(xué)習(xí)模型中，這種開銷往往難以承受。錯(cuò)誤檢測(cè)與糾正碼(ecc)是另一種常見的加固方案，通過對(duì)數(shù)據(jù)進(jìn)行編碼，確保在發(fā)生錯(cuò)誤時(shí)可以恢復(fù)正確數(shù)據(jù)。然而，ecc在深度學(xué)習(xí)模型中的應(yīng)用可能會(huì)增加計(jì)算延遲，并且對(duì)于復(fù)雜模型的設(shè)計(jì)和實(shí)現(xiàn)也相對(duì)復(fù)雜。
技術(shù)實(shí)現(xiàn)思路
1、本專利技術(shù)的目的在于克服現(xiàn)有技術(shù)缺陷，提出了一種基于transformer語(yǔ)音識(shí)別模型的抗單粒子翻轉(zhuǎn)加固方法。
2、為了實(shí)現(xiàn)上述目的，本專利技術(shù)提出了一種基于transformer語(yǔ)音識(shí)別模型的抗單粒子翻轉(zhuǎn)加固方法，用于
3、步驟1)構(gòu)建訓(xùn)練集，對(duì)訓(xùn)練集數(shù)據(jù)進(jìn)行預(yù)處理；
4、步驟2)將預(yù)處理后的訓(xùn)練集輸入transformer語(yǔ)音識(shí)別模型，得到訓(xùn)練好的transformer語(yǔ)音識(shí)別模型；
5、步驟3)對(duì)訓(xùn)練好的transformer語(yǔ)音識(shí)別模型中參數(shù)進(jìn)行修改，模擬單粒子翻轉(zhuǎn)事件和在高輻射環(huán)境中可能出現(xiàn)的錯(cuò)誤，建立seu影響模型；
6、步驟4)基于seu影響模型，對(duì)transformer語(yǔ)音識(shí)別模型進(jìn)行魯棒性分析，確定敏感模塊，對(duì)敏感模塊進(jìn)行三模冗余技術(shù)加固，得到抗單粒子翻轉(zhuǎn)加固的語(yǔ)音識(shí)別模型。
7、優(yōu)選的，所述步驟1)包括：
8、采用包括語(yǔ)音和對(duì)應(yīng)文本轉(zhuǎn)錄的開源數(shù)據(jù)集librispeech；
9、對(duì)于語(yǔ)音，使用torchaudio庫(kù)讀取librispeech中的音頻文件，提取音頻信號(hào)；計(jì)算音頻信號(hào)的濾波器組能量特征；
10、對(duì)于文本，采用基于子詞的分詞方法，將文本數(shù)據(jù)切分為更小的單元。
11、優(yōu)選的，所述步驟2)中transformer語(yǔ)音識(shí)別模型包括：
12、特征提取器，用于從輸入音頻中提取有意義的特征信息；
13、6個(gè)編碼器，每個(gè)編碼器由多頭自注意力機(jī)制和前饋神經(jīng)網(wǎng)絡(luò)組成，用于對(duì)輸入特征進(jìn)行編碼；
14、6個(gè)解碼器，用于對(duì)編碼器輸出的特征進(jìn)行解碼，最終生成對(duì)應(yīng)的文本輸出。
15、優(yōu)選的，所述步驟3)包括：
16、將訓(xùn)練好的transformer語(yǔ)音識(shí)別模型的權(quán)重參數(shù)值轉(zhuǎn)換為32位二進(jìn)制形式，模擬單粒子翻轉(zhuǎn)事件，所述32位二進(jìn)制包括：符號(hào)位1位，指數(shù)位8位和尾數(shù)位32位；
17、隨機(jī)地將二進(jìn)制表示中的某一位“1變成0”或“0變成1”，以模擬在高輻射環(huán)境中可能出現(xiàn)的錯(cuò)誤，進(jìn)而得到seu影響模型。
18、優(yōu)選的，所述步驟4)敏感模塊包括：前2個(gè)編碼器的多頭自注意力機(jī)制。
19、優(yōu)選的，所述對(duì)敏感模塊進(jìn)行三模冗余技術(shù)加固，得到抗單粒子翻轉(zhuǎn)加固的語(yǔ)音識(shí)別模型，包括：
20、將敏感模塊的計(jì)算單元復(fù)制三份，形成三個(gè)并行運(yùn)行的計(jì)算單元；
21、對(duì)三個(gè)并行運(yùn)行的計(jì)算單元實(shí)施多數(shù)投票機(jī)制，當(dāng)其中一個(gè)計(jì)算單元受到單粒子翻轉(zhuǎn)影響時(shí)，通過三取二的方式選擇正確輸出；
22、得到抗單粒子翻轉(zhuǎn)加固的語(yǔ)音識(shí)別模型。
23、與現(xiàn)有技術(shù)相比，本專利技術(shù)的優(yōu)勢(shì)在于：
24、1、針對(duì)性加固：本專利技術(shù)通過對(duì)transformer語(yǔ)音識(shí)別模型的模塊進(jìn)行詳細(xì)的魯棒性分析，識(shí)別出對(duì)單粒子翻轉(zhuǎn)(seu)敏感的模塊，從而進(jìn)行有針對(duì)性的加固。這種方法避免了傳統(tǒng)加固方法如校驗(yàn)碼和三模冗余(tmr)在資源使用上的浪費(fèi)，實(shí)現(xiàn)了更為精確的保護(hù)；
25、2、資源優(yōu)化：相比于傳統(tǒng)的全面加固方法，本專利技術(shù)僅對(duì)關(guān)鍵模塊應(yīng)用三模冗余技術(shù)，顯著降低了硬件開銷和計(jì)算復(fù)雜性，從而在保證系統(tǒng)性能的同時(shí)，減少了對(duì)系統(tǒng)資源的需求。這使得在資源有限的航天應(yīng)用中更具實(shí)用性；
26、3、性能提升：通過單獨(dú)加固對(duì)seu影響較大的模塊，確保了模型在高輻射環(huán)境下的穩(wěn)定性與可靠性，從而有效提升了語(yǔ)音識(shí)別的準(zhǔn)確性和響應(yīng)速度，為宇航員的操作提供了更安全和高效的支持；
27、4、可擴(kuò)展性與兼容性：本專利技術(shù)的方法具有良好的可擴(kuò)展性，可以根據(jù)不同應(yīng)用場(chǎng)景的需求，對(duì)不同模塊進(jìn)行相應(yīng)的加固配置，為未來在多種極端環(huán)境下應(yīng)用transformer語(yǔ)音識(shí)別模型提供了靈活的解決方案。本專利技術(shù)的加固方法可與現(xiàn)有的深度學(xué)習(xí)模型及其訓(xùn)練框架兼容，不需對(duì)模型進(jìn)行大幅度的結(jié)構(gòu)改動(dòng)，便于集成和實(shí)施，降低了部署的難度。
本文檔來自技高網(wǎng)...【技術(shù)保護(hù)點(diǎn)】
1.一種基于Transformer語(yǔ)音識(shí)別模型的抗單粒子翻轉(zhuǎn)加固方法，用于提高航天任務(wù)中宇航員的語(yǔ)音識(shí)別的效率和準(zhǔn)確性，包括：
2.根據(jù)權(quán)利要求1所述的基于Transformer語(yǔ)音識(shí)別模型的抗單粒子翻轉(zhuǎn)加固方法，其特征在于，所述步驟1)包括：
3.根據(jù)權(quán)利要求1所述的基于Transformer語(yǔ)音識(shí)別模型的抗單粒子翻轉(zhuǎn)加固方法，其特征在于，所述步驟2)中Transformer語(yǔ)音識(shí)別模型包括：
4.根據(jù)權(quán)利要求1所述的基于Transformer語(yǔ)音識(shí)別模型的抗單粒子翻轉(zhuǎn)加固方法，其特征在于，所述步驟3)包括：
5.根據(jù)權(quán)利要求3所述的基于Transformer語(yǔ)音識(shí)別模型的抗單粒子翻轉(zhuǎn)加固方法，其特征在于，所述步驟4)敏感模塊包括：前2個(gè)編碼器的多頭自注意力機(jī)制。
6.根據(jù)權(quán)利要求5所述的基于Transformer語(yǔ)音識(shí)別模型的抗單粒子翻轉(zhuǎn)加固方法，其特征在于，所述對(duì)敏感模塊進(jìn)行三模冗余技術(shù)加固，得到抗單粒子翻轉(zhuǎn)加固的語(yǔ)音識(shí)別模型，包括：
【技術(shù)特征摘要】
1.一種基于transformer語(yǔ)音識(shí)別模型的抗單粒子翻轉(zhuǎn)加固方法，用于提高航天任務(wù)中宇航員的語(yǔ)音識(shí)別的效率和準(zhǔn)確性，包括：
2.根據(jù)權(quán)利要求1所述的基于transformer語(yǔ)音識(shí)別模型的抗單粒子翻轉(zhuǎn)加固方法，其特征在于，所述步驟1)包括：
3.根據(jù)權(quán)利要求1所述的基于transformer語(yǔ)音識(shí)別模型的抗單粒子翻轉(zhuǎn)加固方法，其特征在于，所述步驟2)中transformer語(yǔ)音識(shí)別模型包括：
4.根據(jù)權(quán)利要求1所...
【專利技術(shù)屬性】
技術(shù)研發(fā)人員：羅熙，周晴，江源源，
申請(qǐng)(專利權(quán))人：中國(guó)科學(xué)院國(guó)家空間科學(xué)中心，
類型：發(fā)明
國(guó)別省市：
還沒有人留言評(píng)論。發(fā)表了對(duì)其他瀏覽者有用的留言會(huì)獲得科技券。