【技術(shù)實(shí)現(xiàn)步驟摘要】
本公開(kāi)涉及人工智能，尤其是涉及一種對(duì)話方法、設(shè)備、存儲(chǔ)介質(zhì)以及程序產(chǎn)品。
技術(shù)介紹
1、近年來(lái)，隨著深度學(xué)習(xí)模型在自然語(yǔ)言處理方面的日趨成熟，深度學(xué)習(xí)模型已經(jīng)廣泛應(yīng)用于對(duì)話系統(tǒng)。對(duì)話系統(tǒng)按照實(shí)現(xiàn)方式可分為：生成式對(duì)話系統(tǒng)和檢索式對(duì)話系統(tǒng)。生成式對(duì)話系統(tǒng)是根據(jù)用戶輸入語(yǔ)句構(gòu)建應(yīng)答語(yǔ)句。檢索式對(duì)話系統(tǒng)是根據(jù)用戶輸入語(yǔ)句檢索以往的對(duì)話數(shù)據(jù)集并選擇最匹配的應(yīng)答語(yǔ)句。
2、但無(wú)論哪種類(lèi)型，通常都無(wú)法有效理解和響應(yīng)用戶的情緒并且提供特定領(lǐng)域的深層次信息。隨著用戶對(duì)智能對(duì)話的要求不斷提升，對(duì)話系統(tǒng)不僅需要能識(shí)別和理解用戶情緒，還需根據(jù)特定領(lǐng)域的背景知識(shí)生成內(nèi)容豐富、帶有情感色彩的回應(yīng)，以避免回復(fù)冷冰冰或無(wú)意義的語(yǔ)句。
技術(shù)實(shí)現(xiàn)思路
1、鑒于上述問(wèn)題而提出了本公開(kāi)。本公開(kāi)提供了一種對(duì)話方法、設(shè)備、存儲(chǔ)介質(zhì)以及程序產(chǎn)品。
2、根據(jù)本公開(kāi)的第一個(gè)方面，提供了一種對(duì)話方法，包括：
3、通過(guò)預(yù)訓(xùn)練的第一嵌入模型提取當(dāng)前對(duì)話輪次中對(duì)話上文的情感特征，以及，通過(guò)預(yù)訓(xùn)練的第二嵌入模型和編碼器提取所述對(duì)話上文的上下文語(yǔ)義特征和與所述對(duì)話上文的主題相關(guān)的背景知識(shí)文檔中各背景知識(shí)語(yǔ)句的背景知識(shí)特征向量；
4、從所述背景知識(shí)特征向量中獲取與所述上下文語(yǔ)義特征最相似的目標(biāo)背景知識(shí)特征向量；
5、采用預(yù)先訓(xùn)練的解碼器對(duì)所述上下文語(yǔ)義特征、所述情感特征和所述目標(biāo)背景知識(shí)特征向量解碼，獲得所述當(dāng)前對(duì)話輪次的對(duì)話下文。
6、此外，根據(jù)本公開(kāi)第一個(gè)方面的對(duì)話方
7、分別在所述第二嵌入模型中輸入所述對(duì)話上文的拆解詞語(yǔ)和各所述背景知識(shí)語(yǔ)句的拆解詞語(yǔ)，獲得所述對(duì)話上文的初步上下文特征和初步背景知識(shí)特征；
8、將所述初步上下文特征和所述初步背景知識(shí)特征分別輸入所述編碼器，獲得所述上下文語(yǔ)義特征和各所述背景知識(shí)語(yǔ)句的背景知識(shí)特征向量。
9、此外，根據(jù)本公開(kāi)第一個(gè)方面的對(duì)話方法，從所述背景知識(shí)特征向量中獲取與所述上下文語(yǔ)義特征最相似的目標(biāo)背景知識(shí)特征向量，包括：
10、計(jì)算各所述背景知識(shí)特征向量與所述上下文語(yǔ)義特征的點(diǎn)積；
11、對(duì)所述點(diǎn)積進(jìn)行歸一化，獲得歸一化點(diǎn)積；
12、將所述歸一化點(diǎn)積中取值最大的歸一化點(diǎn)積對(duì)應(yīng)的背景知識(shí)特征向量作為所述目標(biāo)背景知識(shí)特征向量。
13、此外，根據(jù)本公開(kāi)第一個(gè)方面的對(duì)話方法，采用預(yù)先訓(xùn)練的解碼器對(duì)所述上下文語(yǔ)義特征、所述情感特征和所述目標(biāo)背景知識(shí)特征向量解碼，獲得所述當(dāng)前對(duì)話輪次的對(duì)話下文，包括：
14、基于所述上下文語(yǔ)義特征、所述情感特征、所述目標(biāo)背景知識(shí)特征和第i個(gè)時(shí)間步的隱藏狀態(tài)，獲得第i+1個(gè)時(shí)間步的隱藏狀態(tài)；第1個(gè)時(shí)間步的隱藏狀態(tài)為所述上下文語(yǔ)義特征、所述情感特征和所述目標(biāo)背景知識(shí)特征拼接獲得；
15、采用所述解碼器對(duì)所述第i個(gè)時(shí)間步的隱藏狀態(tài)進(jìn)行解碼，獲得所述第i個(gè)時(shí)間步的預(yù)測(cè)字符；
16、在所述第i個(gè)時(shí)間步的預(yù)測(cè)字符不屬于預(yù)設(shè)結(jié)束字符的情況下，更新i＝i+1；
17、在所述第i個(gè)時(shí)間步的預(yù)測(cè)字符屬于預(yù)設(shè)結(jié)束字符的情況下，基于所述第i個(gè)時(shí)間步的預(yù)測(cè)字符，獲得所述當(dāng)前對(duì)話輪次的對(duì)話下文。
18、此外，根據(jù)本公開(kāi)第一個(gè)方面的對(duì)話方法，采用所述解碼器對(duì)所述第i個(gè)時(shí)間步的隱藏狀態(tài)進(jìn)行解碼，獲得所述第i個(gè)時(shí)間步的預(yù)測(cè)字符，包括：
19、采用所述編碼器中的多層感知機(jī)對(duì)所述第i個(gè)時(shí)間步的隱藏狀態(tài)進(jìn)行概率預(yù)測(cè)，獲得第一概率分布和第二概率分布，所述第一概率分布用于表征通過(guò)詞匯表生成字符的概率分布，所述第二概率分布用于表征從所述背景知識(shí)文檔選擇字符的概率分布，所述詞匯表為基于所述編碼器、所述第一嵌入模型、所述第二嵌入模型和所述解碼器的訓(xùn)練數(shù)據(jù)集獲得；
20、基于所述第一概率分布和所述第二概率分布，計(jì)算最終概率分布；
21、基于所述最終概率分布，確定所述第i個(gè)時(shí)間步的預(yù)測(cè)字符。
22、此外，根據(jù)本公開(kāi)第一個(gè)方面的對(duì)話方法，基于所述最終概率分布，確定所述第i個(gè)時(shí)間步的預(yù)測(cè)字符，包括：
23、獲得所述最終概率分布中概率取值最高的字符索引；
24、采用所述字符索引查詢基于所述詞匯表預(yù)先建立的索引與拆解詞語(yǔ)的映射關(guān)系，獲得所述字符索引對(duì)應(yīng)的目標(biāo)字符；
25、將所述目標(biāo)字符作為所述第i個(gè)時(shí)間步的預(yù)測(cè)字符。
26、根據(jù)本公開(kāi)的第二個(gè)方面，提供了一種對(duì)話裝置，包括：
27、提取模塊，用于通過(guò)預(yù)訓(xùn)練的第一嵌入模型提取當(dāng)前對(duì)話輪次中對(duì)話上文的情感特征，以及，通過(guò)預(yù)訓(xùn)練的第二嵌入模型和編碼器提取所述對(duì)話上文的上下文語(yǔ)義特征和與所述對(duì)話上文的主題相關(guān)的背景知識(shí)文檔中各背景知識(shí)語(yǔ)句的背景知識(shí)特征向量；
28、獲取模塊，用于從所述背景知識(shí)特征向量中獲取與所述上下文語(yǔ)義特征最相似的目標(biāo)背景知識(shí)特征向量；
29、解碼模塊，用于采用預(yù)先訓(xùn)練的解碼器對(duì)所述上下文語(yǔ)義特征、所述情感特征和所述目標(biāo)背景知識(shí)特征向量解碼，獲得所述當(dāng)前對(duì)話輪次的對(duì)話下文。
30、根據(jù)本公開(kāi)的第三個(gè)方面，提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序/指令，該計(jì)算機(jī)程序/指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)第一個(gè)方面所述方法的步驟。
31、根據(jù)本公開(kāi)的第四個(gè)方面，提供了一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序/指令，該計(jì)算機(jī)程序/指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)第一個(gè)方面所述方法的步驟。
32、如以下將詳細(xì)描述的，根據(jù)本公開(kāi)實(shí)施例的對(duì)話方法，在進(jìn)行當(dāng)前對(duì)話輪次的對(duì)話上文的對(duì)話下文的預(yù)測(cè)時(shí)，結(jié)合對(duì)話上文的情感特征、上下文語(yǔ)義特征和背景知識(shí)文檔中背景知識(shí)語(yǔ)句的背景知識(shí)特征向量進(jìn)行預(yù)測(cè)，這使得對(duì)話系統(tǒng)不僅能識(shí)別和理解用戶情緒，還實(shí)現(xiàn)根據(jù)特定領(lǐng)域的背景知識(shí)生成內(nèi)容豐富、帶有情感色彩的回應(yīng)，以避免回復(fù)冷冰冰或無(wú)意義的語(yǔ)句。
33、要理解的是，前面的一般描述和下面的詳細(xì)描述兩者都是示例性的，并且意圖在于提供要求保護(hù)的技術(shù)的進(jìn)一步說(shuō)明。
本文檔來(lái)自技高網(wǎng)...【技術(shù)保護(hù)點(diǎn)】
1.一種對(duì)話方法，其特征在于，包括：
2.根據(jù)權(quán)利要求1所述的方法，其特征在于，通過(guò)預(yù)訓(xùn)練的第二嵌入模型和編碼器提取所述對(duì)話上文的上下文語(yǔ)義特征和與所述對(duì)話上文的主題相關(guān)的背景知識(shí)文檔中各背景知識(shí)語(yǔ)句的背景知識(shí)特征向量，包括：
3.根據(jù)權(quán)利要求1所述的方法，其特征在于，從所述背景知識(shí)特征向量中獲取與所述上下文語(yǔ)義特征最相似的目標(biāo)背景知識(shí)特征向量，包括：
4.根據(jù)權(quán)利要求1所述的方法，其特征在于，采用預(yù)先訓(xùn)練的解碼器對(duì)所述上下文語(yǔ)義特征、所述情感特征和所述目標(biāo)背景知識(shí)特征向量解碼，獲得所述當(dāng)前對(duì)話輪次的對(duì)話下文，包括：
5.根據(jù)權(quán)利要求4所述的方法，其特征在于，采用所述解碼器對(duì)所述第i個(gè)時(shí)間步的隱藏狀態(tài)進(jìn)行解碼，獲得所述第i個(gè)時(shí)間步的預(yù)測(cè)字符，包括：
6.根據(jù)權(quán)利要求5所述的方法，其特征在于，基于所述最終概率分布，確定所述第i個(gè)時(shí)間步的預(yù)測(cè)字符，包括：
7.一種對(duì)話裝置，其特征在于，包括：
8.一種電子設(shè)備，包括存儲(chǔ)器、處理器及存儲(chǔ)在存儲(chǔ)器上的計(jì)算機(jī)程序，其特征在于，所述處理器執(zhí)行所述計(jì)算機(jī)程序以實(shí)
9.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序/指令，其特征在于，該計(jì)算機(jī)程序/指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)權(quán)利要求1-6任一項(xiàng)所述方法的步驟。
10.一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序/指令，其特征在于，該計(jì)算機(jī)程序/指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)權(quán)利要求1-6任一項(xiàng)所述方法的步驟。
...【技術(shù)特征摘要】
1.一種對(duì)話方法，其特征在于，包括：
2.根據(jù)權(quán)利要求1所述的方法，其特征在于，通過(guò)預(yù)訓(xùn)練的第二嵌入模型和編碼器提取所述對(duì)話上文的上下文語(yǔ)義特征和與所述對(duì)話上文的主題相關(guān)的背景知識(shí)文檔中各背景知識(shí)語(yǔ)句的背景知識(shí)特征向量，包括：
3.根據(jù)權(quán)利要求1所述的方法，其特征在于，從所述背景知識(shí)特征向量中獲取與所述上下文語(yǔ)義特征最相似的目標(biāo)背景知識(shí)特征向量，包括：
4.根據(jù)權(quán)利要求1所述的方法，其特征在于，采用預(yù)先訓(xùn)練的解碼器對(duì)所述上下文語(yǔ)義特征、所述情感特征和所述目標(biāo)背景知識(shí)特征向量解碼，獲得所述當(dāng)前對(duì)話輪次的對(duì)話下文，包括：
5.根據(jù)權(quán)利要求4所述的方法，其特征在于，采用所述解碼器對(duì)所述第i個(gè)時(shí)間步的隱藏狀態(tài)進(jìn)行解碼，...
【專(zhuān)利技術(shù)屬性】
技術(shù)研發(fā)人員：劉利軍，柏洪濤，羅健，蔣文學(xué)，余松林，金鐘，劉彤，劉東洋，張志昊，
申請(qǐng)(專(zhuān)利權(quán))人：中移物聯(lián)網(wǎng)有限公司，
類(lèi)型：發(fā)明
國(guó)別省市：
還沒(méi)有人留言評(píng)論。發(fā)表了對(duì)其他瀏覽者有用的留言會(huì)獲得科技券。