買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費(fèi)！專利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉天津大學(xué);北京中科聞歌科技股份有限公司申請(qǐng)的專利基于雙重感知表示與層級(jí)交互記憶網(wǎng)絡(luò)的任務(wù)型對(duì)話模型獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識(shí)產(chǎn)權(quán)局授予，授權(quán)公告號(hào)為：CN115168549B 。

龍圖騰網(wǎng)通過國家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-09-23發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請(qǐng)?zhí)?專利號(hào)為：202210343005.9，技術(shù)領(lǐng)域涉及：G06F16/3329；該發(fā)明授權(quán)基于雙重感知表示與層級(jí)交互記憶網(wǎng)絡(luò)的任務(wù)型對(duì)話模型是由張鵬;歐陽洋;張靜;高琿;羅引設(shè)計(jì)研發(fā)完成，并于2022-04-02向國家知識(shí)產(chǎn)權(quán)局提交的專利申請(qǐng)。

本基于雙重感知表示與層級(jí)交互記憶網(wǎng)絡(luò)的任務(wù)型對(duì)話模型在說明書摘要公布了：本發(fā)明公開基于雙重感知表示與層級(jí)交互記憶網(wǎng)絡(luò)的任務(wù)型對(duì)話系統(tǒng)，使用端到端的方法通過捕捉雙重感知表示，利用設(shè)計(jì)的層級(jí)交互記憶網(wǎng)絡(luò)來構(gòu)造任務(wù)型對(duì)話系統(tǒng)；包括對(duì)話歷史和用戶需求編碼模塊、層級(jí)交互記憶網(wǎng)絡(luò)模塊、感知表示融合模塊、動(dòng)態(tài)記憶解碼模塊。靜態(tài)的需求感知表示和動(dòng)態(tài)的知識(shí)感知表示作為雙重感知表示，靜態(tài)的需求感知表示能夠更好地捕捉到用戶最新的需求信息，動(dòng)態(tài)的知識(shí)感知表示能夠?qū)?dāng)前的和過去的知識(shí)庫信息進(jìn)行整合進(jìn)而得到與當(dāng)前需求相關(guān)的知識(shí)信息，層級(jí)交互記憶網(wǎng)絡(luò)，能夠增強(qiáng)記憶內(nèi)容在hop?level和layer?level上的交互，從而增強(qiáng)對(duì)知識(shí)的表示能力，使得模型能夠更準(zhǔn)確地從外部知識(shí)庫中提取相關(guān)的知識(shí)信息，以生成更準(zhǔn)確更合適的回復(fù)。

本發(fā)明授權(quán)基于雙重感知表示與層級(jí)交互記憶網(wǎng)絡(luò)的任務(wù)型對(duì)話模型在權(quán)利要求書中公布了：1.基于雙重感知表示與層級(jí)交互記憶網(wǎng)絡(luò)的任務(wù)型對(duì)話系統(tǒng)，其特征在于，所述系統(tǒng)使用端到端的方法基于雙重感知表示和層級(jí)交互記憶網(wǎng)絡(luò)構(gòu)造的任務(wù)型對(duì)話模型；所述模型包括對(duì)話歷史和用戶需求編碼模塊、層級(jí)交互記憶網(wǎng)絡(luò)模塊、感知表示融合模塊、動(dòng)態(tài)記憶解碼模塊；其中： 所述對(duì)話歷史和用戶需求編碼模塊用于對(duì)完整的對(duì)話歷史和用戶的最新話語進(jìn)行編碼； 所述層級(jí)交互記憶網(wǎng)絡(luò)模塊用于充分學(xué)習(xí)知識(shí)表示；并在對(duì)話編碼和解碼階段被使用； 所述感知表示融合模塊用于將靜態(tài)的需求感知表示和動(dòng)態(tài)的知識(shí)感知表示融合成最終統(tǒng)一的感知表示中，在融合的過程中使用兩個(gè)可訓(xùn)練的標(biāo)量加權(quán)求和得到最終的感知表示，該感知表示用于幫助對(duì)話系統(tǒng)在接下來的動(dòng)態(tài)記憶解碼模塊中完成回復(fù)的生成； 所述動(dòng)態(tài)記憶解碼模塊用于動(dòng)態(tài)地從知識(shí)庫和詞匯表中選擇單詞以生成合適的回復(fù)反饋給用戶；其中： 所述在對(duì)話歷史和用戶需求編碼模塊中，其輸入分別是對(duì)話歷史和用戶最新需求，對(duì)話歷史經(jīng)過Bi-GRU進(jìn)行編碼得到隱藏狀態(tài)，使用最后一個(gè)隱藏狀態(tài)作為對(duì)話歷史表示，該表示也將作為所述層級(jí)交互記憶網(wǎng)絡(luò)模塊和所述動(dòng)態(tài)記憶解碼模塊的輸入； 用戶最新需求經(jīng)過相同的Bi-GRU進(jìn)行編碼得到對(duì)應(yīng)的隱藏狀態(tài)，而后再經(jīng)過Self-Attention機(jī)制得到增強(qiáng)的用戶需求表示，運(yùn)用Attention機(jī)制捕捉與當(dāng)前用戶需求相關(guān)的對(duì)話語義信息以獲得需求感知表示，該需求感知表示將作為感知融合模塊的輸入； 所述層級(jí)交互記憶網(wǎng)絡(luò)模塊在編碼階段，層級(jí)交互記憶網(wǎng)絡(luò)將對(duì)話歷史表示作為詢問向量；在解碼階段，層級(jí)交互記憶網(wǎng)絡(luò)將每一步的解碼隱藏狀態(tài)作為詢問向量；詢問向量用于對(duì)內(nèi)部的記憶信息進(jìn)行交互，并輸出對(duì)應(yīng)的知識(shí)查詢結(jié)果和知識(shí)感知表示；并利用動(dòng)態(tài)記憶單元結(jié)合之前獲得的知識(shí)感知表示，得到當(dāng)前最終的知識(shí)感知表示；其中：知識(shí)感知表示將作為感知表示融合模塊的輸入； 所述感知表示融合模塊的輸入分別為需求感知表示和知識(shí)感知表示，將其進(jìn)行融合后得到感知表示，該感知表示將用于動(dòng)態(tài)記憶解碼模塊以幫助模型生成更適當(dāng)?shù)幕貜?fù)； 所述動(dòng)態(tài)記憶解碼模塊采用sketchGRU作為解碼器，每一步都將生成新的隱藏狀態(tài)，該隱藏狀態(tài)將作為層級(jí)交互記憶網(wǎng)絡(luò)的詢問向量，用于獲取知識(shí)庫信息；在每一個(gè)解碼步中，該模塊都將生成兩種分布：基于詞匯表的分布和基于知識(shí)庫的分布；其中： 所述動(dòng)態(tài)記憶解碼模塊將結(jié)合感知表示、對(duì)話歷史表示和知識(shí)查詢結(jié)果生成基于詞匯表的分布，而后利用層級(jí)交互記憶網(wǎng)絡(luò)的最后一層最后一跳的注意力權(quán)重獲得基于知識(shí)庫的分布；當(dāng)該模塊一旦從基于詞匯表的分布中生成sketch標(biāo)簽，并將繼續(xù)從基于知識(shí)庫的分布中生成對(duì)應(yīng)的知識(shí)實(shí)體，實(shí)現(xiàn)對(duì)話回復(fù)的動(dòng)態(tài)解碼。

如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請(qǐng)人或?qū)＠麢?quán)人天津大學(xué);北京中科聞歌科技股份有限公司，其通訊地址為：300072 天津市南開區(qū)衛(wèi)津路92號(hào)；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。