買(mǎi)專(zhuān)利賣(mài)專(zhuān)利找龍圖騰，真高效！ 查專(zhuān)利查商標(biāo)用IPTOP,全免費(fèi)！專(zhuān)利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉東南大學(xué)申請(qǐng)的專(zhuān)利一種問(wèn)題驅(qū)動(dòng)的社交網(wǎng)絡(luò)答案摘要自動(dòng)生成方法與裝置獲國(guó)家發(fā)明授權(quán)專(zhuān)利權(quán)，本發(fā)明授權(quán)專(zhuān)利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予，授權(quán)公告號(hào)為：CN114048309B 。

龍圖騰網(wǎng)通過(guò)國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-09-12發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專(zhuān)利申請(qǐng)?zhí)?專(zhuān)利號(hào)為：202111365252.0，技術(shù)領(lǐng)域涉及：G06N5/04；該發(fā)明授權(quán)一種問(wèn)題驅(qū)動(dòng)的社交網(wǎng)絡(luò)答案摘要自動(dòng)生成方法與裝置是由楊鵬;李冰;陳維威;于曉潭設(shè)計(jì)研發(fā)完成，并于2021-11-17向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專(zhuān)利申請(qǐng)。

本一種問(wèn)題驅(qū)動(dòng)的社交網(wǎng)絡(luò)答案摘要自動(dòng)生成方法與裝置在說(shuō)明書(shū)摘要公布了：本發(fā)明公開(kāi)了一種問(wèn)題驅(qū)動(dòng)的社交網(wǎng)絡(luò)答案摘要自動(dòng)生成方法，所述方法包括以下步驟：步驟1：社交網(wǎng)絡(luò)文本采集；步驟2：數(shù)據(jù)預(yù)處理；步驟3：模型訓(xùn)練；步驟4：模型測(cè)試與文本生成，本發(fā)明能夠改善傳統(tǒng)摘要生成方法中過(guò)度依賴(lài)語(yǔ)義關(guān)聯(lián)性而導(dǎo)致泛化能力低和缺乏可推理性等問(wèn)題，進(jìn)而提升生成摘要的可讀性、流暢性和簡(jiǎn)潔性。

本發(fā)明授權(quán)一種問(wèn)題驅(qū)動(dòng)的社交網(wǎng)絡(luò)答案摘要自動(dòng)生成方法與裝置在權(quán)利要求書(shū)中公布了：1.一種問(wèn)題驅(qū)動(dòng)的社交網(wǎng)絡(luò)答案摘要自動(dòng)生成方法，其特征在于，所述方法包括以下步驟： 步驟1：社交網(wǎng)絡(luò)文本采集； 步驟2：數(shù)據(jù)預(yù)處理； 步驟3：模型訓(xùn)練； 步驟4：模型測(cè)試與文本生成； 其中，步驟3：模型訓(xùn)練，利用步驟2處理后的數(shù)據(jù)集對(duì)問(wèn)題驅(qū)動(dòng)下的分層滑動(dòng)推理生成器進(jìn)行訓(xùn)練，該步驟的實(shí)施分為以下子步驟： 子步驟3-1，構(gòu)建數(shù)據(jù)層，將三元組利用預(yù)訓(xùn)練的Glove對(duì)問(wèn)題和答案中的每個(gè)單詞序列轉(zhuǎn)化為詞向量表示，構(gòu)建50k的詞匯表，并分別得到映射后的問(wèn)題詞向量序列Eq，答案詞向量序列Ea,其中答案中的句子級(jí)別的詞向量序列為 子步驟3-2，構(gòu)建文本編碼層，采用一個(gè)雙層Bi-LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)編碼器分別對(duì)問(wèn)題詞向量序列Eq和答案詞向量序列Ea進(jìn)行語(yǔ)義編碼提取，得到學(xué)習(xí)后的上下文語(yǔ)義表示： Hq＝Bi-LSTMEq 同時(shí)得到為整個(gè)答案的整體語(yǔ)義表示，其中[,]表示連接操作； 子步驟3-3，構(gòu)建推理層，推理層包含兩大步驟，分別為分層滑動(dòng)融合機(jī)制和cross-attention機(jī)制，首先利用分層滑動(dòng)融合機(jī)制將答案中的每個(gè)句子融合為小節(jié)的形式，具體的做法如下: 對(duì)答案中相鄰的k個(gè)句子進(jìn)行融合操作，并再次通過(guò)Bi-LSTM編碼器進(jìn)行小節(jié)的上下文信息表示，得到相鄰k個(gè)句子的語(yǔ)義表示，此時(shí)整個(gè)答案的語(yǔ)義表示為 接著對(duì)上述融合后的語(yǔ)義表示通過(guò)cross-attention機(jī)制： headi＝AttentionQ,K,VWi V MultiHeadQ,K,V＝[head1,…,headh]WO 其中Wi O、Wi k、Wi V、WO為可學(xué)習(xí)參數(shù)，然后利用multi-headattention機(jī)制分別對(duì)問(wèn)題和答案進(jìn)行權(quán)值計(jì)算：對(duì)于問(wèn)題中的信息,主要計(jì)算問(wèn)題和答案中的每個(gè)句子的權(quán)值，并通過(guò)池化層得到在答案中單個(gè)句子的影響下的被分配了權(quán)重的問(wèn)題的上下文語(yǔ)義表示： 對(duì)于答案中的句子信息，為了學(xué)習(xí)句子中單詞的依存關(guān)系，捕捉句子的內(nèi)部結(jié)構(gòu)，首先對(duì)融合k個(gè)句子之后的小節(jié)語(yǔ)義表示利用self-attention機(jī)制找出句子內(nèi)部的關(guān)鍵信息所在位置； 在突出字級(jí)別的語(yǔ)義表示的基礎(chǔ)上，利用multi-headattention機(jī)制計(jì)算k級(jí)融合句子與問(wèn)題之間的關(guān)系，獲得在問(wèn)題的影響下被分配了權(quán)重的k級(jí)融合后的答案句子的上下文語(yǔ)義表示 最后，將k級(jí)融合句子表示執(zhí)行平均池化層，獲得最后在問(wèn)題影響下的句子級(jí)別的答案表示，這可以應(yīng)用在解碼階段取評(píng)估答案中每個(gè)句子的重要程度， 子步驟3-4，構(gòu)建生成層，主要通過(guò)設(shè)計(jì)一種雙驅(qū)動(dòng)的選擇生成器，將問(wèn)題和答案都加入到復(fù)制池中，進(jìn)而進(jìn)行后續(xù)生成和復(fù)制摘要中的單詞的操作，具體實(shí)施如下： 首先，對(duì)編碼后的答案語(yǔ)義上下文表示利用單詞LSTM進(jìn)行解碼，在解碼的原始時(shí)間戳和最后時(shí)間戳，輸入向量分別為SOS和EOS的單詞嵌入式表示，在解碼的t時(shí)刻，采用Curriculum學(xué)習(xí)的方式進(jìn)行訓(xùn)練，即利用隨機(jī)概率p去選擇當(dāng)前解碼時(shí)間戳的輸入為真實(shí)輸出yt或者為上一時(shí)間戳的解碼輸出wt，解碼當(dāng)前時(shí)刻的隱含層的輸出st： st＝LSTMst-1,yt-1 問(wèn)題與答案中每個(gè)單詞的注意力分布與的計(jì)算如下，主要為問(wèn)題和答案關(guān)鍵信息的概率分布，即告訴解碼器在哪里尋找下一個(gè)生成的單詞: 其中，Wq、Wa、bq、ba為可學(xué)習(xí)參數(shù)； 然后，將在推理層所得到的單詞級(jí)別的問(wèn)題與答案的語(yǔ)義表示與當(dāng)前解碼時(shí)刻所得到的隱含層語(yǔ)義表示st計(jì)算句子級(jí)別的注意力權(quán)重和并通過(guò)二次加權(quán)單詞級(jí)別的單詞概率分布，獲得加權(quán)后的源文本的單詞概率分布： 其中，WF、WD、bq、bs為可學(xué)習(xí)參數(shù),i|u和j|u表示整個(gè)句子u所包含的對(duì)應(yīng)單詞i,j，dk為整個(gè)解碼的總步數(shù),σ為sigmoid激活函數(shù), 通過(guò)上述二次加權(quán)后所得到的注意力分布計(jì)算最后的上下文向量，并生成整個(gè)詞匯表的概率分布Pvocab： 當(dāng)前解碼時(shí)刻t的最后預(yù)測(cè)單詞ωt在詞匯表中的概率分布Pωt＝Pvocabωt,設(shè)計(jì)了一種雙驅(qū)動(dòng)下的指針生成網(wǎng)絡(luò)，將問(wèn)題添加到復(fù)制池中，增加復(fù)制池原始單詞的容量： 其中，Wc和bc屬于可學(xué)習(xí)參數(shù)，通過(guò)概率pgen去選擇最后生成的單詞是從詞匯表中尋找還是從問(wèn)題或者答案中進(jìn)行復(fù)制，類(lèi)似于門(mén)控機(jī)制，控制最后生成的單詞的流向， 子步驟3-5，聯(lián)合訓(xùn)練損失，采用隨機(jī)初始化的方式對(duì)所有的參數(shù)進(jìn)行初始化，采用AdaGrad優(yōu)化器進(jìn)行梯度反向傳播更新模型參數(shù)，初始學(xué)習(xí)率設(shè)置為0.15,初始累加器值為0.1，并使用最大梯度范數(shù)為1的梯度進(jìn)行剪切，生成的摘要控制在100個(gè)單詞以?xún)?nèi)，當(dāng)訓(xùn)練損失不再下降或訓(xùn)練輪數(shù)超過(guò)32輪，模型訓(xùn)練結(jié)束，并保存在驗(yàn)證集上表現(xiàn)最好的模型。

如需購(gòu)買(mǎi)、轉(zhuǎn)讓、實(shí)施、許可或投資類(lèi)似專(zhuān)利技術(shù)，可聯(lián)系本專(zhuān)利的申請(qǐng)人或?qū)＠麢?quán)人東南大學(xué)，其通訊地址為：211135 江蘇省南京市麒麟科創(chuàng)園智識(shí)路26號(hào)啟迪城立業(yè)園04幢；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。