買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費(fèi)！專利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉昆明理工大學(xué)申請的專利基于領(lǐng)域特定子層隱變量的多領(lǐng)域自適應(yīng)神經(jīng)機(jī)器翻譯方法獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN115204196B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-08-22發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202210823703.9，技術(shù)領(lǐng)域涉及：G06F40/58；該發(fā)明授權(quán)基于領(lǐng)域特定子層隱變量的多領(lǐng)域自適應(yīng)神經(jīng)機(jī)器翻譯方法是由余正濤;文永華;黃雙宏;徐金磊設(shè)計(jì)研發(fā)完成，并于2022-07-14向國家知識產(chǎn)權(quán)局提交的專利申請。

本基于領(lǐng)域特定子層隱變量的多領(lǐng)域自適應(yīng)神經(jīng)機(jī)器翻譯方法在說明書摘要公布了：本發(fā)明提出基于領(lǐng)域特定子層隱變量的多領(lǐng)域自適應(yīng)神經(jīng)機(jī)器翻譯方法。領(lǐng)域適應(yīng)可以有效解決特定領(lǐng)域翻譯性能差的問題，現(xiàn)有方法通常依靠混合多個(gè)領(lǐng)域數(shù)據(jù)來獲得單個(gè)通用的多領(lǐng)域神經(jīng)機(jī)器翻譯模型。然而，大規(guī)模通用領(lǐng)域數(shù)據(jù)與多個(gè)特定領(lǐng)域數(shù)據(jù)的混合會(huì)造成最終模型災(zāi)難性遺忘、域間參數(shù)干擾的問題，從而導(dǎo)致性能下降以及通用領(lǐng)域模型容量不足的矛盾。因此本發(fā)明使用Gumbel?Softmax重新參數(shù)化技巧同時(shí)學(xué)習(xí)模型參數(shù)和隱變量，獲得的模型能學(xué)習(xí)特定領(lǐng)域的知識，并通過隱變量共享通用領(lǐng)域知識。實(shí)驗(yàn)結(jié)果表明，在多領(lǐng)域神經(jīng)機(jī)器翻譯中，本發(fā)明在英德和中英多領(lǐng)域神經(jīng)機(jī)器翻譯中比基線模型分別平均提高了3.2和1.68BLEU值。

本發(fā)明授權(quán)基于領(lǐng)域特定子層隱變量的多領(lǐng)域自適應(yīng)神經(jīng)機(jī)器翻譯方法在權(quán)利要求書中公布了：1.基于領(lǐng)域特定子層隱變量的多領(lǐng)域自適應(yīng)神經(jīng)機(jī)器翻譯方法，其特征在于：所述方法的具體步驟如下： Step1、下載訓(xùn)練數(shù)據(jù)集，使用工具對數(shù)據(jù)進(jìn)行數(shù)據(jù)預(yù)處理操作； Step2、在Transformer模型的基礎(chǔ)上，使用“Pre-LN”前向歸一化操作，插入領(lǐng)域特定子層隱變量，使用Gumbel-Softmax重新參數(shù)化技巧來同時(shí)學(xué)習(xí)模型參數(shù)和隱變量； Step3、最后通過混合由領(lǐng)域標(biāo)簽控制的通用領(lǐng)域和特定領(lǐng)域數(shù)據(jù)聯(lián)合訓(xùn)練并獲得一個(gè)統(tǒng)一的多領(lǐng)域神經(jīng)機(jī)器翻譯模型來進(jìn)行翻譯； 所述Step2的具體步驟： 首先，訓(xùn)練過程中在Transformer架構(gòu)上使用“Pre-LN”前向歸一化而不是“Post-LN”后向歸一化來提高模型穩(wěn)定性； 其次插入領(lǐng)域特定子層隱變量來控制模型是否跳過當(dāng)前子層，當(dāng)隱變量值為0時(shí)當(dāng)前子層將被跳過，隱變量值為1時(shí)，當(dāng)前子層將被選擇；為此，引入后驗(yàn)概率分布逼近隱變量的真實(shí)分布，引入變分推理來求解領(lǐng)域特定子層隱變量； 最后從近似后驗(yàn)概率分布中采樣，使用Gumbel-Softmax重新參數(shù)化技巧來同時(shí)學(xué)習(xí)模型參數(shù)和隱變量。

如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人昆明理工大學(xué)，其通訊地址為：650500 云南省昆明市呈貢區(qū)景明南路727號；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。