南京大學(xué)黃書(shū)劍獲國(guó)家專(zhuān)利權(quán)
買(mǎi)專(zhuān)利賣(mài)專(zhuān)利找龍圖騰,真高效! 查專(zhuān)利查商標(biāo)用IPTOP,全免費(fèi)!專(zhuān)利年費(fèi)監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉南京大學(xué)申請(qǐng)的專(zhuān)利基于神經(jīng)機(jī)器翻譯模型的翻譯方法、裝置和存儲(chǔ)介質(zhì)獲國(guó)家發(fā)明授權(quán)專(zhuān)利權(quán),本發(fā)明授權(quán)專(zhuān)利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予,授權(quán)公告號(hào)為:CN116090477B 。
龍圖騰網(wǎng)通過(guò)國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-09-19發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專(zhuān)利申請(qǐng)?zhí)?專(zhuān)利號(hào)為:202211424398.2,技術(shù)領(lǐng)域涉及:G06F40/58;該發(fā)明授權(quán)基于神經(jīng)機(jī)器翻譯模型的翻譯方法、裝置和存儲(chǔ)介質(zhì)是由黃書(shū)劍;施超敏;陳家駿設(shè)計(jì)研發(fā)完成,并于2022-11-15向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專(zhuān)利申請(qǐng)。
本基于神經(jīng)機(jī)器翻譯模型的翻譯方法、裝置和存儲(chǔ)介質(zhì)在說(shuō)明書(shū)摘要公布了:本發(fā)明公開(kāi)了基于神經(jīng)機(jī)器翻譯模型的翻譯方法,翻譯基于自回歸解碼的方式,每一步生成下一個(gè)詞語(yǔ),都是基于源端序列和已解碼生成的目標(biāo)端歷史序列,自回歸解碼的每一步解碼都包括如下:基于源端序列,通過(guò)神經(jīng)機(jī)器翻譯模型的編碼器來(lái)獲取基礎(chǔ)源端表示和控制器源端表示;基于目標(biāo)端歷史序列和基礎(chǔ)源端表示,獲取基礎(chǔ)目標(biāo)端表示、神經(jīng)機(jī)器翻譯模型的解碼器頂層交叉注意力層的模塊權(quán)重和權(quán)重向量;基于解碼器頂層交叉注意力層的權(quán)重向量,獲取待翻譯數(shù)字詞,翻譯為目標(biāo)端數(shù)字詞;基于基礎(chǔ)目標(biāo)端表示和翻譯的目標(biāo)端數(shù)字詞,綜合計(jì)算詞語(yǔ)概率。本發(fā)明補(bǔ)強(qiáng)了神經(jīng)機(jī)器翻譯模型的數(shù)字翻譯能力,解決對(duì)數(shù)字翻譯的準(zhǔn)確率缺乏保證,泛化能力差的問(wèn)題。
本發(fā)明授權(quán)基于神經(jīng)機(jī)器翻譯模型的翻譯方法、裝置和存儲(chǔ)介質(zhì)在權(quán)利要求書(shū)中公布了:1.基于神經(jīng)機(jī)器翻譯模型的翻譯方法,其特征在于:所述翻譯基于自回歸解碼的方式,每一步生成下一個(gè)詞語(yǔ)yj,都是基于源端序列和已解碼生成的目標(biāo)端歷史序列Yj-1={y0,y1,…yj-1},所述自回歸解碼的每一步的解碼過(guò)程中都包括以下步驟: S1:基于所述源端序列,通過(guò)神經(jīng)機(jī)器翻譯模型的編碼器來(lái)獲取基礎(chǔ)源端表示和控制器源端表示; S2:基于所述目標(biāo)端歷史序列和所述基礎(chǔ)源端表示,獲取基礎(chǔ)目標(biāo)端表示、神經(jīng)機(jī)器翻譯模型的解碼器頂層交叉注意力層的模塊權(quán)重和權(quán)重向量; S3:基于所述神經(jīng)機(jī)器翻譯模型的解碼器頂層交叉注意力層的權(quán)重向量,獲取待翻譯數(shù)字詞,翻譯為目標(biāo)端數(shù)字詞; S4:基于所述基礎(chǔ)目標(biāo)端表示和翻譯的所述目標(biāo)端數(shù)字詞,綜合計(jì)算詞語(yǔ)概率; 所述基于所述源端序列,通過(guò)神經(jīng)機(jī)器翻譯模型的編碼器來(lái)獲取基礎(chǔ)源端表示和控制器源端表示的具體步驟包括如下: 設(shè)源端序列X={x1,x2,…xm},i={1,2,…m},其中,xi表示源端句子中第i個(gè)子詞,其中,源端序列采用BPE分詞,數(shù)字詞采用字符級(jí)分詞; 將分詞后的源端序列X輸入至Transformer翻譯模型的編碼器中,編碼得到基礎(chǔ)源端表示向量序列E{e1,e2,…em},i={1,2,…m},其中,ei表示源端句子中第i個(gè)子詞; 設(shè)源端數(shù)字標(biāo)簽序列Lsrc={l1,l2,…lm},i={1,2,…m},其中,li表示第i個(gè)子詞是數(shù)字或數(shù)字的子詞,若第i個(gè)子詞不是數(shù)字或數(shù)字的子詞,則li=0; 將所述源端數(shù)字標(biāo)簽序列Lsrc通過(guò)標(biāo)簽詞向量編碼,得到標(biāo)簽詞向量序列El={el1,el2,…elm},i={1,2,…m},其中,eli表示第i個(gè)子詞的數(shù)字標(biāo)簽詞向量; 按元素連接基礎(chǔ)源端表示向量與標(biāo)簽詞向量,得到連接向量H0={h01,h02,…h(huán)0m},i={1,2,…m},其中,h0i=ei|eli,“|”表示向量連接,eli表示源語(yǔ)言句子中第i個(gè)子詞對(duì)應(yīng)的連接向量; 經(jīng)過(guò)控制器編碼器編碼得到控制器源端表示H={h1,h2,…h(huán)m},所述控制器編碼器構(gòu)成如下: 其中,FFN表示全連接神經(jīng)網(wǎng)絡(luò),acti表示任意激活函數(shù); 所述基于所述神經(jīng)機(jī)器翻譯模型的解碼器頂層交叉注意力層的權(quán)重向量,獲取待翻譯數(shù)字詞,翻譯為目標(biāo)端數(shù)字詞的具體步驟包括如下: 根據(jù)所述交叉注意力層的權(quán)重向量wj,得到權(quán)重最大的位置是這一步待翻譯的子詞,由此獲得待翻譯的數(shù)字詞位置k=argmax(wj); 數(shù)字翻譯模塊通過(guò)規(guī)則獲取包含源端第k個(gè)子詞的完整數(shù)字詞,若第k個(gè)子詞不是數(shù)字詞,則令tj=0,若第k個(gè)子詞是數(shù)字詞,則將該完整數(shù)字詞輸入數(shù)字翻譯模塊,以所述規(guī)則的方式翻譯為目標(biāo)語(yǔ)言的數(shù)字詞Nj={nj 1,nj 2,…nj pj},其中,ni表示目標(biāo)語(yǔ)言的數(shù)字詞的第i個(gè)子詞; 若在第j步前,已有翻譯過(guò)的數(shù)字詞Nl={nl 1,nl 2,…nl pl},且l+pl>j,則跳過(guò)翻譯該完整數(shù)字詞的步驟,否則令l:=j且Nl:=Nj。
如需購(gòu)買(mǎi)、轉(zhuǎn)讓、實(shí)施、許可或投資類(lèi)似專(zhuān)利技術(shù),可聯(lián)系本專(zhuān)利的申請(qǐng)人或?qū)@麢?quán)人南京大學(xué),其通訊地址為:210000 江蘇省南京市棲霞區(qū)仙林大道163號(hào);或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話(huà)0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報(bào)告根據(jù)公開(kāi)、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀(guān)、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報(bào)告中的分析和結(jié)論僅反映本公司于發(fā)布本報(bào)告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 波音公司H·S·歐貝羅伊獲國(guó)家專(zhuān)利權(quán)
- 德克薩斯儀器股份有限公司J·茨維西亞克獲國(guó)家專(zhuān)利權(quán)
- 浜松光子學(xué)株式會(huì)社山本諭獲國(guó)家專(zhuān)利權(quán)
- 維薩國(guó)際服務(wù)協(xié)會(huì)A·康韋獲國(guó)家專(zhuān)利權(quán)
- 北京嘀嘀無(wú)限科技發(fā)展有限公司任韌獲國(guó)家專(zhuān)利權(quán)
- 微軟技術(shù)許可有限責(zé)任公司J·考夫塔爾獲國(guó)家專(zhuān)利權(quán)
- 朗姆研究公司保羅·孔科拉獲國(guó)家專(zhuān)利權(quán)
- 索尼公司大場(chǎng)英史獲國(guó)家專(zhuān)利權(quán)
- 維薩國(guó)際服務(wù)協(xié)會(huì)J·弗里安特獲國(guó)家專(zhuān)利權(quán)
- 創(chuàng)新先進(jìn)技術(shù)有限公司邵明成獲國(guó)家專(zhuān)利權(quán)


熱門(mén)推薦
- LG 電子株式會(huì)社南廷學(xué)獲國(guó)家專(zhuān)利權(quán)
- 日產(chǎn)自動(dòng)車(chē)株式會(huì)社伊澤佳典獲國(guó)家專(zhuān)利權(quán)
- 深圳市大疆創(chuàng)新科技有限公司王銘熙獲國(guó)家專(zhuān)利權(quán)
- 創(chuàng)新先進(jìn)技術(shù)有限公司倪飛獲國(guó)家專(zhuān)利權(quán)
- 新唐科技日本株式會(huì)社犬飼文人獲國(guó)家專(zhuān)利權(quán)
- 匹茲堡大學(xué)-屬高等教育聯(lián)邦體系約瑟夫·C·格洛廖索三世獲國(guó)家專(zhuān)利權(quán)
- 閻東獲國(guó)家專(zhuān)利權(quán)
- 菲利普莫里斯生產(chǎn)公司T·李維爾獲國(guó)家專(zhuān)利權(quán)
- 瑞典愛(ài)立信有限公司A.圣托扎獲國(guó)家專(zhuān)利權(quán)
- 上海電巴新能源科技有限公司黃春華獲國(guó)家專(zhuān)利權(quán)