哈爾濱理工大學劉宇鵬獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉哈爾濱理工大學申請的專利一種基于元學習及語言對子網的多語言神經機器翻譯模型訓練方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119783692B 。
龍圖騰網通過國家知識產權局官網在2025-09-26發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202411852040.9,技術領域涉及:G06F40/58;該發明授權一種基于元學習及語言對子網的多語言神經機器翻譯模型訓練方法是由劉宇鵬;唐詩晨;孟慶豐設計研發完成,并于2024-12-16向國家知識產權局提交的專利申請。
本一種基于元學習及語言對子網的多語言神經機器翻譯模型訓練方法在說明書摘要公布了:一種基于元學習及語言對子網的多語言神經機器翻譯模型訓練方法,它屬于機器翻譯技術領域。本發明解決了現有的多語言翻譯共享模型的翻譯性能差的問題。本發明借助ML方法對多語言翻譯模型進行初始參數優化,得到局部最優參數值,ML通過學習任務間共享表示,并對每種語言對進行自適應調整,可以減少參數干擾,保證翻譯性能。通過學習語言特定子網可以獲得每種語言對任務的掩碼矩陣,在模型訓練時每次僅僅更新輸入語言對數據對應的模型參數,使多語言翻譯模型能夠避免參數干擾,同時提升訓練效率。在后續翻譯任務中,僅需要掩碼矩陣中元素1對應的模型參數來參與翻譯結果預測,降低了模型計算的復雜度。本發明方法可以應用于機器翻譯領域。
本發明授權一種基于元學習及語言對子網的多語言神經機器翻譯模型訓練方法在權利要求書中公布了:1.一種基于元學習及語言對子網的多語言神經機器翻譯模型訓練方法,其特征在于,所述方法具體包括以下步驟: 步驟一、獲取多語言對數據集,對多語言對數據集進行預處理,并根據預處理后的多語言對來構建多語言全局共享詞典;并在預處理后的多語言對的前面添加上語言類別標識后,再將預處理后的多語言對劃分為訓練集、驗證集和測試集三個部分; 步驟二、基于元學習方法、多語言全局共享詞典以及訓練集、驗證集和測試集對多語言神經機器翻譯模型進行預訓練,獲得預訓練好的多語言神經機器翻譯模型; 步驟三、為多語言對數據集中的每種語言對分別搭建子網,且每種語言對的子網的結構均與多語言神經機器翻譯模型的結構相同,每個子網均加載預訓練好的多語言神經機器翻譯模型的參數; 對于多語言對數據集中的任意一種語言對,利用該種語言對所對應的預處理結果對加載參數后的子網的參數進行微調,根據微調結果生成該種語言對的掩碼矩陣; 步驟四、分別利用每種語言對所對應的預處理后結果,對預訓練好的多語言神經機器翻譯模型進行訓練,獲得訓練好的多語言神經機器翻譯模型; 其中,利用第i種語言對所對應的預處理后結果對預訓練好的模型進行訓練時,僅調整第i種語言對所對應的掩碼矩陣中元素1對應的參數權重; 步驟五、對待翻譯的語句進行預處理后,給預處理結果添加語言類別標識,再將添加語言類別標識后的預處理結果作為訓練好的多語言神經機器翻譯模型的輸入,通過訓練好的多語言神經機器翻譯模型輸出翻譯結果。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人哈爾濱理工大學,其通訊地址為:150080 黑龍江省哈爾濱市南崗區學府路52號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。