阿里巴巴(中國)有限公司劉澈獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標(biāo)用IPTOP,全免費(fèi)!專利年費(fèi)監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉阿里巴巴(中國)有限公司申請的專利模型訓(xùn)練、對話處理方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識(shí)產(chǎn)權(quán)局授予,授權(quán)公告號(hào)為:CN115129837B 。
龍圖騰網(wǎng)通過國家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-09-09發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號(hào)為:202210643475.7,技術(shù)領(lǐng)域涉及:G06F16/3329;該發(fā)明授權(quán)模型訓(xùn)練、對話處理方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)是由劉澈;李永彬設(shè)計(jì)研發(fā)完成,并于2022-06-08向國家知識(shí)產(chǎn)權(quán)局提交的專利申請。
本模型訓(xùn)練、對話處理方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)在說明書摘要公布了:本公開涉及一種模型訓(xùn)練、對話處理方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)。本公開通過在對話預(yù)訓(xùn)練語言模型的訓(xùn)練過程中,就引入對話特有的信息例如輪次和角色,使得訓(xùn)練后得到的對話向量表示模型可以有效建模對話中特有的多角色之間的信息交互。因此,當(dāng)采用對話向量表示模型生成目標(biāo)對話數(shù)據(jù)對應(yīng)的表示向量時(shí),可以提高該表示向量的精準(zhǔn)度,使得該表示向量可以取得良好的對話表示效果。
本發(fā)明授權(quán)模型訓(xùn)練、對話處理方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)在權(quán)利要求書中公布了:1.一種模型訓(xùn)練方法,其中,所述方法包括: 根據(jù)第一對話數(shù)據(jù),生成第二對話數(shù)據(jù),所述第一對話數(shù)據(jù)中至少一個(gè)角色的對話文本與所述第二對話數(shù)據(jù)中所述至少一個(gè)角色的對話文本不同; 根據(jù)所述第一對話數(shù)據(jù)中的每個(gè)對話文本、以及所述第一對話數(shù)據(jù)中的每個(gè)對話文本分別對應(yīng)的輪次和角色,確定對話預(yù)訓(xùn)練語言模型的第一輸入信息,根據(jù)所述第二對話數(shù)據(jù)中的每個(gè)對話文本、以及所述第二對話數(shù)據(jù)中的每個(gè)對話文本分別對應(yīng)的輪次和角色,確定所述對話預(yù)訓(xùn)練語言模型的第二輸入信息,所述對話預(yù)訓(xùn)練語言模型用于根據(jù)所述第一輸入信息得到第一輸出信息、根據(jù)所述第二輸入信息得到第二輸出信息; 根據(jù)所述第一輸出信息計(jì)算所述第一對話數(shù)據(jù)中不同角色間的第一表示距離,根據(jù)所述第二輸出信息計(jì)算所述第二對話數(shù)據(jù)中不同角色間的第二表示距離; 通過最小化所述第一表示距離且最大化所述第二表示距離,對所述對話預(yù)訓(xùn)練語言模型進(jìn)行訓(xùn)練,得到對話向量表示模型,所述對話向量表示模型用于生成目標(biāo)對話數(shù)據(jù)對應(yīng)的表示向量; 其中,根據(jù)所述第一輸出信息計(jì)算所述第一對話數(shù)據(jù)中不同角色間的第一表示距離,包括:根據(jù)所述第一輸出信息中所述第一對話數(shù)據(jù)中每個(gè)對話文本分別包括的文本單元的表示向量,生成第一集合和第二集合,其中,所述第一集合對應(yīng)的角色,不同于所述第二集合對應(yīng)的角色;根據(jù)所述第一集合和所述第二集合,計(jì)算得到第一矩陣和第二矩陣,所述第一矩陣和所述第二矩陣互為轉(zhuǎn)置矩陣;根據(jù)所述第一矩陣和所述第二矩陣,得到所述第一表示距離; 根據(jù)所述第二輸出信息計(jì)算所述第二對話數(shù)據(jù)中不同角色間的第二表示距離,包括:根據(jù)所述第二輸出信息中所述第二對話數(shù)據(jù)中每個(gè)對話文本分別包括的文本單元的表示向量,生成第三集合和第四集合,其中,所述第三集合對應(yīng)的角色,不同于所述第四集合對應(yīng)的角色;根據(jù)所述第三集合和所述第四集合,計(jì)算得到第三矩陣和第四矩陣,所述第三矩陣和所述第四矩陣互為轉(zhuǎn)置矩陣;根據(jù)所述第三矩陣和所述第四矩陣,得到所述第二表示距離。
如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人阿里巴巴(中國)有限公司,其通訊地址為:310052 浙江省杭州市余杭區(qū)五常街道文一西路969號(hào)3幢5層554室;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報(bào)告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報(bào)告中的分析和結(jié)論僅反映本公司于發(fā)布本報(bào)告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 株式會(huì)社KT李培根獲國家專利權(quán)
- 西門子股份公司R.克勞斯獲國家專利權(quán)
- 浙江紹興蘇泊爾生活電器有限公司丁金炬獲國家專利權(quán)
- 米迪繆尼有限公司R·卡卡獲國家專利權(quán)
- 亞歷克西斯·達(dá)科斯塔亞歷克西斯·達(dá)科斯塔獲國家專利權(quán)
- 深圳市大疆創(chuàng)新科技有限公司劉渭鋒獲國家專利權(quán)
- 浙江順動(dòng)科技有限公司年珩獲國家專利權(quán)
- 株式會(huì)社KT李培根獲國家專利權(quán)
- 中國瑞林工程技術(shù)股份有限公司毛志琨獲國家專利權(quán)
- 麥克賽爾株式會(huì)社平冢幸惠獲國家專利權(quán)