北京中關村科金技術有限公司李長林獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉北京中關村科金技術有限公司申請的專利語義向量提取模型的訓練及語義向量表示方法、裝置獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN115481222B 。
龍圖騰網通過國家知識產權局官網在2025-09-19發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202110604091.X,技術領域涉及:G06F16/3329;該發明授權語義向量提取模型的訓練及語義向量表示方法、裝置是由李長林;吳海英;蔣寧;王洪斌;許德琰設計研發完成,并于2021-05-31向國家知識產權局提交的專利申請。
本語義向量提取模型的訓練及語義向量表示方法、裝置在說明書摘要公布了:本申請公開了一種語義向量提取模型的訓練及語義向量表示方法、裝置。其中,語義向量提取模型的訓練方法,包括:獲取與語義向量對應的下游任務同場景的對話語料作為第一預訓練文本,基于第一預訓練文本,對已訓練好的BERT語言網絡進行二次訓練,以生成關注文本中的名詞和動詞的BERT語言網絡;獲取文本分類數據,并基于文本分類數據生成文本相似度數據集;以及基于文本相似度數據集,對多任務分類網絡進行微調訓練,以生成語義向量提取模型。
本發明授權語義向量提取模型的訓練及語義向量表示方法、裝置在權利要求書中公布了:1.一種語義向量提取模型的訓練方法,其特征在于,包括: 獲取與所述語義向量對應的下游任務同場景的對話語料作為第一預訓練文本,基于所述第一預訓練文本,對已訓練好的BERT語言網絡進行二次訓練,以生成關注文本中的名詞和動詞的BERT語言網絡; 獲取文本分類數據,并基于所述文本分類數據生成文本相似度數據集,其中所述文本分類數據為已分類的文本數據,所述文本相似度數據集由所述文本分類數據和與所述文本分類數據具有不同程度的相似度的其他文本數據組成;以及 基于所述文本相似度數據集,對多任務分類網絡進行微調訓練,以生成語義向量提取模型,其中所述多任務分類網絡包括二次訓練后的兩個所述BERT語言網絡、兩個注意力機制網絡、兩個多分類全連接層和一個語義匹配層,所述語義向量提取模型包括微調訓練結束時生成的所述多任務分類網絡中的BERT語言網絡和注意力機制網絡。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人北京中關村科金技術有限公司,其通訊地址為:100080 北京市海淀區上地四街一號院5號樓一層130;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。