阿里巴巴(中國)有限公司張珍茹獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉阿里巴巴(中國)有限公司申請的專利語言模型微調方法、文本分類方法、裝置及設備獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN115017987B 。
龍圖騰網通過國家知識產權局官網在2025-09-09發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202210617196.3,技術領域涉及:G06F18/214;該發明授權語言模型微調方法、文本分類方法、裝置及設備是由張珍茹;徐海洋;譚傳奇;黃松芳設計研發完成,并于2022-06-01向國家知識產權局提交的專利申請。
本語言模型微調方法、文本分類方法、裝置及設備在說明書摘要公布了:本申請實施例提供一種語言模型微調方法、文本分類方法、裝置及設備。微調方法包括:獲取輸入詞向量,輸入詞向量包括:訓練樣本的訓練樣本詞向量、第一模板詞的第一模板詞向量、掩碼、第二模板詞的第二模板詞向量及單個標簽詞對應的標簽詞向量;訓練樣本、第一模板詞及掩碼構成第一文本句子,第二模板詞和單個標簽詞構成第二文本句子;將輸入詞向量輸入預訓練語言模型得到詞預測結果和針對第一文本句子和第二文本句子的相鄰句子判斷結果;基于詞預測結果和真實標簽詞得到第一損失值;基于相鄰句子判斷結果和真實判斷結果得到第二損失值;根據第一損失值和第二損失值訓練預訓練語言模型得到訓練完成的語言模型。本申請可提升語言模型預測性能。
本發明授權語言模型微調方法、文本分類方法、裝置及設備在權利要求書中公布了:1.一種語言模型微調方法,包括: 獲取輸入詞向量,所述輸入詞向量包括:訓練樣本的訓練樣本詞向量、第一模板詞的第一模板詞向量、掩碼、第二模板詞的第二模板詞向量及單個標簽詞對應的標簽詞向量;其中,所述訓練樣本、所述第一模板詞及所述掩碼構成第一文本句子,所述第二模板詞和所述單個標簽詞構成第二文本句子; 將所述輸入詞向量輸入預訓練語言模型,得到所述掩碼的詞預測結果和針對所述第一文本句子和所述第二文本句子的相鄰句子判斷結果; 基于所述詞預測結果和真實標簽詞得到第一損失值;基于所述相鄰句子判斷結果和真實判斷結果得到第二損失值; 根據所述第一損失值和所述第二損失值訓練所述預訓練語言模型,得到訓練完成的語言模型; 其中,獲取輸入詞向量,包括:對由所述第一文本句子和所述第二文本句子構成的組合樣本進行詞嵌入操作,得到所述輸入詞向量。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人阿里巴巴(中國)有限公司,其通訊地址為:311121 浙江省杭州市余杭區五常街道文一西路969號3幢5層554室;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。