北方工業大學曹丹陽獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉北方工業大學申請的專利一種基于小參數語言模型的詩詞生成與解讀方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119597890B 。
龍圖騰網通過國家知識產權局官網在2025-08-26發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202411674529.1,技術領域涉及:G06F16/3329;該發明授權一種基于小參數語言模型的詩詞生成與解讀方法是由曹丹陽;程成;高磊;張冠敏設計研發完成,并于2024-11-21向國家知識產權局提交的專利申請。
本一種基于小參數語言模型的詩詞生成與解讀方法在說明書摘要公布了:本發明提供一種基于小參數語言模型的詩詞生成與解讀方法,涉及機器學習技術領域,該方法為利用語言指令對詩詞解析數據進行分析,得到詩詞訓練數據;利用包含注意力模塊和前饋網絡模塊的編碼器層,構建小參數語言模型;利用多階段訓練方式對所述小參數語言模型進行訓練,得到訓練好的小參數語言模型,完成小參數語言模型的構建;其中,小參數語言模型用于對詩詞訓練數據進行分析,得到詩詞生成與解讀結果。本發明解決了語言模型在中文環境適應能力差和生成質量不高的問題。
本發明授權一種基于小參數語言模型的詩詞生成與解讀方法在權利要求書中公布了:1.一種基于小參數語言模型的詩詞生成與解讀方法,其特征在于,包括: S1:利用語言指令對詩詞解析數據進行分析,得到詩詞訓練數據; S2:利用包含注意力模塊和前饋網絡模塊的編碼器層,構建小參數語言模型;所述小參數語言模型包括多個編碼器層,其中,所述編碼器層包括: 注意力模塊,包括位置編碼算法,用于通過多頭注意力機制,計算所述詩詞訓練數據中各元素的相關性,得到注意力特征向量; 前饋網絡模塊,包括輸入單元、隱藏單元和輸出單元,用于通過線性變換和非線性激活,將所述注意力特征向量映射到高維度空間,得到高維空間特征信息;所述注意力特征向量的表達式為: ; ; ; 其中,表示注意力特征向量,表示查詢,表示值,表示softmax激活函數,表示鍵的維度,表示經過嵌入前的輸入,表示轉為復數域的和,表示位置嵌入的變換要求,表示時間步,表示頻率分量的索引,表示向量維度,表示縮放因子; 所述非線性激活的表達式為: ; 其中,表示非線性激活結果,表示輸入單元的數據,、和表示全連接層的權重,表示Sigmoid線性單元激活函數,表示乘運算; 所述小參數語言模型的表達式為: ; 其中,表示第編碼層,表示第二編碼層,表示第一編碼層,表示詩詞訓練數據,表示第一編碼層的參數,表示第二編碼層的參數,表示第編碼層的參數; S3:利用多階段訓練方式對所述小參數語言模型進行訓練,得到訓練好的小參數語言模型,完成小參數語言模型的構建;其中,所述小參數語言模型用于對詩詞訓練數據進行分析,得到詩詞生成與解讀結果。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人北方工業大學,其通訊地址為:100144 北京市石景山區晉元莊路5號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。