北京工商大學宋天寶獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉北京工商大學申請的專利一種防止變分自動編碼器在文本建模中后驗坍縮的方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119416744B 。
龍圖騰網通過國家知識產權局官網在2025-08-29發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202411458817.3,技術領域涉及:G06F40/16;該發明授權一種防止變分自動編碼器在文本建模中后驗坍縮的方法是由宋天寶;劉歆設計研發完成,并于2024-10-18向國家知識產權局提交的專利申請。
本一種防止變分自動編碼器在文本建模中后驗坍縮的方法在說明書摘要公布了:本發明公開了一種防止變分自動編碼器在文本建模中發生后驗坍縮的方法。該方法在模型的解碼器中設置PathA和PathB兩條路徑,在PathA中,將文本實例直接輸入解碼器,而在PathB中,隨機將文本實例中一部分詞替換為未登錄詞統一符號后再輸入解碼器。模型設置Path停止策略,在模型訓練初始階段,PathA和PathB同時存在,當模型趨近于收斂時,取消PathB。同時使用KL權重置零方法,在KL退火過程中隨機將KL權重的一部分維度置為0。本發明所述方法通過PathB迫使模型在潛在變量中編碼更多關于輸入數據的信息,通過PathA和Path停止策略使模型能夠充分利用解碼器的表示能力,同時避免模型進入存在PathB時的局部最優狀態,并通過KL權重置零方法提升潛在變量中的活躍單元個數,最終更好地解決變分自動編碼器在文本建模中的后驗坍縮問題。
本發明授權一種防止變分自動編碼器在文本建模中后驗坍縮的方法在權利要求書中公布了:1.一種防止變分自動編碼器在文本建模中發生后驗坍縮的方法,其特征在于,利用目標函數對變分自動編碼器模型進行訓練,所述目標函數為: 其中,L表示目標函數,path是模型中解碼器的Path標識,L1是PathA和PathB同時存在時的目標函數,L2是只有PathA存在時的目標函數,pX表示真實文本數據x的概率,x=[x1,x2,x3,...,xt,...,xT]是來自x的一個文本實例,xt表示文本實例x中的詞,和分別表示由解碼器中PathA和PathB學習的x的似然分布,α是PathB中控制詞丟棄比例的超參數,z表示潛在變量,表示由模型中編碼器學習的x對應的潛在變量z的后驗概率分布,pz表示潛在變量z的先驗概率分布,使用標準高斯分布N0,I,表示編碼器的參數,θ表示解碼器的參數,E.[·]表示期望,DKL[·||·]表示KL散度。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人北京工商大學,其通訊地址為:100048 北京市海淀區阜成路33號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。