遼寧工程技術(shù)大學(xué)王偉獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標(biāo)用IPTOP,全免費(fèi)!專利年費(fèi)監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉遼寧工程技術(shù)大學(xué)申請的專利一種基于貝葉斯變分推斷的持續(xù)學(xué)習(xí)方法獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN115731396B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-08-22發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202211050124.1,技術(shù)領(lǐng)域涉及:G06V10/44;該發(fā)明授權(quán)一種基于貝葉斯變分推斷的持續(xù)學(xué)習(xí)方法是由王偉;張志瑩;武聰;肖春嬌;張志遠(yuǎn);王鑫博;谷金濤設(shè)計研發(fā)完成,并于2022-11-28向國家知識產(chǎn)權(quán)局提交的專利申請。
本一種基于貝葉斯變分推斷的持續(xù)學(xué)習(xí)方法在說明書摘要公布了:本發(fā)明公開了一種基于貝葉斯變分推斷的持續(xù)學(xué)習(xí)方法,該方法包括:訓(xùn)練數(shù)據(jù)采用當(dāng)前任務(wù)樣本和生成偽樣本;將訓(xùn)練的任務(wù)輸入到模型中進(jìn)行訓(xùn)練,經(jīng)過編碼器進(jìn)行特征提取,獲得所述任務(wù)的均值和協(xié)方差;基于貝葉斯變分推斷方法得到網(wǎng)絡(luò)中表征的后驗分布,計算參數(shù)估計的不確定性;通過極大似然估計,進(jìn)行訓(xùn)練模型分類器,得到最優(yōu)分類結(jié)果;將先前經(jīng)過編碼器提取到的潛在特征先驗分布服從高斯混合分布,通過解碼器生成偽樣本圖像,并計算深度生成模型的損失。根據(jù)本發(fā)明的實(shí)施例,模型可以在實(shí)現(xiàn)動態(tài)環(huán)境中精準(zhǔn)分類,克服持續(xù)學(xué)習(xí)過程災(zāi)難性遺忘問題,在實(shí)際場景中可以根據(jù)上下文信息進(jìn)行選擇,在實(shí)際應(yīng)用場景中具有重要意義。
本發(fā)明授權(quán)一種基于貝葉斯變分推斷的持續(xù)學(xué)習(xí)方法在權(quán)利要求書中公布了:1.一種基于貝葉斯變分推斷的持續(xù)學(xué)習(xí)方法,其特征在于,包括以下步驟: 1獲取待訓(xùn)練的任務(wù),所述待訓(xùn)練的任務(wù)是當(dāng)前任務(wù)圖像和前一個任務(wù)所生成的偽樣本圖像; 2將所述待訓(xùn)練的任務(wù)輸入到模型中進(jìn)行訓(xùn)練,經(jīng)過編碼器進(jìn)行特征提取,獲得所述任務(wù)的均值和協(xié)方差; 3基于貝葉斯變分推斷方法得到網(wǎng)絡(luò)中表征的后驗分布,計算參數(shù)估計的不確定性,以及模型變分推斷的損失;貝葉斯變分推斷方法采用的損失函數(shù)如下: 其中,t,Nt分別是第t個任務(wù)和它所包含的樣本數(shù);表示第n樣本及其真實(shí)標(biāo)簽;qtω,代表第t和t-1任務(wù)的隱藏空間中潛在變量z的后驗分布;ω代表其網(wǎng)絡(luò)中得到的參數(shù);在貝葉斯變分推斷中,為了得到其任務(wù)的參數(shù)分布,采用KL散度Kullback-Leiblerdivergence進(jìn)行衡量,則KLqtω||qt-1ω,為得到當(dāng)前任務(wù)的后驗分布,將前一個任務(wù)的后驗分布作為當(dāng)前模型訓(xùn)練的先驗分布;為極大似然估計函數(shù);在訓(xùn)練過程中需要滿足最小化貝葉斯變分推斷損失函數(shù) 4通過極大似然估計,進(jìn)行訓(xùn)練模型分類器,得到最優(yōu)分類結(jié)果; 5將上述2中得到的潛在特征先驗分布服從高斯混合分布,通過解碼器生成偽樣本圖像,并計算深度生成模型的損失; 高斯混合模型GMM是一個普遍存在的用于密度估計、模式識別和函數(shù)逼近的統(tǒng)計模型,它具有解析可處理性、漸進(jìn)性和連續(xù)密度函數(shù)的通用近似能力;在生成偽樣本使用高斯混合概率分布代替先驗分布,使得每個類別都有單獨(dú)的模型,潛在變量z的分布更加靈活,與此同時增加模型的可塑性,通過對z的采樣限制模型生成指定的類別;則將原有潛在空間的特征進(jìn)行轉(zhuǎn)換為: 其中pΩz分別是高斯混合模型GMM后驗分布和先驗分布,Ω是每個高斯模型的均值和標(biāo)準(zhǔn)差的集合,αk=y(tǒng)表示輸入類別,K為αk輸入總數(shù),對應(yīng)類先驗系數(shù)ωk=ω'k=py=αk=1k, 進(jìn)一步基于高斯混合先驗分布得到的潛在變量的KL散度損失: 其中 和是第k個目標(biāo)值平均值和標(biāo)準(zhǔn)差; 解碼器網(wǎng)絡(luò)pφ根據(jù)潛在變量z的后驗分布進(jìn)行重構(gòu)偽樣本圖片讓潛在變量特征z生成的偽樣本與原始任務(wù)輸入數(shù)據(jù)相似,減小生成偽樣本的誤差,重構(gòu)損失函數(shù)表達(dá)式應(yīng)變?yōu)椋? 其中,φ分別為編碼器和解碼器的分布參數(shù);進(jìn)一步深度生成模型的損失函數(shù)應(yīng)為: 。
如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人遼寧工程技術(shù)大學(xué),其通訊地址為:123000 遼寧省阜新市細(xì)河區(qū)中華路47號;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報告中的分析和結(jié)論僅反映本公司于發(fā)布本報告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 谷歌有限責(zé)任公司大衛(wèi)·林德獲國家專利權(quán)
- 浙江蘇泊爾家電制造有限公司陽夢喬獲國家專利權(quán)
- 威斯康星州醫(yī)藥大學(xué)股份有限公司X·A·李獲國家專利權(quán)
- 松下電器研究開發(fā)(蘇州)有限公司牛向偉獲國家專利權(quán)
- 領(lǐng)星生物科技(上海)有限公司許強(qiáng)獲國家專利權(quán)
- 谷歌有限責(zé)任公司凱登·邁爾獲國家專利權(quán)
- 國立大學(xué)法人大阪大學(xué)中江文獲國家專利權(quán)
- 華為技術(shù)有限公司李勝鈺獲國家專利權(quán)
- 賽銳貝尓股份有限公司約瑟夫·帕維茲獲國家專利權(quán)
- 江蘇宇通干燥工程有限公司陸文光獲國家專利權(quán)