買(mǎi)專(zhuān)利賣(mài)專(zhuān)利找龍圖騰，真高效！ 查專(zhuān)利查商標(biāo)用IPTOP,全免費(fèi)！專(zhuān)利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉清華大學(xué)深圳國(guó)際研究生院申請(qǐng)的專(zhuān)利在持續(xù)學(xué)習(xí)中保留視覺(jué)-語(yǔ)言模型預(yù)訓(xùn)練的圖像和文本知識(shí)的方法獲國(guó)家發(fā)明授權(quán)專(zhuān)利權(quán)，本發(fā)明授權(quán)專(zhuān)利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予，授權(quán)公告號(hào)為：CN118798315B 。

龍圖騰網(wǎng)通過(guò)國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-09-12發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專(zhuān)利申請(qǐng)?zhí)?專(zhuān)利號(hào)為：202410776022.0，技術(shù)領(lǐng)域涉及：G06N3/096；該發(fā)明授權(quán)在持續(xù)學(xué)習(xí)中保留視覺(jué)-語(yǔ)言模型預(yù)訓(xùn)練的圖像和文本知識(shí)的方法是由李秀;唐龍翔;何春明;周涵濤;方承煜設(shè)計(jì)研發(fā)完成，并于2024-06-17向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專(zhuān)利申請(qǐng)。

本在持續(xù)學(xué)習(xí)中保留視覺(jué)-語(yǔ)言模型預(yù)訓(xùn)練的圖像和文本知識(shí)的方法在說(shuō)明書(shū)摘要公布了：本發(fā)明提供一種在持續(xù)學(xué)習(xí)中保留視覺(jué)?語(yǔ)言模型預(yù)訓(xùn)練的圖像和文本知識(shí)的方法，設(shè)計(jì)了一種分布感知無(wú)干擾知識(shí)整合機(jī)制，為視覺(jué)?語(yǔ)言模型的持續(xù)學(xué)習(xí)應(yīng)用提供了一種創(chuàng)新解決方案，有效解決了后向遺忘問(wèn)題，同時(shí)保留了模型的預(yù)訓(xùn)練圖像和文本知識(shí)。本發(fā)明中，通過(guò)修改自注意力機(jī)制，訓(xùn)練殘差注意力分支而不改變?cè)械淖⒁饬Φ梅值娜珰埐钤O(shè)計(jì)以及零初始化策略，減少了新任務(wù)學(xué)習(xí)對(duì)預(yù)訓(xùn)練知識(shí)的影響，最小化了噪聲干擾。同時(shí)，引入了分布感知的整合校準(zhǔn)機(jī)制，能夠精確識(shí)別并適應(yīng)新的圖像和文本分布并保護(hù)預(yù)訓(xùn)練的圖像和文本知識(shí)。本發(fā)明使視覺(jué)?語(yǔ)言模型能夠高效適應(yīng)新的圖像和文本數(shù)據(jù)，保持高精度。

本發(fā)明授權(quán)在持續(xù)學(xué)習(xí)中保留視覺(jué)-語(yǔ)言模型預(yù)訓(xùn)練的圖像和文本知識(shí)的方法在權(quán)利要求書(shū)中公布了：1.一種在持續(xù)學(xué)習(xí)中保留視覺(jué)-語(yǔ)言模型預(yù)訓(xùn)練的圖像和文本知識(shí)的方法，其特征在于，包括： 設(shè)定多個(gè)順序到達(dá)的任務(wù)，每個(gè)任務(wù)包含一個(gè)圖像數(shù)據(jù)集和對(duì)應(yīng)的一熱標(biāo)簽，以及一個(gè)類(lèi)名集，將標(biāo)簽索引與類(lèi)別名稱(chēng)關(guān)聯(lián)起來(lái)； 準(zhǔn)備一個(gè)預(yù)訓(xùn)練的視覺(jué)-語(yǔ)言模型，該視覺(jué)-語(yǔ)言模型包含圖像編碼器和文本編碼器，用于生成圖像-文本對(duì)的對(duì)齊特征表示； 為每個(gè)新到達(dá)的任務(wù)創(chuàng)建一組用于輔助模型處理圖像及文本的輕量級(jí)提示，形成提示池，所述提示池用于存儲(chǔ)所述輕量級(jí)提示，以供推理時(shí)使用，并用于在持續(xù)學(xué)習(xí)階段輔助模型回憶和利用之前學(xué)到的圖像及文本知識(shí)； 利用無(wú)信息干擾的知識(shí)注入機(jī)制，通過(guò)修改自注意力機(jī)制，訓(xùn)練殘差注意力分支而不改變?cè)械淖⒁饬Φ梅郑?將殘差注意力分支的參數(shù)初始化為零，以在訓(xùn)練開(kāi)始時(shí)不影響模型的預(yù)訓(xùn)練知識(shí)； 為每個(gè)任務(wù)建立一個(gè)多元高斯分布模型，用于捕捉和表示任務(wù)的圖像和文本特征分布； 當(dāng)新的圖像或文本測(cè)試樣本到來(lái)時(shí)，使用多元高斯模型判斷樣本最有可能來(lái)自哪個(gè)已學(xué)習(xí)的圖像或文本任務(wù)； 根據(jù)圖像或文本測(cè)試樣本的分布識(shí)別結(jié)果，調(diào)整殘差注意力輸出的權(quán)重，以為不熟悉的樣本分配較低的權(quán)重，保護(hù)預(yù)訓(xùn)練知識(shí)； 對(duì)于每個(gè)圖像或文本新任務(wù)，選擇與當(dāng)前任務(wù)最相關(guān)的提示；將選定的提示附加到預(yù)訓(xùn)練且凍結(jié)的視覺(jué)-語(yǔ)言模型上；執(zhí)行推理過(guò)程，利用附加的提示來(lái)輔助模型回憶和利用之前學(xué)到的圖像及文本知識(shí)；根據(jù)多元高斯分布和殘差注意力權(quán)重調(diào)整機(jī)制，調(diào)整模型的輸出，以?xún)?yōu)化圖像或文本新任務(wù)的學(xué)習(xí)并保留舊知識(shí)。

如需購(gòu)買(mǎi)、轉(zhuǎn)讓、實(shí)施、許可或投資類(lèi)似專(zhuān)利技術(shù)，可聯(lián)系本專(zhuān)利的申請(qǐng)人或?qū)＠麢?quán)人清華大學(xué)深圳國(guó)際研究生院，其通訊地址為：518071 廣東省深圳市南山區(qū)桃源街道麗水路2279號(hào)；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。