大連理工大學;國投智能(廈門)信息股份有限公司孫媛媛獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉大連理工大學;國投智能(廈門)信息股份有限公司申請的專利一種提高向量檢索性能的文本數據增強方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119961436B 。
龍圖騰網通過國家知識產權局官網在2025-08-26發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510139067.1,技術領域涉及:G06F16/334;該發明授權一種提高向量檢索性能的文本數據增強方法是由孫媛媛;鳳文鐸;羅凌;徐博;林國凱;王海濱設計研發完成,并于2025-02-08向國家知識產權局提交的專利申請。
本一種提高向量檢索性能的文本數據增強方法在說明書摘要公布了:本發明提供了一種提高向量檢索性能的文本數據增強方法,屬于計算機數據分析領域。該方法首先使用大語言模型的提示模板對長文本數據進行壓縮處理,將其分解為若干條短文本;在訓練過程中,這些短文本將替換原來的長文本被用作訓練數據,從而節約單條信息占用的顯存大小;為應對文本長度縮短可能導致的表示能力下降問題,本發明通過組合來源于同一長文本的多條短文本構建出指引向量,并將指引向量作為輔助信息指導單個短文本的編碼過程。通過這種方式,本發明能夠有效地減少文本縮短對模型表示能力的不利影響,從而在使用更短的單條信息的前提下,提升模型的訓練效果和泛化能力。
本發明授權一種提高向量檢索性能的文本數據增強方法在權利要求書中公布了:1.一種提高向量檢索性能的文本數據增強方法,其特征在于,包括以下步驟: S1、獲取數據集并對所述數據集進行預處理; S2、利用預處理后的數據集對預訓練模型進行對比學習訓練,得到訓練好的初級檢索模型; S3、基于大語言模型對預處理后的數據集中的正例文檔進行語義解耦,將正例文檔分解為若干條短文本;并對所述短文本數據進行篩選,得到增強數據集,格式為查詢,正例,負例,增強短文本集合; S4、基于所述初級檢索模型對所述增強數據集中的數據進行聚合構建出指引向量,利用所述指引向量指引所述初級檢索模型的訓練,得到最終的檢索模型;所述指引向量的構建方式為: 加載所述初級檢索模型,將所述增強數據集劃分成若干個訓練批次;在一個批次的訓練任務中,將該批次內的查詢、正例、負例、增強短文本集合全部編碼為高維向量,其中增強短文本集合不經過池化層;將來自同一查詢的所有短文本高維向量相加得到拼接向量;再將拼接向量通過一層全連接層,一層殘差連接,并使其投影到一個高層語義空間;對每個查詢的拼接向量依照向量位置拆分,基于每個位置的向量之間的歐式距離進行聚類生成若干個詞組向量;對于每個查詢向量,計算該查詢向量與各詞組向量之間的KL散度,并將最小KL散度所對應的詞組向量作為指引向量。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人大連理工大學;國投智能(廈門)信息股份有限公司,其通訊地址為:116024 遼寧省大連市甘井子區凌工路2號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。