買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費！專利年費監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉暨南大學(xué)申請的專利一種基于大語言模型的文本序列推薦方法及系統(tǒng)獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN119760120B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-09-02發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202411660991.6，技術(shù)領(lǐng)域涉及：G06F16/335；該發(fā)明授權(quán)一種基于大語言模型的文本序列推薦方法及系統(tǒng)是由周志博;楊正航;謝紹均;黃斐然設(shè)計研發(fā)完成，并于2024-11-20向國家知識產(chǎn)權(quán)局提交的專利申請。

本一種基于大語言模型的文本序列推薦方法及系統(tǒng)在說明書摘要公布了：本發(fā)明公開了一種基于大語言模型的文本序列推薦方法及系統(tǒng)，屬于推薦算法技術(shù)領(lǐng)域，包括：數(shù)據(jù)預(yù)處理階段、大語言模型預(yù)訓(xùn)練階段、序列模型微調(diào)階段以及匹配階段。本發(fā)明通過引入大語言模型到文本序列推薦任務(wù)，能夠利用大語言模型豐富的預(yù)訓(xùn)練語料，更好的對文本進行建模；同時通過將文本進行序列建模，激活了大模型中對于序列推薦建模的能力，擺脫了傳統(tǒng)推薦算法中基于ID的推薦范式，更好的在冷啟動場景和知識遷移的場景下進行推薦任務(wù)學(xué)習(xí)處理；最后通過序列模型對推薦結(jié)果的最終優(yōu)化，能夠?qū)崿F(xiàn)以往大語言模型輸出結(jié)果存在幻覺無法精準(zhǔn)匹配的問題。

本發(fā)明授權(quán)一種基于大語言模型的文本序列推薦方法及系統(tǒng)在權(quán)利要求書中公布了：1.一種基于大語言模型的文本序列推薦方法，其特征在于，包括以下階段： 數(shù)據(jù)預(yù)處理階段：將用戶點擊的歷史文本序列數(shù)據(jù)，轉(zhuǎn)化為屬性鍵值對集合，以構(gòu)造用于大模型訓(xùn)練的數(shù)據(jù)集； 大語言模型預(yù)訓(xùn)練階段：將所述數(shù)據(jù)集，構(gòu)造為大語言模型的提示詞訓(xùn)練集，將序列推薦任務(wù)轉(zhuǎn)換為自然語言任務(wù)后進行模型訓(xùn)練，在語義空間層面獲取最佳的文本序列推薦結(jié)果； 序列模型微調(diào)階段：通過對序列模型進行微調(diào)，使得基于大語言模型的結(jié)果在序列推薦任務(wù)上得到優(yōu)化； 匹配階段：基于大語言模型階段和序列模型階段的處理結(jié)果，對文本內(nèi)容在嵌入向量空間維度進行匹配，輸出序列推薦的結(jié)果； 在序列模型微調(diào)階段，將Langformer作為序列模型，用于防止過長的交互序列對計算結(jié)果產(chǎn)生影響以及加快注意力機制的計算效率； 在序列模型微調(diào)階段，選擇基準(zhǔn)向量，將經(jīng)過大語言模型訓(xùn)練后得到的向量作為所述基準(zhǔn)向量的正樣本，將未經(jīng)過大語言模型訓(xùn)練后得到的向量作為所述基準(zhǔn)向量的負(fù)樣本； 基于所述基準(zhǔn)向量，根據(jù)所述正樣本和所述負(fù)樣本，通過設(shè)置擾動因子，構(gòu)建對比學(xué)習(xí)Loss函數(shù)，用于對下游任務(wù)進行微調(diào)，其中，所述對比學(xué)習(xí)Loss函數(shù)表示為： 式中，Efinal表示基準(zhǔn)向量，表示正樣本，表示負(fù)樣本，α1表示擾動因子，Lc表示對比學(xué)習(xí)Loss函數(shù)。

如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人暨南大學(xué)，其通訊地址為：510632 廣東省廣州市天河區(qū)黃埔大道西601號；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。