買(mǎi)專(zhuān)利賣(mài)專(zhuān)利找龍圖騰，真高效！ 查專(zhuān)利查商標(biāo)用IPTOP,全免費(fèi)！專(zhuān)利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉桂林電子科技大學(xué)申請(qǐng)的專(zhuān)利一種基于大語(yǔ)言模型嵌入的圖注意力強(qiáng)化學(xué)習(xí)學(xué)習(xí)路徑推薦方法、系統(tǒng)、設(shè)備及存儲(chǔ)介質(zhì)獲國(guó)家發(fā)明授權(quán)專(zhuān)利權(quán)，本發(fā)明授權(quán)專(zhuān)利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予，授權(quán)公告號(hào)為：CN119474528B 。

龍圖騰網(wǎng)通過(guò)國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-09-23發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專(zhuān)利申請(qǐng)?zhí)?專(zhuān)利號(hào)為：202411454600.5，技術(shù)領(lǐng)域涉及：G06F16/9535；該發(fā)明授權(quán)一種基于大語(yǔ)言模型嵌入的圖注意力強(qiáng)化學(xué)習(xí)學(xué)習(xí)路徑推薦方法、系統(tǒng)、設(shè)備及存儲(chǔ)介質(zhì)是由楊青;劉明浩;江雨壕;關(guān)中龍;吳澤正;劉奕成;黃肖陽(yáng);何佳融設(shè)計(jì)研發(fā)完成，并于2024-10-17向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專(zhuān)利申請(qǐng)。

本一種基于大語(yǔ)言模型嵌入的圖注意力強(qiáng)化學(xué)習(xí)學(xué)習(xí)路徑推薦方法、系統(tǒng)、設(shè)備及存儲(chǔ)介質(zhì)在說(shuō)明書(shū)摘要公布了：本發(fā)明涉及數(shù)據(jù)挖掘推薦技術(shù)領(lǐng)域，具體公開(kāi)了一種基于大語(yǔ)言模型嵌入的圖注意力強(qiáng)化學(xué)習(xí)學(xué)習(xí)路徑推薦方法、系統(tǒng)、設(shè)備及存儲(chǔ)介質(zhì)，包括如下步驟：數(shù)據(jù)預(yù)處理；大語(yǔ)言模型嵌入表示；DKT模型預(yù)訓(xùn)練；根據(jù)大語(yǔ)言模型嵌入表示及數(shù)據(jù)集原始的先決關(guān)系，構(gòu)建數(shù)據(jù)知識(shí)圖譜；用圖注意力算法更新圖譜內(nèi)容，用多頭注意力穩(wěn)定學(xué)習(xí)過(guò)程，更新知識(shí)點(diǎn)嵌入表示；通過(guò)得到的知識(shí)點(diǎn)嵌入表示，結(jié)合學(xué)生歷史學(xué)習(xí)信息，為學(xué)生依次推薦出一條學(xué)習(xí)路徑。本發(fā)明引入大語(yǔ)言模型對(duì)知識(shí)點(diǎn)進(jìn)行嵌入表示，加入圖注意力算法及強(qiáng)化學(xué)習(xí)方法，挖掘了知識(shí)點(diǎn)之間的相關(guān)性，能夠?qū)崿F(xiàn)快速，合理的為學(xué)生推薦學(xué)習(xí)路徑。

本發(fā)明授權(quán)一種基于大語(yǔ)言模型嵌入的圖注意力強(qiáng)化學(xué)習(xí)學(xué)習(xí)路徑推薦方法、系統(tǒng)、設(shè)備及存儲(chǔ)介質(zhì)在權(quán)利要求書(shū)中公布了：1.一種基于大語(yǔ)言模型嵌入的圖注意力強(qiáng)化學(xué)習(xí)學(xué)習(xí)路徑推薦方法，其特征在于，包括如下步驟： S1、數(shù)據(jù)預(yù)處理； S2、根據(jù)知識(shí)點(diǎn)名稱利用大語(yǔ)言模型進(jìn)行嵌入表示； S3、基于預(yù)處理的數(shù)據(jù)，對(duì)DKT模型進(jìn)行預(yù)訓(xùn)練； S4、根據(jù)大語(yǔ)言模型的嵌入表示以及知識(shí)點(diǎn)的先決關(guān)系，構(gòu)建兩張知識(shí)圖譜； S5、根據(jù)兩張知識(shí)圖譜，利用圖注意力算法分別獲得更新的知識(shí)點(diǎn)的嵌入表示并累加； S6、通過(guò)得到的知識(shí)點(diǎn)最終嵌入表示，結(jié)合強(qiáng)化學(xué)習(xí)方法依次推薦，生成學(xué)習(xí)路徑； 在步驟S5中，具體包括如下： S51、注意力學(xué)習(xí)層：分別根據(jù)生成的兩張知識(shí)圖譜中的節(jié)點(diǎn)，將各知識(shí)點(diǎn)的嵌入表示傳入圖注意力模型，先將節(jié)點(diǎn)的初始嵌入經(jīng)過(guò)一個(gè)簡(jiǎn)單的線性變換，輸出的第i個(gè)節(jié)點(diǎn)線性變換后的嵌入表示zi如下所示： zi＝Whi 其中，hi表示第i個(gè)節(jié)點(diǎn)的嵌入表示，W是一個(gè)可訓(xùn)練矩陣； S52、計(jì)算各對(duì)節(jié)點(diǎn)間的原始注意力分?jǐn)?shù)：分別根據(jù)生成的兩張知識(shí)圖譜數(shù)據(jù)中邊的關(guān)系，找到一條邊兩端的節(jié)點(diǎn)，首先，將兩個(gè)節(jié)點(diǎn)的嵌入表示拼接起來(lái)，然后對(duì)拼接好的嵌入以及一個(gè)可學(xué)習(xí)的權(quán)重做點(diǎn)積計(jì)算，最后利用LeakyReLU函數(shù)進(jìn)行激活，輸出的各對(duì)節(jié)點(diǎn)間的原始注意力分?jǐn)?shù)eij如下所示： eij＝LeakyReLUaTzi||Zj 其中，zi和zj分別表示節(jié)點(diǎn)i和節(jié)點(diǎn)j經(jīng)過(guò)線性變換后的嵌入表示，||在這里表示拼接，aT是一個(gè)可學(xué)習(xí)的權(quán)重向量； S53、分別根據(jù)生成的兩張知識(shí)圖譜，對(duì)一個(gè)節(jié)點(diǎn)的所有入邊得到的原始注意力分?jǐn)?shù)進(jìn)行Softmax操作，得到注意力權(quán)重aij如下所示： 其中，eik表示第i個(gè)節(jié)點(diǎn)和第k個(gè)節(jié)點(diǎn)間的原始注意力分?jǐn)?shù)，∑k∈Niexpeik表示將每一對(duì)節(jié)點(diǎn)的原始注意力分?jǐn)?shù)相累加； S54、根據(jù)注意力的權(quán)重，對(duì)所有鄰居節(jié)點(diǎn)的特征進(jìn)行聚合，得到節(jié)點(diǎn)聚合的最終嵌入表示h′i如下所示： 其中，σ是激活函數(shù)； S55、采用多頭注意力的機(jī)制穩(wěn)定注意力的學(xué)習(xí)過(guò)程： 最后輸出各知識(shí)點(diǎn)的最終嵌入表示，其中，K表示多頭注意力機(jī)制的頭數(shù)； 在步驟S6中，具體包括如下： S61、構(gòu)建LSTM神經(jīng)網(wǎng)絡(luò)模擬器，隨機(jī)生成10個(gè)知識(shí)點(diǎn)ID作為學(xué)生的歷史學(xué)習(xí)數(shù)據(jù)，輸入LSTM神經(jīng)網(wǎng)絡(luò)模擬器，生成學(xué)生隱藏狀態(tài)表示； S62、隨機(jī)生成5個(gè)知識(shí)點(diǎn)ID作為學(xué)生目標(biāo)概念，根據(jù)步驟S5得到的知識(shí)點(diǎn)最終嵌入查詢到對(duì)應(yīng)的目標(biāo)概念嵌入； S63、結(jié)合學(xué)生隱藏狀態(tài)，將步驟S5得到的知識(shí)點(diǎn)最終嵌入表示和目標(biāo)概念的嵌入表示利用多層感知機(jī)結(jié)合起來(lái)，輸出一個(gè)推薦項(xiàng)目； S64、將推薦項(xiàng)目放入步驟S3預(yù)訓(xùn)練好的DKT模型中測(cè)試，給出評(píng)分； S65、將評(píng)分視為強(qiáng)化學(xué)習(xí)中的獎(jiǎng)勵(lì)融入損失函數(shù)，完成一個(gè)項(xiàng)目推薦，公式如下： LOSS＝-Et∑logP 其中，Et表示評(píng)分提升量，P表示該項(xiàng)目被推薦的概率； S66、重復(fù)上述步驟依次生成推薦項(xiàng)，生成學(xué)習(xí)路徑。

如需購(gòu)買(mǎi)、轉(zhuǎn)讓、實(shí)施、許可或投資類(lèi)似專(zhuān)利技術(shù)，可聯(lián)系本專(zhuān)利的申請(qǐng)人或?qū)＠麢?quán)人桂林電子科技大學(xué)，其通訊地址為：541004 廣西壯族自治區(qū)桂林市金雞路1號(hào)；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。