暨南大學(xué)黃秀姐獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標(biāo)用IPTOP,全免費!專利年費監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉暨南大學(xué)申請的專利一種面向隱私保護的個性化聯(lián)邦推薦獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN119539087B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-09-12發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202411761603.3,技術(shù)領(lǐng)域涉及:G06N5/04;該發(fā)明授權(quán)一種面向隱私保護的個性化聯(lián)邦推薦是由黃秀姐;鄭淇中;方良達(dá);官全龍;羅偉其設(shè)計研發(fā)完成,并于2024-12-03向國家知識產(chǎn)權(quán)局提交的專利申請。
本一種面向隱私保護的個性化聯(lián)邦推薦在說明書摘要公布了:本發(fā)明公開了一種面向隱私保護的個性化聯(lián)邦推薦系統(tǒng)及方法,涉及聯(lián)邦推薦系統(tǒng)領(lǐng)域。本發(fā)明為每個客戶端構(gòu)建一個物品偏好嵌入向量,并訓(xùn)練一個全局物品嵌入正交映射矩陣和一個用于生成物品嵌入混合因子矩陣的雙層感知機,用于將全局物品嵌入矩陣與用戶的物品偏好嵌入向量融合,為客戶端構(gòu)建了更加個性化、顆粒度更細(xì)的混合物品嵌入矩陣,并輸入為客戶端構(gòu)建的個性化推薦預(yù)測感知機得到推薦結(jié)果,提升最終推薦效果;客戶端向中央服務(wù)器上傳數(shù)據(jù)時,進(jìn)行本地差分隱私加密;為每個客戶端進(jìn)行負(fù)采樣,將正樣本和負(fù)樣本混合后共同用于訓(xùn)練,提升訓(xùn)練效果的同時,使服務(wù)器無法根據(jù)客戶端上傳的更新數(shù)據(jù)辨別出客戶端與物品的歷史交互情況,保護用戶隱私。
本發(fā)明授權(quán)一種面向隱私保護的個性化聯(lián)邦推薦在權(quán)利要求書中公布了:1.一種面向隱私保護的個性化聯(lián)邦推薦方法,通過將來自中央服務(wù)器的全局物品嵌入矩陣與客戶端訓(xùn)練得來的物品偏好嵌入向量進(jìn)行融合,實現(xiàn)物品嵌入矩陣的個性化,其特征在于,所述方法包括如下步驟: S1.中央服務(wù)器維護一個全局的物品存在表,用于記錄推薦系統(tǒng)內(nèi)物品的種類個數(shù);中央服務(wù)器初始化模型權(quán)重和全局的物品嵌入矩陣,分發(fā)給各個參與聯(lián)邦訓(xùn)練的客戶端; S2.各個客戶端從中央服務(wù)器獲取初始化的模型權(quán)重和全局的物品嵌入矩陣,對全局物品嵌入正交映射矩陣、物品偏好嵌入向量、用于生成物品嵌入混合因子矩陣的雙層感知機和用戶推薦預(yù)測單層感知機的權(quán)重進(jìn)行初始化; S3.各個客戶端根據(jù)與物品的歷史交互情況,將全體交互過的物品作為正樣本,并從未交互過的物品中隨機采樣,作為負(fù)樣本,將正樣本和負(fù)樣本按照一定比例進(jìn)行混合得到訓(xùn)練集;最新交互的兩個正樣本單獨留出,分別與一定比例的負(fù)樣本進(jìn)行混合得到測試集和驗證集; S4.各個客戶端并行的使用本地訓(xùn)練集數(shù)據(jù)進(jìn)行推薦模型訓(xùn)練: S401.各個客戶端根據(jù)訓(xùn)練集包含的物品類別,從全局物品嵌入矩陣選取相應(yīng)物品的全局嵌入向量,拼接成符合該客戶端訓(xùn)練集物品種類的全局物品嵌入矩陣,將其通過全局物品嵌入正交映射矩陣進(jìn)行正交變換,得到遷移物品嵌入矩陣;首先學(xué)習(xí)一個全局物品嵌入矩陣到客戶端個性化觀點的映射關(guān)系,以實現(xiàn)全局物品嵌入矩陣的初步個性化;采用一個權(quán)重為正交矩陣且偏置項為0的單層感知機對全局物品嵌入矩陣進(jìn)行正交變換,為其引入針對當(dāng)前客戶端的個性化;各客戶端根據(jù)訓(xùn)練集包含的物品類別,從全局物品嵌入矩陣選取相應(yīng)物品的全局物品嵌入向量iglobal,拼接符合該客戶端訓(xùn)練集物品種類的全局物品嵌入矩陣將使用全局物品嵌入正交映射矩陣進(jìn)行正交映射,得到遷移物品嵌入矩陣如下式所示: S402.進(jìn)一步對遷移物品嵌入矩陣進(jìn)行本地個性化;將客戶端個人物品偏好嵌入向量廣播至與同一維度,得到物品偏好嵌入矩陣將遷移物品嵌入矩陣和物品偏好嵌入矩陣相減、并求絕對值,得到物品-偏好嵌入矩陣差的絕對值矩陣Δ0,u,如下式所示: 其中,Δ0,u的每個元素代表著和在相應(yīng)位置元素的相似性; S403.將物品-偏好嵌入矩陣差的絕對值矩陣Δ0,u輸入一個兩層感知機訓(xùn)練學(xué)習(xí)全局物品嵌入矩陣與用戶的物品偏好嵌入矩陣融合的混合比例,激活函數(shù)分別采用ReLU和Sigmoid函數(shù),生成物品嵌入混合因子矩陣如下式所示: S404.將物品嵌入混合因子矩陣和分別作為全局物品嵌入矩陣和用戶的物品偏好嵌入矩陣的權(quán)重,求得加權(quán)平均值,作為混合物品嵌入矩陣如下式所示: S405.將混合物品嵌入矩陣輸入用戶推薦預(yù)測單層感知機,得到該客戶端對各個物品的預(yù)測分值;計算損失值,采用小批量隨機梯度下降更新模型參數(shù);各個客戶端并行的訓(xùn)練本地推薦系統(tǒng)模型;從混合物品嵌入矩陣獲取物品i的混合物品嵌入向量將輸入用戶推薦預(yù)測單層感知機并經(jīng)過Sigmoid激活函數(shù)激活,得到用戶u對物品i的預(yù)測分值如下式所示: 計算二元交叉熵?fù)p失,如下式所示: 其中,Itemu表示客戶端u交互過的物品的集合;Item′u表示客戶端u未交互過的物品的集合;表示用戶u對負(fù)樣本i′的預(yù)測分值; S5.各個客戶端在若干個epoch的本地訓(xùn)練結(jié)束后,利用更新后的模型參數(shù),在驗證集和測試集上進(jìn)行預(yù)測,計算各個評價指標(biāo),并保留一條包含訓(xùn)練輪次ID、驗證集上評價指標(biāo)值、測試集上評價指標(biāo)值和本地模型參數(shù)的記錄,其中本地模型包括更新后的全局物品嵌入矩陣、用戶的物品偏好嵌入向量、全局物品嵌入正交映射矩陣、用于生成物品嵌入混合因子矩陣的雙層感知機和用戶推薦預(yù)測單層感知機;客戶端將更新后的全局物品嵌入矩陣進(jìn)行本地差分隱私加密,與客戶端在驗證集、測試集上的評價指標(biāo)計算值一起,上傳至中央服務(wù)器; S6.中央服務(wù)器在接收到各個客戶端上傳的經(jīng)本地差分隱私加密后的全局物品嵌入矩陣后,根據(jù)全局物品存在表和物品ID,使用FedAvg算法對各個物品的全局嵌入向量進(jìn)行聚合,得到新的全局物品嵌入向量;服務(wù)器分別計算所有客戶端在驗證集和測試集上各個評價指標(biāo)的平均值;如果驗證集上評價指標(biāo)平均值優(yōu)于之前訓(xùn)練中對應(yīng)指標(biāo)的最佳平均值,則將該指標(biāo)的最佳平均值更新,并保存記錄;將聚合后的全局物品嵌入矩陣分發(fā)給各個客戶端,如果本輪更新了評價指標(biāo)的最佳平均值,則通知客戶端保留當(dāng)前輪次的本地模型參數(shù); S7.客戶端檢驗中央服務(wù)器下發(fā)的消息內(nèi)容,如果包含保留當(dāng)前輪次模型參數(shù)的信號,則保存當(dāng)前輪次本地模型參數(shù),否則無需保存,直接將模型參數(shù)更新、替換;客戶端利用接收到的聚合后的全局物品嵌入矩陣,繼續(xù)進(jìn)行下一輪訓(xùn)練; S8.以S4至S7為一個周期,周期性循環(huán)S4至S7至初始時設(shè)定的迭代周期數(shù),中央服務(wù)器根據(jù)記錄的驗證集上評價指標(biāo)最佳平均值所對應(yīng)的訓(xùn)練輪次,確定最終的全局物品嵌入矩陣,并以對應(yīng)輪次測試集上的評價指標(biāo)平均值來衡量推薦效果;各個客戶端利用訓(xùn)練好的全局物品嵌入矩陣和本地模型,輸出各自的最終推薦結(jié)果。
如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人暨南大學(xué),其通訊地址為:510632 廣東省廣州市天河區(qū)黃埔大道西601號;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報告中的分析和結(jié)論僅反映本公司于發(fā)布本報告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 北京嘀嘀無限科技發(fā)展有限公司任韌獲國家專利權(quán)
- 松下知識產(chǎn)權(quán)經(jīng)營株式會社福本賢獲國家專利權(quán)
- 英特爾公司A·保爾獲國家專利權(quán)
- 新唐科技日本株式會社犬飼文人獲國家專利權(quán)
- 創(chuàng)新先進(jìn)技術(shù)有限公司倪飛獲國家專利權(quán)
- 匹茲堡大學(xué)-屬高等教育聯(lián)邦體系約瑟夫·C·格洛廖索三世獲國家專利權(quán)
- 康蒂泰克AVS法國公司斯特凡娜·讓德龍獲國家專利權(quán)
- 微軟技術(shù)許可有限責(zé)任公司J·考夫塔爾獲國家專利權(quán)
- 通騰導(dǎo)航技術(shù)股份有限公司J·R·菲舍爾獲國家專利權(quán)
- 西菲伊德公司詹姆斯·王獲國家專利權(quán)


熱門推薦
- 日本電氣硝子株式會社廣瀨將行獲國家專利權(quán)
- 創(chuàng)新先進(jìn)技術(shù)有限公司邵明成獲國家專利權(quán)
- 瑞典愛立信有限公司A.圣托扎獲國家專利權(quán)
- VID拓展公司陳俊吉獲國家專利權(quán)
- 中興通訊股份有限公司魯照華獲國家專利權(quán)
- 蘋果公司C·科代羅獲國家專利權(quán)
- 松下電器(美國)知識產(chǎn)權(quán)公司王立磊獲國家專利權(quán)
- M技術(shù)株式會社榎村真一獲國家專利權(quán)
- X4 制藥有限公司E·M·J·布爾克獲國家專利權(quán)
- 維薩國際服務(wù)協(xié)會A·康韋獲國家專利權(quán)