武漢大學何琨獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉武漢大學申請的專利基于特征轉換的準確安全縱向聯邦學習方法、系統及產品獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119918693B 。
龍圖騰網通過國家知識產權局官網在2025-09-26發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202411859939.3,技術領域涉及:G06F18/213;該發明授權基于特征轉換的準確安全縱向聯邦學習方法、系統及產品是由何琨;白浩;李雨晴;陳晶;杜瑞穎設計研發完成,并于2024-12-17向國家知識產權局提交的專利申請。
本基于特征轉換的準確安全縱向聯邦學習方法、系統及產品在說明書摘要公布了:本發明公開了一種基于特征轉換的準確安全縱向聯邦學習方法、系統及產品,首先基于自監督任務學習利用對齊未標記樣本來增加縱向聯邦數據源,以突破對齊標記樣本的限制;之后每個被動參與方在本地私有數據集上完成特征轉換層和本地模型訓練;然后每個被動參與方在前向傳播過程中加入差分隱私噪聲擾動并上傳給主動參與方;之后主動參與方進行全局聚合并完成模型更新,將對應梯度返回給被動參與方;最后被動參與剛完成本地模型更新并開啟新一輪本地模型訓練。本發明提高了模型的準確性,加速了模型的訓練。這為實際場景中基于差分隱私的縱向聯邦學習部署提供了一種可能的解決方案。
本發明授權基于特征轉換的準確安全縱向聯邦學習方法、系統及產品在權利要求書中公布了:1.一種基于特征轉換的準確安全縱向聯邦學習方法,涉及實體包括一個主動參與方和K-1個被動參與方,其中,K為預設值; 其特征在于,包括以下步驟: 步驟1:所述主動參與方和K-1個被動參與方利用對齊未標記樣本來增加縱向聯邦數據源; 步驟1的具體實現包括以下子步驟: 步驟1.1:每一個參與方利用深度神經網絡模型從對齊未標記樣本中提取特征,獲得特征表示向量,并上傳給主動參與方; 步驟1.2:主動參與方執行聚合和L2規范化以獲得聚合特征表示,然后對特征表示進行聚類,為這些對齊未標記樣本生成聚類標簽y={yi、…、yK}; 步驟1.3:主動參與方根據預測結果和聚類結果yi計算交叉熵損失函數其中N是樣本數量,K是聚類數量,yij∈yi表示對于樣本i的聚類標簽,表示對于樣本i預測類別標簽; 步驟1.4:每個參與方根據進行本地模型更新,各個參與方學習到的本地模型參數以獲得用于后續聯邦學習任務的全局預訓練模型;在獲得對齊未標記樣本的聚類標簽后,將對齊未標記的樣本以及對應聚類標簽加入到每個參與方本地私有數據集,以此來完成數據集擴充; 步驟2:每個被動參與方使用其私有數據集完成特征轉換層和本地模型訓練; 步驟2的具體實現包括以下子步驟: 步驟2.1:每個參與方k∈[K]隨機抽取一小批樣本xk; 步驟2.2:每個參與方k∈[K]在xk上訓練特征轉換層和本地模型以得到模型輸出結果其中Ck·表示模型參數為ξk的特征轉換層,θk為本地模型參數,表示加入特征轉換層之后擴展的本地模型; 所述特征轉換層,為線性函數或者非線性函數;所述非線性函數包括y=ax2+b,ReLUax+b,Sigmoidax+b,其中a和b為超參數,x和y為對應的輸入和輸出,ReLU、Sigmoid為非線性激活函數; 步驟3:每個被動參與方k∈[K-1]在Hk上添加噪聲擾動以得到并將其上傳給主動參與方;其中,Hk表示被動方訓練得到前向傳播結果; 步驟4:主動參與方進行全局聚合并完成全局模型更新,將對應梯度返回給被動參與方,被動參與方完成本地模型更新并開啟新一輪本地模型訓練。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人武漢大學,其通訊地址為:430072 湖北省武漢市武昌區八一路299號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。