買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費(fèi)！專利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉北京理工大學(xué)申請(qǐng)的專利一種基于模型和數(shù)據(jù)蒸餾的個(gè)性化聯(lián)邦學(xué)習(xí)方法獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識(shí)產(chǎn)權(quán)局授予，授權(quán)公告號(hào)為：CN117035057B 。

龍圖騰網(wǎng)通過國家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-09-09發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請(qǐng)?zhí)?專利號(hào)為：202310952319.3，技術(shù)領(lǐng)域涉及：G06N3/098；該發(fā)明授權(quán)一種基于模型和數(shù)據(jù)蒸餾的個(gè)性化聯(lián)邦學(xué)習(xí)方法是由張志威;喬鵬鵬;王國仁設(shè)計(jì)研發(fā)完成，并于2023-07-31向國家知識(shí)產(chǎn)權(quán)局提交的專利申請(qǐng)。

本一種基于模型和數(shù)據(jù)蒸餾的個(gè)性化聯(lián)邦學(xué)習(xí)方法在說明書摘要公布了：本發(fā)明公開了一種基于模型和數(shù)據(jù)蒸餾的個(gè)性化聯(lián)邦學(xué)習(xí)方法，涉及聯(lián)邦學(xué)習(xí)技術(shù)領(lǐng)域，設(shè)計(jì)了共享編碼器私有解碼器架構(gòu)，該模型可以在有限的的私有數(shù)據(jù)上，支持異構(gòu)數(shù)據(jù)和異構(gòu)模型，充分實(shí)現(xiàn)個(gè)性化并支持有效的學(xué)習(xí)。步驟如下：在客戶端構(gòu)建本地模型，包含共享編碼器和私有解碼器。客戶端根據(jù)私有數(shù)據(jù)集訓(xùn)練本地模型，向服務(wù)器上傳共享編碼器的模型參數(shù)。客戶端根據(jù)本地模型計(jì)算公有數(shù)據(jù)集的輸出logits并向服務(wù)器上傳logits。服務(wù)器對(duì)logits和多個(gè)客戶端的共享編碼器模型參數(shù)分別做加權(quán)聚合，得到全局logits和多個(gè)全局編碼器模型參數(shù)。各客戶端下載多個(gè)全局編碼器模型，更新客戶端中的多個(gè)本地共享編碼器模型參數(shù)，下載全局logits，以知識(shí)蒸餾的方式參與解碼器的訓(xùn)練。

本發(fā)明授權(quán)一種基于模型和數(shù)據(jù)蒸餾的個(gè)性化聯(lián)邦學(xué)習(xí)方法在權(quán)利要求書中公布了：1.一種基于模型和數(shù)據(jù)蒸餾的個(gè)性化聯(lián)邦學(xué)習(xí)方法，其特征在于，該方法包括如下步驟： S1、在客戶端構(gòu)建本地模型，客戶端的本地模型包含一個(gè)共享編碼器和一個(gè)私有解碼器，具體包括以下步驟： S101、客戶端的本地模型由一個(gè)共享編碼器和一個(gè)私有解碼器組成； 所有客戶端的共享編碼器的架構(gòu)相同，客戶端k的共享編碼器配備有不同結(jié)構(gòu)的的m個(gè)神經(jīng)網(wǎng)絡(luò)參數(shù)為m大于1，從而產(chǎn)生多個(gè)嵌入表示；第i個(gè)神經(jīng)網(wǎng)絡(luò)φi的嵌入表示為： S102、不同的客戶端的私有解碼器架構(gòu)不同，客戶端k的私有解碼器為ψk，其模型參數(shù)為vk，私有解碼器由自適應(yīng)聚合器和個(gè)性化分類器組成；所述自適應(yīng)聚合器將來自共享編碼器的m個(gè)嵌入作為輸入，將m個(gè)嵌入聚合為一個(gè)嵌入，自適應(yīng)地選擇和融合來自多個(gè)共享編碼器的信息特征所述個(gè)性化分類器將聚合的嵌入作為輸入，并進(jìn)行最終預(yù)測(cè)； S2、客戶端根據(jù)私有數(shù)據(jù)集訓(xùn)練本地模型，然后向服務(wù)器上傳共享編碼器的模型參數(shù)； S3、客戶端根據(jù)本地模型計(jì)算公有數(shù)據(jù)集的輸出logits，然后向服務(wù)器上傳logits； S4、服務(wù)器對(duì)logits和多個(gè)客戶端上傳的共享編碼器模型參數(shù)分別做加權(quán)聚合，得到全局的logits和多個(gè)全局編碼器模型參數(shù)； S5、各客戶端下載多個(gè)全局編碼器模型，并利用這些模型參數(shù)更新客戶端中的多個(gè)本地共享編碼器模型參數(shù)，并下載全局logits，以知識(shí)蒸餾的方式參與解碼器的訓(xùn)練。

如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請(qǐng)人或?qū)＠麢?quán)人北京理工大學(xué)，其通訊地址為：100081 北京市海淀區(qū)中關(guān)村南大街5號(hào)；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。