阿里巴巴集團(tuán)控股有限公司宋劉一漢獲國(guó)家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標(biāo)用IPTOP,全免費(fèi)!專利年費(fèi)監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉阿里巴巴集團(tuán)控股有限公司申請(qǐng)的專利更新網(wǎng)絡(luò)模型的方法、裝置及設(shè)備、非易失性存儲(chǔ)介質(zhì)獲國(guó)家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予,授權(quán)公告號(hào)為:CN114386559B 。
龍圖騰網(wǎng)通過國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-08-22發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請(qǐng)?zhí)?專利號(hào)為:202011120724.1,技術(shù)領(lǐng)域涉及:G06N3/045;該發(fā)明授權(quán)更新網(wǎng)絡(luò)模型的方法、裝置及設(shè)備、非易失性存儲(chǔ)介質(zhì)是由宋劉一漢;潘攀;劉宇;張迎亞;徐盈輝設(shè)計(jì)研發(fā)完成,并于2020-10-19向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專利申請(qǐng)。
本更新網(wǎng)絡(luò)模型的方法、裝置及設(shè)備、非易失性存儲(chǔ)介質(zhì)在說明書摘要公布了:本申請(qǐng)公開了一種更新網(wǎng)絡(luò)模型的方法、裝置及設(shè)備、非易失性存儲(chǔ)介質(zhì)。其中,該方法包括:獲取深度神經(jīng)網(wǎng)絡(luò)模型的全局梯度分布,其中,上述全局梯度分布包括:上述深度神經(jīng)網(wǎng)絡(luò)模型中部分或全部層的梯度分布信息;基于上述全局梯度分布在分布式訓(xùn)練場(chǎng)景下對(duì)上述深度神經(jīng)網(wǎng)絡(luò)模型進(jìn)行采樣,得到梯度位置信息;利用上述梯度位置信息選取多個(gè)目標(biāo)梯度;根據(jù)上述多個(gè)目標(biāo)梯度進(jìn)行梯度估計(jì),得到梯度估計(jì)結(jié)果;通過上述梯度估計(jì)結(jié)果對(duì)上述深度神經(jīng)網(wǎng)絡(luò)模型進(jìn)行更新。本申請(qǐng)解決了相關(guān)技術(shù)中人工智能計(jì)算機(jī)器間通信效率較低的技術(shù)問題。
本發(fā)明授權(quán)更新網(wǎng)絡(luò)模型的方法、裝置及設(shè)備、非易失性存儲(chǔ)介質(zhì)在權(quán)利要求書中公布了:1.一種更新網(wǎng)絡(luò)模型的方法,其特征在于,包括: 獲取深度神經(jīng)網(wǎng)絡(luò)模型的全局梯度分布,其中,所述全局梯度分布包括:所述深度神經(jīng)網(wǎng)絡(luò)模型中部分或全部層的梯度分布信息; 基于所述全局梯度分布在分布式訓(xùn)練場(chǎng)景下對(duì)所述深度神經(jīng)網(wǎng)絡(luò)模型進(jìn)行采樣,得到梯度位置信息; 利用所述梯度位置信息選取多個(gè)目標(biāo)梯度; 根據(jù)所述多個(gè)目標(biāo)梯度進(jìn)行梯度估計(jì),得到梯度估計(jì)結(jié)果; 通過所述梯度估計(jì)結(jié)果對(duì)所述深度神經(jīng)網(wǎng)絡(luò)模型進(jìn)行更新; 其中,基于所述全局梯度分布在所述分布式訓(xùn)練場(chǎng)景下對(duì)所述深度神經(jīng)網(wǎng)絡(luò)模型進(jìn)行采樣,得到所述梯度位置信息包括:基于所述全局梯度分布在所述分布式訓(xùn)練場(chǎng)景中每個(gè)訓(xùn)練場(chǎng)景的相同采樣位置,對(duì)所述深度神經(jīng)網(wǎng)絡(luò)模型進(jìn)行梯度采樣,得到所述梯度位置信息; 其中,根據(jù)所述多個(gè)目標(biāo)梯度進(jìn)行梯度估計(jì),得到梯度估計(jì)結(jié)果包括:當(dāng)通信隊(duì)列中緩存的所述多個(gè)目標(biāo)梯度的梯度位置信息達(dá)到緩存閾值時(shí),對(duì)所述通信隊(duì)列中存儲(chǔ)的所述多個(gè)目標(biāo)梯度進(jìn)行分布式訓(xùn)練的通信運(yùn)算,得到通信運(yùn)算結(jié)果;對(duì)所述通信運(yùn)算結(jié)果求取平均值,得到均值結(jié)果;將所述均值結(jié)果與相同采樣位置對(duì)應(yīng)的采樣概率值進(jìn)行除法運(yùn)算,得到所述梯度估計(jì)結(jié)果。
如需購(gòu)買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請(qǐng)人或?qū)@麢?quán)人阿里巴巴集團(tuán)控股有限公司,其通訊地址為:英屬開曼群島大開曼資本大廈一座四層847號(hào)郵箱;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報(bào)告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報(bào)告中的分析和結(jié)論僅反映本公司于發(fā)布本報(bào)告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 三星電子株式會(huì)社宋陳煜獲國(guó)家專利權(quán)
- 阿里巴巴集團(tuán)控股有限公司夏朱榮獲國(guó)家專利權(quán)
- 西門子股份公司馬丁·威特獲國(guó)家專利權(quán)
- 北京大學(xué)黃鵬獲國(guó)家專利權(quán)
- 中華人民共和國(guó)寧德海關(guān)葉德住獲國(guó)家專利權(quán)
- 廈門雅迅網(wǎng)絡(luò)股份有限公司蘭偉華獲國(guó)家專利權(quán)
- 深圳前海微眾銀行股份有限公司梁子敬獲國(guó)家專利權(quán)
- 三星電子株式會(huì)社張星旭獲國(guó)家專利權(quán)
- 認(rèn)知系統(tǒng)公司M·拉夫金獲國(guó)家專利權(quán)
- 劉偉獲國(guó)家專利權(quán)


熱門推薦
- 超極存儲(chǔ)器股份有限公司梶谷一彥獲國(guó)家專利權(quán)
- 羅門哈斯電子材料韓國(guó)有限公司金賓瑞獲國(guó)家專利權(quán)
- 浙江希望機(jī)械有限公司李文磊獲國(guó)家專利權(quán)
- 北京百度網(wǎng)訊科技有限公司毛發(fā)貴獲國(guó)家專利權(quán)
- 西安大醫(yī)集團(tuán)股份有限公司楊華獲國(guó)家專利權(quán)
- 中國(guó)移動(dòng)通信有限公司研究院左君獲國(guó)家專利權(quán)
- 北京奇藝世紀(jì)科技有限公司杜建庚獲國(guó)家專利權(quán)
- 科磊股份有限公司R·弗克維奇獲國(guó)家專利權(quán)
- 康美華大基因技術(shù)有限公司楊曉春獲國(guó)家專利權(quán)
- 深圳市科源建設(shè)集團(tuán)股份有限公司余益軍獲國(guó)家專利權(quán)