北京憶元科技有限公司劉云瑞獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標(biāo)用IPTOP,全免費(fèi)!專利年費(fèi)監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉北京憶元科技有限公司申請的專利基于存算一體芯片進(jìn)行神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練的方法及裝置獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識(shí)產(chǎn)權(quán)局授予,授權(quán)公告號(hào)為:CN119962597B 。
龍圖騰網(wǎng)通過國家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-09-12發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號(hào)為:202411890369.4,技術(shù)領(lǐng)域涉及:G06N3/063;該發(fā)明授權(quán)基于存算一體芯片進(jìn)行神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練的方法及裝置是由劉云瑞設(shè)計(jì)研發(fā)完成,并于2024-12-20向國家知識(shí)產(chǎn)權(quán)局提交的專利申請。
本基于存算一體芯片進(jìn)行神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練的方法及裝置在說明書摘要公布了:本申請公開一種基于存算一體芯片進(jìn)行神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練的方法及裝置,包括:初始化初始神經(jīng)網(wǎng)絡(luò)模型的權(quán)重參數(shù),獲得每個(gè)網(wǎng)絡(luò)層的初始權(quán)重值,根據(jù)初始權(quán)重值對存算一體芯片的電導(dǎo)值調(diào)整;將訓(xùn)練集輸入初始神經(jīng)網(wǎng)絡(luò)模型,輸出各訓(xùn)練樣本的預(yù)測值,根據(jù)預(yù)測值和真值之間差異確定當(dāng)前損失值;計(jì)算當(dāng)前損失值對權(quán)重參數(shù)的誤差梯度,根據(jù)誤差梯度確定權(quán)重調(diào)整值;根據(jù)初始權(quán)重值與權(quán)重值邊界之間的關(guān)系,將權(quán)重調(diào)整值量化到預(yù)設(shè)整數(shù)范圍獲得目標(biāo)量化值;調(diào)用權(quán)重更新接口,沿著目標(biāo)量化值表示的調(diào)整方向,對初始權(quán)重值調(diào)整,根據(jù)各網(wǎng)絡(luò)層調(diào)整后的權(quán)重值對存算一體芯片的電導(dǎo)值進(jìn)行調(diào)整,獲得更新后的神經(jīng)網(wǎng)絡(luò)模型,繼續(xù)訓(xùn)練直至獲得目標(biāo)神經(jīng)網(wǎng)絡(luò)模型。
本發(fā)明授權(quán)基于存算一體芯片進(jìn)行神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練的方法及裝置在權(quán)利要求書中公布了:1.一種基于存算一體芯片進(jìn)行神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練的方法,其特征在于,所述方法應(yīng)用于存算一體芯片,所述方法包括: 初始化初始神經(jīng)網(wǎng)絡(luò)模型的權(quán)重參數(shù),獲得所述初始神經(jīng)網(wǎng)絡(luò)模型每個(gè)網(wǎng)絡(luò)層的初始權(quán)重值,并根據(jù)每個(gè)網(wǎng)絡(luò)層的所述初始權(quán)重值對所述存算一體芯片的電導(dǎo)值進(jìn)行調(diào)整,其中,同一權(quán)重參數(shù)所對應(yīng)的權(quán)重值與所對應(yīng)的電導(dǎo)值呈正相關(guān)關(guān)系; 將訓(xùn)練集輸入所述初始神經(jīng)網(wǎng)絡(luò)模型中,輸出每個(gè)訓(xùn)練樣本的預(yù)測值,根據(jù)每個(gè)所述訓(xùn)練樣本的預(yù)測值和真值之間的差異,確定當(dāng)前損失值,其中,所述訓(xùn)練集包括多個(gè)所述訓(xùn)練樣本和每個(gè)所述訓(xùn)練樣本對應(yīng)的真值; 計(jì)算所述當(dāng)前損失值對每個(gè)網(wǎng)絡(luò)層的權(quán)重參數(shù)的誤差梯度,并根據(jù)每個(gè)網(wǎng)絡(luò)層的誤差梯度確定每個(gè)網(wǎng)絡(luò)層的權(quán)重調(diào)整值,其中,所述權(quán)重調(diào)整值表示待調(diào)整的權(quán)重變化量; 針對每個(gè)網(wǎng)絡(luò)層,根據(jù)所述網(wǎng)絡(luò)層的初始權(quán)重值與權(quán)重值邊界之間的關(guān)系,將所述權(quán)重調(diào)整值量化到預(yù)設(shè)整數(shù)范圍內(nèi),獲得所述權(quán)重調(diào)整值量對應(yīng)的目標(biāo)量化值,其中,所述預(yù)設(shè)整數(shù)范圍內(nèi)的不同量化值分別表示不同的調(diào)整方向; 針對每個(gè)網(wǎng)絡(luò)層的所述初始權(quán)重值,調(diào)用權(quán)重更新接口,沿著所述初始權(quán)重值所對應(yīng)的所述目標(biāo)量化值表示的調(diào)整方向,對所述初始權(quán)重值進(jìn)行調(diào)整,獲得調(diào)整后的權(quán)重值,并根據(jù)每個(gè)網(wǎng)絡(luò)層調(diào)整后的權(quán)重值對所述存算一體芯片的電導(dǎo)值進(jìn)行調(diào)整,獲得更新后的神經(jīng)網(wǎng)絡(luò)模型; 基于所述更新后的神經(jīng)網(wǎng)絡(luò)模型對所述訓(xùn)練集繼續(xù)訓(xùn)練,直至所述當(dāng)前損失值滿足預(yù)設(shè)收斂條件或達(dá)到預(yù)設(shè)迭代次數(shù)閾值時(shí),將所獲得的神經(jīng)網(wǎng)絡(luò)模型作為目標(biāo)神經(jīng)網(wǎng)絡(luò)模型; 針對每個(gè)網(wǎng)絡(luò)層,根據(jù)所述網(wǎng)絡(luò)層的初始權(quán)重值與權(quán)重值邊界之間的關(guān)系,將所述權(quán)重調(diào)整值量化到預(yù)設(shè)整數(shù)范圍內(nèi),獲得所述權(quán)重調(diào)整值量對應(yīng)的目標(biāo)量化值,包括: 在當(dāng)前網(wǎng)絡(luò)層的初始權(quán)重值達(dá)到任一權(quán)重值邊界的情況下,將所述當(dāng)前網(wǎng)絡(luò)層的權(quán)重調(diào)整值量化到所述預(yù)設(shè)整數(shù)范圍內(nèi),獲得初始量化值,并將所述初始量化值調(diào)整為反方向的量化值后,獲得所述目標(biāo)量化值,其中,當(dāng)前網(wǎng)絡(luò)層為當(dāng)前待量化權(quán)重調(diào)整值的網(wǎng)絡(luò)層; 在當(dāng)前網(wǎng)絡(luò)層的初始權(quán)重值未達(dá)到任一權(quán)重值邊界的情況下,將所述當(dāng)前網(wǎng)絡(luò)層的權(quán)重調(diào)整值量化到所述預(yù)設(shè)整數(shù)范圍內(nèi),獲得初始量化值,并直接將所述初始量化值作為所述目標(biāo)量化值。
如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人北京憶元科技有限公司,其通訊地址為:100083 北京市海淀區(qū)中關(guān)村東路1號(hào)院7號(hào)樓3層301;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報(bào)告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報(bào)告中的分析和結(jié)論僅反映本公司于發(fā)布本報(bào)告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 松下知識(shí)產(chǎn)權(quán)經(jīng)營株式會(huì)社松下瞬平獲國家專利權(quán)
- 三星電子株式會(huì)社洪志碩獲國家專利權(quán)
- 山東師范大學(xué)盛卸晃獲國家專利權(quán)
- 歌爾科技有限公司蔡曉東獲國家專利權(quán)
- 合肥神馬科技集團(tuán)有限公司岳光明獲國家專利權(quán)
- 申泰公司吉格內(nèi)什·H·夏獲國家專利權(quán)
- 標(biāo)致雪鐵龍汽車股份有限公司周穎獲國家專利權(quán)
- 廣東美的制冷設(shè)備有限公司陳志航獲國家專利權(quán)
- 廣東健博通科技股份有限公司宋茂盛獲國家專利權(quán)
- 廣東多尼斯網(wǎng)絡(luò)科技有限公司陳四龍獲國家專利權(quán)


熱門推薦
- 何可豐獲國家專利權(quán)
- 武漢統(tǒng)信軟件技術(shù)有限公司江玉龍獲國家專利權(quán)
- 瑞典愛立信有限公司L·維爾赫姆森獲國家專利權(quán)
- 中國恩菲工程技術(shù)有限公司王建中獲國家專利權(quán)
- 日本電信電話株式會(huì)社宮原和大獲國家專利權(quán)
- 山東大學(xué)田耘獲國家專利權(quán)
- 中國人民解放軍總醫(yī)院第四醫(yī)學(xué)中心羅殿中獲國家專利權(quán)
- 中興通訊股份有限公司張淑娟獲國家專利權(quán)
- 廣東利元亨智能裝備股份有限公司周俊杰獲國家專利權(quán)
- 三星電子株式會(huì)社林亨俊獲國家專利權(quán)