買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費(fèi)！專利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉華為技術(shù)有限公司申請(qǐng)的專利一種神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法以及裝置獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識(shí)產(chǎn)權(quán)局授予，授權(quán)公告號(hào)為：CN113505883B 。

龍圖騰網(wǎng)通過國家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-09-05發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請(qǐng)?zhí)?專利號(hào)為：202110603464.1，技術(shù)領(lǐng)域涉及：G06N3/084；該發(fā)明授權(quán)一種神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法以及裝置是由尹伊淳;尚利峰;蔣欣;陳曉設(shè)計(jì)研發(fā)完成，并于2021-05-31向國家知識(shí)產(chǎn)權(quán)局提交的專利申請(qǐng)。

本一種神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法以及裝置在說明書摘要公布了：本申請(qǐng)公開了人工智能領(lǐng)域的一種神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法以及裝置，用于通過在資源約束條件的約束下進(jìn)行同質(zhì)搜索，減少搜索空間的大小，高效地搜索得到符合需求的模型。該方法包括：獲取超預(yù)訓(xùn)練語言模型；獲取資源約束條件以及超參數(shù)搜索空間，資源約束條件指示針對(duì)模型占用的資源的約束，超參數(shù)搜索空間指示模型的超參數(shù)的范圍；在資源約束條件的約束下從超參數(shù)搜索空間中搜索出目標(biāo)模型的結(jié)構(gòu)，目標(biāo)模型的至少兩層網(wǎng)絡(luò)層的超參數(shù)相同；對(duì)目標(biāo)模型進(jìn)行訓(xùn)練，得到訓(xùn)練后的目標(biāo)模型。

本發(fā)明授權(quán)一種神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法以及裝置在權(quán)利要求書中公布了：1.一種神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法，其特征在于，包括： 獲取超預(yù)訓(xùn)練語言模型； 獲取資源約束條件以及超參數(shù)搜索空間，所述資源約束條件指示針對(duì)模型占用的資源的約束，所述超參數(shù)搜索空間指示模型的超參數(shù)的范圍； 在資源約束條件的約束下從所述超參數(shù)搜索空間中搜索出目標(biāo)模型的結(jié)構(gòu)，所述目標(biāo)模型的至少兩層網(wǎng)絡(luò)層的超參數(shù)相同； 對(duì)所述目標(biāo)模型進(jìn)行訓(xùn)練，得到訓(xùn)練后的目標(biāo)模型； 所述在資源約束條件的約束下從所述超參數(shù)搜索空間中搜索出目標(biāo)模型的結(jié)構(gòu)，包括： 在資源約束條件的約束下，從所述超參數(shù)搜索空間中搜索得到至少一個(gè)模型結(jié)構(gòu)，所述至少一個(gè)模型結(jié)構(gòu)中每個(gè)模型結(jié)構(gòu)對(duì)應(yīng)的模型的至少兩層網(wǎng)絡(luò)層的超參數(shù)相同； 從所述超預(yù)訓(xùn)練語言模型中采集與所述至少一個(gè)模型結(jié)構(gòu)對(duì)應(yīng)的至少一個(gè)第二子模型； 根據(jù)所述至少一個(gè)第二子模型從所述至少一個(gè)模型結(jié)構(gòu)中篩選出輸出結(jié)果符合預(yù)設(shè)條件的模型結(jié)構(gòu)，得到所述目標(biāo)模型的結(jié)構(gòu)。

如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請(qǐng)人或?qū)＠麢?quán)人華為技術(shù)有限公司，其通訊地址為：518129 廣東省深圳市龍崗區(qū)坂田華為總部辦公樓；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。