西安微電子技術研究所;西安電子科技大學馬鐘獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉西安微電子技術研究所;西安電子科技大學申請的專利基于S_ReLU脈沖神經網絡的圖像分類方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN116310477B 。
龍圖騰網通過國家知識產權局官網在2025-09-05發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202211475875.8,技術領域涉及:G06V10/764;該發明授權基于S_ReLU脈沖神經網絡的圖像分類方法是由馬鐘;曹震;李申;張洪偉;馬釧烽;張紫藝;侯彪設計研發完成,并于2022-11-23向國家知識產權局提交的專利申請。
本基于S_ReLU脈沖神經網絡的圖像分類方法在說明書摘要公布了:本發明公開了一種基于S_ReLU脈沖神經網絡的圖像分類方法,主要解決現有技術模型的損失函數的收斂過程長且脈沖神經元發放率過低的問題。本發明分別構建了S_ReLU脈沖神經網絡和S_ReLU人工神經網絡,利用訓練集訓練S_ReLU人工神經網絡得到可遷移權重文件,將該權重文件加載到S_ReLU脈沖神經網絡中,利用加載可遷移權重文件后的S_ReLU脈沖神經網絡對圖像進行分類。本發明減少了訓練模型的損失函數的收斂時間,提高人工神經網絡中神經元的激活率和脈沖神經網絡中脈沖神經元的脈沖發放率的匹配度,由此提高了脈沖神經網絡進行圖像分類的準確度。
本發明授權基于S_ReLU脈沖神經網絡的圖像分類方法在權利要求書中公布了:1.一種基于S_ReLU脈沖神經網絡的圖像分類方法,其特征在于,分別構建S_ReLU脈沖神經網絡和S_ReLU人工神經網絡,利用訓練集訓練S_ReLU人工神經網絡得到可遷移權重文件,將該權重文件加載到S_ReLU脈沖神經網絡中;該圖像分類方法的步驟包括如下: 步驟1,生成訓練集: 步驟1.1,生成包含T個目標類別的K幅光學圖像,每個目標類別對應I幅光學圖像的樣本集,其中,T≥2,K≥100,I≥50; 步驟1.2,將樣本集中每個樣本的真實類別值進行One-Hot編碼,得到每個樣本編碼后的標簽值; 步驟1.3,對樣本集中的光學圖像進行泊松編碼共同組成訓練集; 步驟2,構建S_ReLU人工神經網絡: 步驟2.1,搭建一個S_ReLU人工神經網絡,其結構依次為輸入層,第一殘差塊,第二殘差塊,第三殘差塊,第四殘差塊,輸出層; 所述輸入層的結構依次為:第一卷積層,第二卷積層,第三卷積層,平均池化層; 所述第一殘差塊的結構依次為第一卷積層,第一S_ReLU層,第二卷積層,第二S_ReLU層,第三卷積層,第三S_ReLU層,第四卷積層,第四S_ReLU層;第一殘差塊中的第五卷積層跨接在輸入層的平均池化層和第一殘差塊的第二S_ReLU層之間,第六卷積層跨接在第一殘差塊的第二S_ReLU層和第一殘差塊的第四S_ReLU層之間; 所述第二殘差塊的結構依次為第一卷積層,第一S_ReLU層,第二卷積層,第二S_ReLU層,第三卷積層,第三S_ReLU層,第四卷積層,第四S_ReLU層;第二殘差塊中的第五卷積層跨接在第一殘差塊的第四S_ReLU層和第二殘差塊的第二S_ReLU層之間,第六卷積層跨接在第二殘差塊的第二S_ReLU層和第二殘差塊的第四S_ReLU層之間; 所述第三殘差塊的結構依次為第一卷積層,第一S_ReLU層,第二卷積層,第二S_ReLU層,第三卷積層,第三S_ReLU層,第四卷積層,第四S_ReLU層;第三殘差塊中的第五卷積層跨接在第二殘差塊的第四S_ReLU層和第三殘差塊的第二S_ReLU層之間,第六卷積層跨接在第三殘差塊的第二S_ReLU層和第三殘差塊的第四S_ReLU層之間; 所述第四殘差塊的結構依次為第一卷積層,第一S_ReLU層,第二卷積層,第二S_ReLU層,第三卷積層,第三S_ReLU層,第四卷積層,第四S_ReLU層;第四殘差塊中的第五卷積層跨接在第三殘差塊的第四S_ReLU層和第四殘差塊的第二S_ReLU層之間,第六卷積層跨接在第四殘差塊的第二S_ReLU層和第四殘差塊的第四S_ReLU層之間; 所述輸出層由平均池化層和全連接層串聯組成; 步驟2.2,設置S_ReLU人工神經網絡的各層參數如下: 將輸入層中第一至第三卷積層的卷積核大小均設置為3*3,步幅大小均設置為2,輸出通道分別設置為32,32,64;平均池化層的卷積核大小為3*3,步長為2,填充為1; 將第一殘差塊中的第一至第四卷積層的卷積核大小均設置為3*3,步幅大小均設置為1,填充均設置為1,輸出通道均設置為64;第五卷積層和第六卷積層的卷積核大小均設置為1*1,步幅大小均設置為1,輸出通道均設置為64; 將第二殘差塊中的第一至第四卷積層的卷積核大小均設置為3*3,步幅大小分別設置為2,1,1,1,填充均設置為1,輸出通道均設置為128;第五卷積層和第六卷積層的卷積核大小均設置為1*1,步幅大小均設置為1,輸出通道均設置為128; 將第三殘差塊中的第一至第四卷積層的卷積核大小均設置為3*3,步幅大小分別設置為2,1,1,1,填充均設置為1,輸出通道均設置為256;第五卷積層和第六卷積層的卷積核大小均設置為1*1,步幅大小均設置為1,輸出通道均設置為256; 將第二殘差塊中的第一至第四卷積層的卷積核大小均設置為3*3,步幅大小分別設置為2,1,1,1,填充均設置為1,輸出通道均設置為512;第五卷積層和第六卷積層的卷積核大小均設置為1*1,步幅大小均設置為1,輸出通道均設置為512; 所述第一至第四殘差塊中的所有S_ReLU層均采用S_ReLU激活函數實現; 將輸出層中的平均池化層的卷積核大小設置為1*1,步幅大小均設置為1;全連接層的輸出設置為10; 步驟3,訓練S_ReLU人工神經網絡獲得可遷移權重文件: 從訓練集中每次取出batchsize個樣本輸入到S_ReLU人工神經網絡,其中batchsize10;輸出每個樣本類別的預測值,將每個樣本類別的預測值和其編碼后的標簽值輸入到S_ReLU人工神經網絡損失函數中,進行損失值的反向傳播;通過小批量梯度下降優化器對網絡參數進行迭代更新,直至損失函數收斂為止,得到訓練好的S_ReLU人工神經網絡,將訓練好時的S_ReLU人工神經網絡的權重參數保存到可遷移權重文件中; 步驟4,構建S_ReLU脈沖神經網絡并加載可遷移的權重文件: 步驟4.1,搭建一個S_ReLU脈沖神經網絡,其結構依次為:脈沖輸入層,第一脈沖殘差塊,第二脈沖殘差塊,第三脈沖殘差塊,第四脈沖殘差塊,脈沖輸出層; 所述的脈沖輸入層的結構依次為:第一卷積層,第一IF層,第二卷積層,第二IF層,第三卷積層,第三IF層,平均池化層,第四IF層; 所述第一脈沖殘差塊的結構依次為第一卷積層,第一IF層,第二卷積層,第二IF層,第三卷積層,第三IF層,第四卷積層,第四IF層;第一脈沖殘差塊中的第五卷積層跨接在脈沖輸入層的第四IF層和第一脈沖殘差塊的第二IF層之間,第六卷積層跨接在第一脈沖殘差塊的第二IF層和第一脈沖殘差塊的第四IF層之間; 所述第二脈沖殘差塊的結構依次為第一卷積層,第一IF層,第二卷積層,第二IF層,第三卷積層,第三IF層,第四卷積層,第四IF層;第二脈沖殘差塊中的第五卷積層跨接在第一脈沖殘差塊的第四IF層和第二脈沖殘差塊的第二IF層之間,第六卷積層跨接在第二脈沖殘差塊的第二IF層和第二脈沖殘差塊的第四IF層之間; 所述第三脈沖殘差塊的結構依次為第一卷積層,第一IF層,第二卷積層,第二IF層,第三卷積層,第三IF層,第四卷積層,第四IF層;第三脈沖殘差塊中的第五卷積層跨接在第二脈沖殘差塊的第四IF層和第三脈沖殘差塊的第二IF層之間,第六卷積層跨接在第三脈沖殘差塊的第二IF層和第三脈沖殘差塊的第四IF層之間; 所述第四脈沖殘差塊的結構依次為第一卷積層,第一IF層,第二卷積層,第二IF層,第三卷積層,第三IF層,第四卷積層,第四IF層;第四脈沖殘差塊中的第五卷積層跨接在第三脈沖殘差塊的第四IF層和第四脈沖殘差塊的第二IF層之間,第六卷積層跨接在第四脈沖殘差塊的第二IF層和第四脈沖殘差塊的第四IF層之間; 所述輸出層的結構依次為:平均池化層,第一IF層,全連接層,第二IF層; 步驟4.2,設置S_ReLU脈沖神經網絡的各層參數如下: 將脈沖輸入層中第一至第三卷積層的卷積核大小均設置為3*3,步幅大小均設置為2,輸出通道分別設置為32,32,64;平均池化層的卷積核大小為3*3,步長為2,填充為1; 將第一脈沖殘差塊中的第一至第四卷積層的卷積核大小均設置為3*3,步幅大小均設置為1,填充均設置為1,輸出通道均設置為64;第五卷積層和第六卷積層的卷積核大小均設置為1*1,步幅大小均設置為1,輸出通道均設置為64; 將第二脈沖殘差塊中的第一至第四卷積層的卷積核大小均設置為3*3,步幅大小分別設置為2,1,1,1,填充均設置為1,輸出通道均設置為128;第五卷積層和第六卷積層的卷積核大小均設置為1*1,步幅大小均設置為1,輸出通道均設置為128; 將第三脈沖殘差塊中的第一至第四卷積層的卷積核大小均設置為3*3,步幅大小分別設置為2,1,1,1,填充均設置為1,輸出通道均設置為256;第五卷積層和第六卷積層的卷積核大小均設置為1*1,步幅大小均設置為1,輸出通道均設置為256; 將第二脈沖殘差塊中的第一至第四卷積層的卷積核大小均設置為3*3,步幅大小分別設置為2,1,1,1,填充均設置為1,輸出通道均設置為512;第五卷積層和第六卷積層的卷積核大小均設置為1*1,步幅大小均設置為1,輸出通道均設置為512; 將脈沖輸出層中的平均池化層的卷積核大小設置為1*1,步幅大小均設置為1;全連接層的輸出設置為10; 將脈沖輸入層、第一至第四脈沖殘差塊以及脈沖輸出層中所有IF層的v_reset的值均設置為0,v_threshold值均設置為S_ReLU層中的Vi值; 步驟4.3,通過torch.load函數解析步驟3.4保存的權重文件,利用net.load_state_dict函數將解析后的卷積核權重和全連接層權重加載到S_ReLU脈沖神經網絡上; 步驟5,利用加載可遷移的權重文件后的S_ReLU脈沖神經網絡對圖像進行分類: 步驟5.1,對待分類的光學圖像進行泊松編碼; 步驟5.2,將編碼后的圖像輸入到加載可遷移權重文件后的S_ReLU脈沖神經網絡中,輸出光學圖像的分類結果。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人西安微電子技術研究所;西安電子科技大學,其通訊地址為:710065 陜西省西安市雁塔區太白南路198號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。