合肥工業(yè)大學倪偉獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉合肥工業(yè)大學申請的專利基于層間和層內(nèi)混合精度運算的深度神經(jīng)網(wǎng)絡(luò)加速器系統(tǒng)及計算方法獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN115729697B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-08-26發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202210164826.6,技術(shù)領(lǐng)域涉及:G06F9/50;該發(fā)明授權(quán)基于層間和層內(nèi)混合精度運算的深度神經(jīng)網(wǎng)絡(luò)加速器系統(tǒng)及計算方法是由倪偉;冉敬楠;陳世宇;宋宇鯤;張多利設(shè)計研發(fā)完成,并于2022-02-22向國家知識產(chǎn)權(quán)局提交的專利申請。
本基于層間和層內(nèi)混合精度運算的深度神經(jīng)網(wǎng)絡(luò)加速器系統(tǒng)及計算方法在說明書摘要公布了:本發(fā)明公開了一種基于層間和層內(nèi)混合精度運算的深度神經(jīng)網(wǎng)絡(luò)加速器系統(tǒng)及計算方法,包括主控制器、指令存儲器、權(quán)值緩存地址控制器、特征圖緩存地址控制器、高位數(shù)據(jù)編碼索引表、權(quán)值緩存模塊組、特征圖緩存模塊組、乘累加陣列和量化器組;指令存儲器用于存儲指令碼;主控制器根據(jù)指令碼控制其他模塊;權(quán)值緩存地址控制器和特征圖緩存地址控制器用于數(shù)據(jù)搬運;高位數(shù)據(jù)編碼索引表用于存儲層內(nèi)混合精度計算的信息;權(quán)值緩存模塊組和特征圖緩存模塊組用于緩存權(quán)值和特征圖;乘累加陣列用于實現(xiàn)乘累加操作;量化器組用于量化過渡和激活函數(shù)。本發(fā)明能提高并行度、降低訪存次數(shù)并降低量化誤差,適用于深度神經(jīng)網(wǎng)絡(luò)的量化模型在邊緣設(shè)備的部署。
本發(fā)明授權(quán)基于層間和層內(nèi)混合精度運算的深度神經(jīng)網(wǎng)絡(luò)加速器系統(tǒng)及計算方法在權(quán)利要求書中公布了:1.一種基于層間和層內(nèi)混合精度運算的深度神經(jīng)網(wǎng)絡(luò)加速器系統(tǒng),其特征包括:主控塊、存儲塊、存儲控制塊和計算塊; 所述主控塊包括:主控制器和指令存儲器; 所述存儲塊包括:權(quán)值緩存模塊組和特征圖緩存模塊組; 所述存儲控制塊包括:權(quán)值緩存地址控制器、特征圖緩存地址控制器和高位數(shù)據(jù)編碼索引表; 所述計算塊包括:權(quán)值共享緩存、特征圖共享緩存、乘累加陣列和量化器組; 所述指令存儲器用于存儲上位機發(fā)送的指令碼,所述指令碼包括:映射指令、偏置加載指令、計算指令、量化指令和結(jié)束指令; 所述主控制器在上位機發(fā)送的命令下啟動并依次從所述指令存儲器讀取當前指令; 若讀取到的當前指令解析為所述映射指令,則所述主控制器根據(jù)映射指令內(nèi)的指令信息將映射配置信息發(fā)送至所述計算塊,所述計算塊根據(jù)所述映射配置信息重構(gòu)所述權(quán)值共享緩存至所述特征圖共享緩存、所述特征圖共享緩存至所述乘累加陣列、所述權(quán)值緩存模塊組至特征圖緩存模塊組、特征圖緩存模塊組至所述乘累加陣列之間的數(shù)據(jù)路徑; 若讀取到的當前指令解析為所述偏置加載指令,則所述主控制器將所述偏置加載指令內(nèi)的偏置信息發(fā)送至所述權(quán)值緩存地址控制器,使得所述權(quán)值緩存地址控制器根據(jù)所述偏置信息產(chǎn)生訪問信號并發(fā)給所述權(quán)值緩存模塊組,所述權(quán)值緩存模塊組將偏置信息加載至所述乘累加陣列; 若讀取到的當前指令解析為所述計算指令,則所述主控制器解析將所述計算指令內(nèi)的計算配置信息發(fā)送至所述乘累加陣列,并將所述計算指令內(nèi)的操作數(shù)信息分別發(fā)送至所述權(quán)值緩存地址控制器和所述特征圖緩存地址控制器;所述權(quán)值緩存地址控制器和所述特征圖緩存地址控制器均產(chǎn)生存儲控制信號后分別發(fā)給所述權(quán)值緩存模塊組和所述特征圖緩存模塊組;所述權(quán)值緩存模塊組和所述特征圖緩存模塊組將自身的計算數(shù)據(jù)分別搬運至所述權(quán)值共享緩存和所述特征圖共享緩存;所述乘累加陣列根據(jù)所述計算配置信息重構(gòu)計算精度后接收所述權(quán)值共享緩存和所述特征圖共享緩存各自發(fā)來的操作數(shù)并完成計算; 若讀取到的當前指令解析為所述量化指令,則所述主控制器將所述量化指令內(nèi)的量化配置信息和寫回信息發(fā)送至所述量化器組;所述量化器組根據(jù)所述量化配置信息對所述乘累加陣列發(fā)來的計算結(jié)果進行量化后,再根據(jù)所述寫回信息將量化結(jié)果寫回所述特征圖緩存模塊組; 若讀取到的當前指令解析為所述結(jié)束指令,則所述主控制器向所述上位機發(fā)送完成信號后進入空閑狀態(tài);所述存儲層將最終計算結(jié)果發(fā)送至外部存儲器以等待上位機讀取。
如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人合肥工業(yè)大學,其通訊地址為:230009 安徽省合肥市包河區(qū)屯溪路193號;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準確性。
2、報告中的分析和結(jié)論僅反映本公司于發(fā)布本報告當日的職業(yè)理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據(jù)或者憑證。