清華大學劉勇攀獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉清華大學申請的專利神經網絡壓縮方法及裝置獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN113570037B 。
龍圖騰網通過國家知識產權局官網在2025-09-12發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202110791944.5,技術領域涉及:G06N3/0464;該發明授權神經網絡壓縮方法及裝置是由劉勇攀;封曉宇;袁竹清;楊華中設計研發完成,并于2021-07-13向國家知識產權局提交的專利申請。
本神經網絡壓縮方法及裝置在說明書摘要公布了:本發明提供一種神經網絡壓縮方法及裝置,方法包括:將目標加速器內載的神經網絡作為環境,以確定壓縮超參數組合;將壓縮超參數組合作為動作,對神經網絡進行壓縮,以確定壓縮神經網絡后的獎勵值;根據壓縮后的神經網絡,對環境、壓縮超參數組合、動作和獎勵值進行更新,并在滿足預設條件時,停止更新;根據最后一次更新后的壓縮超參數組合,對神經網絡進行壓縮。所述裝置用于執行上述方法。本發明提供的神經網絡壓縮方法及裝置,通過對加速器進行分析,得到適合于該加速架構的壓縮超參數組合,從而比傳統非自適應壓縮更加有效地降低神經網絡在加速器上的計算開銷,提高神經網絡在加速器上的推理過程能效。
本發明授權神經網絡壓縮方法及裝置在權利要求書中公布了:1.一種神經網絡壓縮方法,其特征在于,包括: 將目標加速器內載的神經網絡作為環境,以確定壓縮超參數組合; 將所述壓縮超參數組合作為動作,對所述神經網絡進行壓縮,以確定壓縮所述神經網絡后的獎勵值; 根據壓縮后的神經網絡,對所述環境、所述壓縮超參數組合、所述動作和所述獎勵值進行更新,并在滿足預設條件時,停止更新; 根據最后一次更新后的壓縮超參數組合,對所述神經網絡進行壓縮; 所述將目標加速器內載的神經網絡作為環境,以確定壓縮超參數組合,包括: 將目標加速器內載的神經網絡作為環境,通過分析所述目標加速器的數據流,以確定壓縮所述神經網絡的量化參數和稀疏參數; 根據所述量化參數和所述稀疏參數,確定所述壓縮超參數組合; 所述分析所述目標加速器的數據流,確定壓縮所述神經網絡的量化參數,包括: 基于所述數據流中處理引擎PE陣列,確定壓縮所述神經網絡所采用的目標量化方式; 基于所述數據流中存儲單元的訪問帶寬和訪問方式,確定所述目標量化方式的量化位寬; 根據所述目標量化方式和所述量化位寬,確定所述量化參數; 所述分析所述目標加速器的數據流,確定壓縮所述神經網絡的稀疏參數,包括: 基于所述數據流中目標存儲和PE陣列間的交互方式,確定壓縮所述神經網絡所采用的目標稀疏方式; 基于所述數據流中PE陣列并行度,確定所述目標稀疏方式的稀疏尺寸; 根據所述目標量化方式和所述稀疏尺寸,確定所述稀疏參數。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人清華大學,其通訊地址為:100084 北京市海淀區雙清路30號清華大學;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。