中國科學院半導體研究所劉海瑩獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉中國科學院半導體研究所申請的專利實現softmax函數計算的硬件系統及方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN116562347B 。
龍圖騰網通過國家知識產權局官網在2025-09-19發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202310143879.4,技術領域涉及:G06N3/063;該發明授權實現softmax函數計算的硬件系統及方法是由劉海瑩;陳剛;毛文宇;申榮鉉;魯華祥設計研發完成,并于2023-02-21向國家知識產權局提交的專利申請。
本實現softmax函數計算的硬件系統及方法在說明書摘要公布了:本發明提供一種實現softmax函數計算的硬件系統及方法,涉及神經網絡的硬件加速領域。本發明對softmax函數計算進行優化,通過稀疏化的方式只選擇輸出有效位值進行指數計算和存儲以降低計算冗余和存儲需求,并且采用動態移位更新最大值的方式將最大值求取隱藏在流水線中,提高了計算效率。并且,本發明針對其中復雜的指數及除法運算,確定了不同softmax精度需求的指數及除法單元精度選擇的方案,改進了分段線性擬合算法,適用性強,可實現通用非線性函數如指數、除法及s型函數等的運算,操作簡單,面積小,功耗低,有很大的實用價值。
本發明授權實現softmax函數計算的硬件系統及方法在權利要求書中公布了:1.一種實現softmax函數計算的方法,其特征在于,包括: 步驟S1,根據指數單元和除法單元的實現精度,確定硬件系統的結構,其中,所述硬件系統包括輸入數據處理單元、指數單元、最大值更新單元、移位累加單元、中間結果存儲單元、最高非零位檢測單元和除法單元; 步驟S2,將量化后的輸入數據xi輸入所述輸入數據處理單元與常數log2e相乘,將計算得到的小數部分vi與整數部分ui分別輸入所述指數單元和所述最大值更新單元; 步驟S3,所述指數單元將所述小數部分vi作為以2為底的指數,得到指數結果2vi,所述最大值更新單元對所述整數部分ui進行篩選,得到有效整數數據及其索引; 步驟S4,所述移位累加單元根據所述有效整數數據對所述指數結果2vi進行移位,得到自然指數計算結果exi; 步驟S5,根據所述有效整數數據的索引將所述指數結果2vi存儲至所述中間結果存儲單元; 步驟S6,所述移位累加單元根據所述有效整數數據的索引將所述自然指數計算結果exi進行累加,得到第一累加和; 步驟S7,所述最高非零位檢測單元將所述第一累加和轉換為包含參數f和參數Q的f×2Q形式,其中,1≤f<2; 步驟S8,將所述參數f輸入所述除法單元,計算所述參數f的倒數1f; 步驟S9,將所述有效整數數據與所述參數Q相減,利用相減結果對所述倒數1f進行移位,得到softmax函數值。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人中國科學院半導體研究所,其通訊地址為:100083 北京市海淀區清華東路甲35號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。