滬渝人工智能研究院齊鵬獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉滬渝人工智能研究院申請的專利一種動靜態合并的算子調度與高低位掃描輕量化加速方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120430354B 。
龍圖騰網通過國家知識產權局官網在2025-08-26發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510912304.3,技術領域涉及:G06N3/0495;該發明授權一種動靜態合并的算子調度與高低位掃描輕量化加速方法是由齊鵬;林冠;何方舟設計研發完成,并于2025-07-03向國家知識產權局提交的專利申請。
本一種動靜態合并的算子調度與高低位掃描輕量化加速方法在說明書摘要公布了:本發明涉及深度學習模型優化技術領域,尤其涉及一種動靜態合并的算子調度與高低位掃描輕量化加速方法,包括建立形狀通用空間S并劃分為多個相同的分塊;將實際shape映射至形狀通用空間后調度shape算子進行計算;根據實際shape映射結果構建成本模型,用于平衡微內核性能、硬件內核占用懲罰與shape填充懲罰間的最優成本;根據實際shape和成本模型分配最優微內核;對深度神經網絡模型的參數的高位和低位進行掃描量化,并使用層級量化敏感度調整參數精度;有效提升模型在低精度下的穩定性與推理性能。
本發明授權一種動靜態合并的算子調度與高低位掃描輕量化加速方法在權利要求書中公布了:1.一種動靜態合并的算子調度與高低位掃描輕量化加速方法,其特征在于,包括以下步驟: S1.建立形狀通用空間S并劃分為多個相同的分塊;將實際shape映射至形狀通用空間后調度shape算子進行計算; 步驟S1具體包括: S11.將形狀通用空間S劃分為n個大小為s×s的分塊; S12.將實際shape與形狀通用空間S起始位置對齊后進行映射;將分塊劃分為滿分塊,未滿分塊和空分塊三種類型,其中, 若一個分塊所有區域均被實際shape的數據映射,則該分塊為滿分塊;若一個分塊只有部分區域被實際shape的數據映射,則該分塊為未滿分塊;若一個分塊所有區域均未被實際shape的數據映射,則該分塊為空分塊; S13.映射完成后判斷形狀通用空間S是否處于非完美平鋪情況,若是,則執行步驟S14,若不是,則執行步驟S15;其中, 當映射完成后,形狀通用空間S內的n個分塊中不存在未滿分塊,則形狀通用空間S處于完美平鋪情況,否則形狀通用空間S處于非完美平鋪情況; S14.對所有未滿分塊進行邊界位置檢查,調度動態shape算子進行計算; S15.直接調度靜態shape算子進行計算; S2.根據實際shape映射結果構建成本模型,用于平衡微內核性能、硬件內核占用懲罰與shape填充懲罰間的最優成本; 根據實際shape映射結果構建成本模型包括: S21.一個微內核處理一個滿分塊或一個未滿分塊,獲取滿分塊數量和未滿分塊數量得到微內核總數量,根據微內核總數量構建硬件內核占用懲罰foPM,表示為 其中,P表示實際shape進行計算所需的理論計算量,Mp表示一個類別為M的微內核單位時間內可提供的最大計算量,表示微內核總數量,k、b為一次擬合函數參數; S22.獲取一個微內核的分塊處理時間,將其作為微內核性能fMKM; S23.獲取對所有未滿分塊進行邊界位置檢查所產生的額外計算消耗,將其作為shape填充懲罰fpP,M; S24.構建成本模型CostP為 CostP=fMKM×fOPM×fpP,M; S3.根據實際shape和成本模型分配最優微內核; 計算設備中包括多個類別的微內核,根據實際shape在形狀通用空間S的分塊映射情況,結合成本模型分配最優微內核,表示為 voteS=argminCostPS,M 其中,voteS表示為實際shape分配的最優微內核;PS,M表示將實際shape映射到形狀通用空間S后,采用類別為M的微內核調度shape算子進行計算的完整時間;Cost表示成本模型,argmin表示求集合內最小值操作; S4.對深度神經網絡模型的參數的高位和低位進行掃描量化,并使用層級量化敏感度調整參數精度。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人滬渝人工智能研究院,其通訊地址為:401329 重慶市九龍坡區高新區科學谷B1號樓第8至9層整層;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。