上海云燧科技有限公司王軍偉獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉上海云燧科技有限公司申請的專利AI芯片中的算子性能評估方法、裝置、設備及介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120448238B 。
龍圖騰網通過國家知識產權局官網在2025-09-23發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510962553.3,技術領域涉及:G06F11/34;該發明授權AI芯片中的算子性能評估方法、裝置、設備及介質是由王軍偉;張潔豪;羅培元設計研發完成,并于2025-07-14向國家知識產權局提交的專利申請。
本AI芯片中的算子性能評估方法、裝置、設備及介質在說明書摘要公布了:本發明公開了一種AI芯片中的算子性能評估方法、裝置、設備及介質。該方法包括:根據AI芯片中數據搬運及計算算子的算子特征、各級緩存的存儲特征和計算核特征,獲取算子在AI芯片各級緩存間的切分策略;根據與AI芯片適配的帶寬模型,計算算子的每條切分策略在各級緩存之間執行數據搬運時的數據搬運耗時;根據與AI芯片適配的算子計算核性能模型,計算算子在一級緩存上針對每條切分策略執行計算時的計算耗時;根據計算耗時和數據搬運耗時,結合切分策略中包括的數據搬運和計算相互隱藏的策略,計算算子針對每條切分策略的算子總耗時,對算子進行算子性能評估。可以在最小人力成本的基礎上,快速且全面的評估出AI芯片的算子性能。
本發明授權AI芯片中的算子性能評估方法、裝置、設備及介質在權利要求書中公布了:1.一種AI芯片中的算子性能評估方法,其特征在于,包括: 根據目標AI芯片中待評估算子的算子特征、目標AI芯片各級緩存的存儲特征和計算核特征中的至少一項,獲取待評估算子在目標AI芯片各級緩存間的多條切分策略; 根據預先構建的與目標AI芯片適配的帶寬模型,計算待評估算子的每條切分策略在各級緩存之間執行數據搬運時的數據搬運耗時; 其中,帶寬模型用于預測在目標AI芯片中的設定兩個緩存間對設定數據搬運類型、設定數據類型和設定張量形狀的數據進行數據搬運時的帶寬數據; 如果待評估算子為純數據搬運算子,則根據各數據搬運耗時,結合切分策略中包括的第一隱藏策略,計算待評估算子針對每條切分策略的算子總耗時,并根據各算子總耗時對待評估算子進行算子性能評估; 其中,在計算待評估算子的每條切分策略在各級緩存之間執行數據搬運時的數據搬運耗時之后,還包括: 如果待評估算子為數據搬運及計算算子,則根據預先構建的與目標AI芯片適配的算子計算核性能模型,計算待評估算子在一級緩存上針對每條切分策略執行計算時的計算耗時,其中,一級緩存貼近目標AI芯片中的計算核設置; 其中,算子計算核性能模型用于預測在目標AI芯片中針對設定數據類型和設定張量形狀的數據執行設定類型算子計算時的計算耗時; 根據各計算耗時和各數據搬運耗時,結合切分策略中包括的第二隱藏策略,計算待評估算子針對每條切分策略的算子總耗時,并根據各算子總耗時對待評估算子進行算子性能評估。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人上海云燧科技有限公司,其通訊地址為:201203 上海市浦東新區中國(上海)自由貿易試驗區盛夏路61弄1號3層03室;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。