平頭哥(上海)半導體技術有限公司李書森獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉平頭哥(上海)半導體技術有限公司申請的專利處理單元、相關裝置和方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN113688982B 。
龍圖騰網通過國家知識產權局官網在2025-09-09發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202010427312.6,技術領域涉及:G06N3/063;該發明授權處理單元、相關裝置和方法是由李書森;蔡智設計研發完成,并于2020-05-19向國家知識產權局提交的專利申請。
本處理單元、相關裝置和方法在說明書摘要公布了:本公開提供了一種處理單元、相關裝置和方法。該處理單元,包括:取指令單元;指令譯碼單元;指令執行單元,用于:在深度學習模型的靜態圖中提取常量子圖,其中,所述常量子圖是在假定所述深度學習模型的輸入張量具有固定形狀的前提下輸出值為常量的節點組成的連通子圖;將滿足所述固定形狀的任一張量,作為輸入張量輸入所述靜態圖,獲取所述常量子圖的出口節點輸出的常量;以獲取的常量構造常量節點,用所述常量節點取代所述深度學習模型中的所述常量子圖,形成第二深度學習模型。本公開實施例進一步減少了深度學習模型運行時在處理單元和加速單元之間傳輸的數據量,提高了深度學習模型的執行效率。
本發明授權處理單元、相關裝置和方法在權利要求書中公布了:1.一種處理單元,用于確定適于計算裝置中加速單元運行的模型,其中,所述處理單元包括: 取指令單元,用于從所述處理單元外部的存儲器取回計算機指令; 指令譯碼單元,用于對取回的計算機指令進行譯碼; 指令執行單元,用于執行譯碼后的所述計算機指令,以實現: 在深度學習模型的靜態圖中提取常量子圖,其中,所述常量子圖是在假定所述深度學習模型的輸入張量具有固定形狀的前提下輸出值為常量的節點組成的連通子圖; 將滿足所述固定形狀的任一張量,作為輸入張量輸入所述靜態圖,獲取所述常量子圖的出口節點輸出的常量,所述出口節點是指所述常量子圖中的、輸出端指向所述常量子圖的外部節點且輸入端為所述常量子圖的內部節點的節點; 以獲取的常量構造常量節點,用所述常量節點取代所述深度學習模型中的所述常量子圖,形成第二深度學習模型,以減少模型實際運行時在處理單元和加速單元之間傳輸的數據量; 所述指令執行單元還用于執行譯碼后的所述計算機指令,以實現:在形成第二深度學習模型后,將第二深度學習模型轉換成通用中間表達; 在將第二深度學習模型轉換成通用中間表達后,在所述通用中間表達中插入最大最小值收集節點,用于收集待量化輸入的最大值、最小值;將插入了所述最大最小值收集節點的通用中間表達轉換回特定格式進行校準,得到所述待量化輸入的最大值、最小值;根據得到的待量化輸入的最大值、最小值,在所述通用中間表達中插入量化和反量化節點;將插入了量化節點和反量化節點的通用中間表達轉換回特定格式,得到量化后模型; 在得到量化后模型后,將所述量化后模型按照加速單元支持的指令集,轉換成加速單元模型,發送給所述加速單元; 其中,所述加速單元為加速深度學習模型的運算處理速度而設計的單元。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人平頭哥(上海)半導體技術有限公司,其通訊地址為:200131 上海市浦東新區中國(上海)自由貿易試驗區上科路366號、川和路55弄2號5層;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。