北京湯谷軟件技術有限公司劉丹獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉北京湯谷軟件技術有限公司申請的專利專家混合模型執行運算任務的加速方法及相關設備獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120297430B 。
龍圖騰網通過國家知識產權局官網在2025-09-12發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510779045.1,技術領域涉及:G06N5/043;該發明授權專家混合模型執行運算任務的加速方法及相關設備是由劉丹;馬飛;張哲;李君豪設計研發完成,并于2025-06-12向國家知識產權局提交的專利申請。
本專家混合模型執行運算任務的加速方法及相關設備在說明書摘要公布了:本申請屬于人工智能芯片加速技術領域,提出了一種專家混合模型執行運算任務的加速方法及相關設備。其中,所述方法包括:獲取待處理運算任務,并確定專家混合模型中用于執行待處理運算任務的目標專家網絡,專家混合模型中各個第一專家網絡的網絡參數保存在加速器芯片的片上內存,專家混合模型中各個第二專家網絡的網絡參數保存在加速器芯片的片外內存;從片上內存中調用目標專家網絡中第一專家網絡的第一網絡參數,以及從片外內存中調用目標專家網絡中第二專家網絡的第二網絡參數;基于第一網絡參數和第二網絡參數,通過專家混合模型中的目標專家網絡執行待處理運算任務。通過本申請提供的技術方案能夠提高專家混合模型執行運算任務的加速效率。
本發明授權專家混合模型執行運算任務的加速方法及相關設備在權利要求書中公布了:1.一種專家混合模型執行運算任務的加速方法,其特征在于,所述專家混合模型部署在加速器芯片中,所述方法包括: 獲取待處理運算任務,并確定所述專家混合模型中用于執行所述待處理運算任務的目標專家網絡,所述專家混合模型中各個第一專家網絡的網絡參數保存在所述加速器芯片的片上內存,所述專家混合模型中各個第二專家網絡的網絡參數保存在所述加速器芯片的片外內存; 從所述片上內存中調用所述目標專家網絡中第一專家網絡的第一網絡參數,以及從所述片外內存中調用所述目標專家網絡中第二專家網絡的第二網絡參數; 基于所述第一網絡參數和所述第二網絡參數,通過所述專家混合模型中的目標專家網絡執行所述待處理運算任務; 所述方法還包括:在從所述片上內存中調用所述目標專家網絡中第一專家網絡的第一網絡參數,以及從所述片外內存中調用所述目標專家網絡中第二專家網絡的第二網絡參數之前,觸發所述片上內存中網絡參數的更新指令;響應于所述片上內存中網絡參數的更新指令,統計所述專家混合模型中各個專家網絡在歷史上執行運算任務的頻率;將所述頻率最高的設定個數的專家網絡定義為所述第一專家網絡,將所述專家混合模型中除所述第一專家網絡之外的專家網絡定義為所述第二專家網絡;將所述第一專家網絡的網絡參數保存在所述加速器芯片的片上內存,以及將所述第二專家網絡的網絡參數保存在所述加速器芯片的片外內存; 所述確定所述專家混合模型中用于執行所述待處理運算任務的目標專家網絡,包括:獲取所述待處理運算任務的特征矩陣和所述專家混合模型中各個專家網絡的專家權重矩陣,所述專家混合模型中各個專家網絡的專家權重矩陣被預先存儲在所述加速器芯片的分布式查找表中,存儲在所述分布式查找表中的專家權重矩陣基于邊界掃描測試接口實時更新;基于所述特征矩陣和所述專家權重矩陣,在所述加速器芯片中并行計算所述待處理運算任務與所述專家混合模型中各個專家網絡的相似度;將所述相似度最高的設定個數的專家網絡選定為用于執行所述待處理運算任務的目標專家網絡;其中,更新所述分布式查找表中專家權重矩陣,包括:外部主控通過邊界掃描測試接口與加速器芯片建立通信;通過JTAG指令將新的專家權重矩陣逐條或批量寫入所述加速器芯片指定的LUT中,LUT內容實時刷新,專家權重矩陣即時生效。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人北京湯谷軟件技術有限公司,其通訊地址為:100176 北京市大興區北京經濟技術開發區科谷一街8號院6號樓4層401;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。