蘇州元腦智能科技有限公司李柏宏獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉蘇州元腦智能科技有限公司申請的專利模型推理系統、方法、裝置、電子設備、介質及產品獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120235251B 。
龍圖騰網通過國家知識產權局官網在2025-08-29發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510717602.7,技術領域涉及:G06N5/04;該發明授權模型推理系統、方法、裝置、電子設備、介質及產品是由李柏宏;吳韶華設計研發完成,并于2025-05-30向國家知識產權局提交的專利申請。
本模型推理系統、方法、裝置、電子設備、介質及產品在說明書摘要公布了:本申請公開了一種模型推理系統、方法、裝置、電子設備、介質及產品,涉及人工智能技術領域,包括設置多類多級緩存存儲不同類型的緩存數據,可以充分利用模型的緩存數據,減少模型的計算操作,從而提升模型的計算效率。
本發明授權模型推理系統、方法、裝置、電子設備、介質及產品在權利要求書中公布了:1.一種模型推理系統,其特征在于,包括:第一調度器、至少一個第一處理器、第二調度器、以及至少一個第二處理器;其中, 所述第一調度器用于接收輸入請求,所述輸入請求包括目標輸入數據; 所述第一調度器還用于判斷第一緩存是否命中所述目標輸入數據,若是,則根據所述第一緩存確定目標輸出結果;其中,所述第一緩存中存儲模型歷史計算過的輸入數據對應的輸出數據; 所述第一調度器還用于若否,則確定所述目標輸入數據在第二緩存中的命中結果; 若命中結果為命中,則所述第二調度器用于從所述至少一個第二處理器中選擇第二目標處理器,所述第二目標處理器用于根據目標輸入數據對應的第二緩存中的緩存數據確定目標輸出結果;第二緩存中的緩存數據包括目標輸入數據對應的編碼數據; 若所述命中結果為否,所述第一調度器還用于從所述至少一個第一處理器中選擇第一目標處理器;所述第二調度器用于從所述至少一個第二處理器中選擇第二目標處理器,所述第二目標處理器用于根據所述第一處理器的輸出結果確定目標輸出結果。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人蘇州元腦智能科技有限公司,其通訊地址為:215000 江蘇省蘇州市吳中經濟開發區綜保區經一路1號8幢;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。