買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費(fèi)！專利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉山東浪潮科學(xué)研究院有限公司申請的專利一種結(jié)合硬件部署的模型部署方法及裝置獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN120234014B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-09-23發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202510703640.7，技術(shù)領(lǐng)域涉及：G06F8/60；該發(fā)明授權(quán)一種結(jié)合硬件部署的模型部署方法及裝置是由郝虹;張浩智;仝其勝;郝運(yùn)凱設(shè)計(jì)研發(fā)完成，并于2025-05-29向國家知識產(chǎn)權(quán)局提交的專利申請。

本一種結(jié)合硬件部署的模型部署方法及裝置在說明書摘要公布了：本申請公開了一種結(jié)合硬件部署的模型部署方法及裝置，根據(jù)目標(biāo)模型部署環(huán)境中的設(shè)備節(jié)點(diǎn)及各設(shè)備節(jié)點(diǎn)對應(yīng)的連接關(guān)系，構(gòu)建設(shè)備節(jié)點(diǎn)對應(yīng)的硬件拓?fù)鋱D；解析目標(biāo)模型中目標(biāo)算子的依賴關(guān)系，以生成目標(biāo)算子對應(yīng)的模型計(jì)算圖；根據(jù)硬件拓?fù)鋱D和模型計(jì)算圖，利用預(yù)設(shè)的評估算法，計(jì)算設(shè)備節(jié)點(diǎn)與目標(biāo)算子之間的目標(biāo)匹配值；根據(jù)目標(biāo)匹配值和預(yù)設(shè)的分級策略，確定目標(biāo)模型對應(yīng)的部署方案。通過實(shí)時(shí)感知硬件狀態(tài)與模型計(jì)算圖的動(dòng)態(tài)匹配機(jī)制，自動(dòng)生成最優(yōu)部署策略，并在硬件拓?fù)浠蛸Y源條件變化時(shí)觸發(fā)自適應(yīng)優(yōu)化，實(shí)現(xiàn)模型分割策略與異構(gòu)環(huán)境的實(shí)時(shí)協(xié)同適配，顯著提升部署自動(dòng)化水平與系統(tǒng)彈性。

本發(fā)明授權(quán)一種結(jié)合硬件部署的模型部署方法及裝置在權(quán)利要求書中公布了：1.一種結(jié)合硬件部署的模型部署方法，其特征在于，包括： 根據(jù)目標(biāo)模型部署環(huán)境中的設(shè)備節(jié)點(diǎn)及各所述設(shè)備節(jié)點(diǎn)對應(yīng)的連接關(guān)系，構(gòu)建所述設(shè)備節(jié)點(diǎn)對應(yīng)的硬件拓?fù)鋱D； 解析所述目標(biāo)模型中目標(biāo)算子的依賴關(guān)系，以生成所述目標(biāo)算子對應(yīng)的模型計(jì)算圖； 根據(jù)所述硬件拓?fù)鋱D和所述模型計(jì)算圖，利用預(yù)設(shè)的評估算法，計(jì)算所述設(shè)備節(jié)點(diǎn)與所述目標(biāo)算子之間的目標(biāo)匹配值； 根據(jù)所述目標(biāo)匹配值和預(yù)設(shè)的分級策略，確定所述目標(biāo)模型對應(yīng)的部署方案； 其中，所述根據(jù)所述硬件拓?fù)鋱D和所述模型計(jì)算圖，利用預(yù)設(shè)的評估算法，計(jì)算所述設(shè)備節(jié)點(diǎn)與所述目標(biāo)算子之間的目標(biāo)匹配值包括：根據(jù)所述模型計(jì)算圖，確定各所述目標(biāo)算子對應(yīng)的資源需求特征；根據(jù)所述硬件拓?fù)鋱D，確定各所述設(shè)備節(jié)點(diǎn)對應(yīng)的設(shè)備能力特征；計(jì)算所述資源需求特征和所述設(shè)備能力特征之間的差異值；將所述差異值輸入預(yù)設(shè)的數(shù)學(xué)模型，以使所述數(shù)學(xué)模型輸出所述目標(biāo)匹配值； 所述根據(jù)所述目標(biāo)匹配值和預(yù)設(shè)的分級策略，確定所述目標(biāo)模型對應(yīng)的部署方案包括：根據(jù)所述分級策略對應(yīng)的分級閾值，確定所述目標(biāo)匹配值對應(yīng)的目標(biāo)匹配等級；所述目標(biāo)匹配等級包括高匹配等級、低匹配等級和中匹配等級；基于所述目標(biāo)匹配等級確定所述部署方案； 所述基于所述目標(biāo)匹配等級確定所述部署方案包括： 當(dāng)所述目標(biāo)匹配值屬于所述高匹配等級時(shí)，基于所述目標(biāo)匹配值的數(shù)值大小，對所述目標(biāo)算子進(jìn)行優(yōu)先級排序，以生成所述目標(biāo)算子對應(yīng)的部署隊(duì)列； 根據(jù)所述部署隊(duì)列將所述目標(biāo)算子部署至對應(yīng)的所述設(shè)備節(jié)點(diǎn)； 和或， 當(dāng)所述目標(biāo)匹配值屬于所述低匹配等級時(shí)，確定所述目標(biāo)算子在所述模型計(jì)算圖對應(yīng)的原始子圖； 利用計(jì)算路徑重組算法，對所述原始子圖進(jìn)行路徑重組，以生成優(yōu)化子圖； 將所述優(yōu)化子圖替換所述原始子圖，以生成對應(yīng)的優(yōu)化計(jì)算圖； 計(jì)算所述優(yōu)化計(jì)算圖對應(yīng)的第一匹配值； 當(dāng)所述第一匹配值不屬于所述低匹配等級，利用所述優(yōu)化子圖更新所述模型計(jì)算圖。

如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人山東浪潮科學(xué)研究院有限公司，其通訊地址為：250000 山東省濟(jì)南市高新區(qū)浪潮路1036號S02號樓；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。