買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉北京達佳互聯(lián)信息技術(shù)有限公司申請的專利基于異構(gòu)GPU集群的模型訓(xùn)練方法、裝置及存儲介質(zhì)獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN120508395B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-09-16發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202510983253.3，技術(shù)領(lǐng)域涉及：G06F9/50；該發(fā)明授權(quán)基于異構(gòu)GPU集群的模型訓(xùn)練方法、裝置及存儲介質(zhì)是由廖一橋;劉育良;張迪;蓋坤設(shè)計研發(fā)完成，并于2025-07-17向國家知識產(chǎn)權(quán)局提交的專利申請。

本基于異構(gòu)GPU集群的模型訓(xùn)練方法、裝置及存儲介質(zhì)在說明書摘要公布了：本公開關(guān)于一種基于異構(gòu)GPU集群的模型訓(xùn)練方法、裝置及存儲介質(zhì)，所述方法包括：獲取異構(gòu)GPU集群中每個GPU的硬件指標數(shù)據(jù)；獲取待訓(xùn)練模型中深度學(xué)習(xí)算法對應(yīng)的多個操作類型，并測量每個GPU執(zhí)行每個操作類型對應(yīng)操作的操作性能數(shù)據(jù)；獲取每個GPU的通信帶寬多維特征以及負載狀態(tài)感知策略；根據(jù)每個GPU對應(yīng)的所述硬件指標數(shù)據(jù)、所述操作性能數(shù)據(jù)、所述通信帶寬多維特征以及所述負載狀態(tài)感知策略，構(gòu)建得到每個GPU的多維操作性能矩陣；根據(jù)每個GPU對應(yīng)的多維操作性能矩陣，為所述待訓(xùn)練模型中每個結(jié)構(gòu)層分配GPU進行模型訓(xùn)練得到目標模型，本公開提高了模型的訓(xùn)練效率，縮短了模型的訓(xùn)練時長。

本發(fā)明授權(quán)基于異構(gòu)GPU集群的模型訓(xùn)練方法、裝置及存儲介質(zhì)在權(quán)利要求書中公布了：1.一種基于異構(gòu)GPU集群的模型訓(xùn)練方法，其特征在于，包括： 獲取異構(gòu)GPU集群中每個GPU的硬件指標數(shù)據(jù)；所述異構(gòu)GPU集群包括至少兩個異構(gòu)GPU； 獲取待訓(xùn)練模型中深度學(xué)習(xí)算法對應(yīng)的多個操作類型，并測量每個GPU執(zhí)行每個操作類型對應(yīng)操作的操作性能數(shù)據(jù)； 獲取每個GPU的通信帶寬多維特征以及負載狀態(tài)感知策略；所述負載狀態(tài)感知策略表征每個GPU的負載與性能之間的關(guān)聯(lián)關(guān)系； 根據(jù)每個GPU對應(yīng)的所述硬件指標數(shù)據(jù)、所述操作性能數(shù)據(jù)、所述通信帶寬多維特征以及所述負載狀態(tài)感知策略，構(gòu)建每個GPU的多維操作性能矩陣； 根據(jù)所述待訓(xùn)練模型中多個結(jié)構(gòu)層構(gòu)建并行流水線組，依次遍歷目標數(shù)量個所述并行流水線組，針對遍歷到的當(dāng)前并行流水線組，確定所述當(dāng)前并行流水線組的啟用概率； 根據(jù)所述目標數(shù)量個所述并行流水線組以及所述當(dāng)前并行流水線組的啟用概率，構(gòu)建數(shù)據(jù)并行配置策略； 將所述待訓(xùn)練模型中任一結(jié)構(gòu)層確定為當(dāng)前結(jié)構(gòu)層，并將所述當(dāng)前并行流水線組中任一流水線階段確定為當(dāng)前流水線階段； 根據(jù)所述當(dāng)前結(jié)構(gòu)層的流水線階段約束條件、所述當(dāng)前結(jié)構(gòu)層被劃分至所述當(dāng)前流水線階段的分配概率，以及所述當(dāng)前流水線階段映射至所述異構(gòu)GPU集群中每個GPU的映射概率，構(gòu)建層階段映射策略； 根據(jù)所述多維操作性能矩陣、所述數(shù)據(jù)并行配置策略以及所述層階段映射策略，確定的每個GPU在所述當(dāng)前并行流水線組中的目標位置，為所述待訓(xùn)練模型中每個結(jié)構(gòu)層分配GPU進行模型訓(xùn)練得到目標模型。

如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人北京達佳互聯(lián)信息技術(shù)有限公司，其通訊地址為：100085 北京市海淀區(qū)西二旗西路16號院12號樓8層101；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。