買(mǎi)專(zhuān)利賣(mài)專(zhuān)利找龍圖騰，真高效！ 查專(zhuān)利查商標(biāo)用IPTOP,全免費(fèi)！專(zhuān)利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉同濟(jì)大學(xué)申請(qǐng)的專(zhuān)利一種深度學(xué)習(xí)訓(xùn)練集群調(diào)度方法、設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)獲國(guó)家發(fā)明授權(quán)專(zhuān)利權(quán)，本發(fā)明授權(quán)專(zhuān)利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予，授權(quán)公告號(hào)為：CN120508399B 。

龍圖騰網(wǎng)通過(guò)國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-09-12發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專(zhuān)利申請(qǐng)?zhí)?專(zhuān)利號(hào)為：202510994809.9，技術(shù)領(lǐng)域涉及：G06F9/50；該發(fā)明授權(quán)一種深度學(xué)習(xí)訓(xùn)練集群調(diào)度方法、設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)是由丁志軍;董浩;徐悅皓設(shè)計(jì)研發(fā)完成，并于2025-07-18向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專(zhuān)利申請(qǐng)。

本一種深度學(xué)習(xí)訓(xùn)練集群調(diào)度方法、設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)在說(shuō)明書(shū)摘要公布了：本發(fā)明提供一種深度學(xué)習(xí)訓(xùn)練集群調(diào)度方法、設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，所述集群調(diào)度方法包括：收集深度學(xué)習(xí)訓(xùn)練任務(wù)相關(guān)數(shù)據(jù)；構(gòu)建有效的多配置深度學(xué)習(xí)訓(xùn)練任務(wù)時(shí)長(zhǎng)預(yù)估模型，并對(duì)其進(jìn)行增量式訓(xùn)練；對(duì)集群陸續(xù)到達(dá)的任務(wù)進(jìn)行時(shí)長(zhǎng)預(yù)測(cè)，以生成深度學(xué)習(xí)任務(wù)多配置下的任務(wù)時(shí)長(zhǎng)；將基于預(yù)測(cè)結(jié)果的周期性調(diào)度和基于任務(wù)隊(duì)列狀態(tài)的觸發(fā)式調(diào)度結(jié)果相結(jié)合，集成綜合調(diào)度結(jié)果。本發(fā)明所述深度學(xué)習(xí)訓(xùn)練集群調(diào)度方法一方面能夠有效解決現(xiàn)有深度學(xué)習(xí)訓(xùn)練集群調(diào)度技術(shù)存在的多種配置下的任務(wù)時(shí)長(zhǎng)難以預(yù)估，調(diào)度方案忽視CPU以及難以應(yīng)對(duì)持續(xù)到達(dá)的任務(wù)等缺陷；另一方面可實(shí)現(xiàn)對(duì)深度學(xué)習(xí)訓(xùn)練集群的合理調(diào)度，提高集群資源利用率，優(yōu)化任務(wù)執(zhí)行效率等。

本發(fā)明授權(quán)一種深度學(xué)習(xí)訓(xùn)練集群調(diào)度方法、設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)在權(quán)利要求書(shū)中公布了：1.一種深度學(xué)習(xí)訓(xùn)練集群調(diào)度方法，其特征在于，包括以下步驟： S1，收集深度學(xué)習(xí)訓(xùn)練任務(wù)相關(guān)數(shù)據(jù)，包括任務(wù)的資源需求，集群的資源狀態(tài)數(shù)據(jù)以及任務(wù)運(yùn)行狀態(tài)數(shù)據(jù)； S2，分析任務(wù)執(zhí)行時(shí)長(zhǎng)及資源利用的相關(guān)特征，構(gòu)建有效的多配置深度學(xué)習(xí)訓(xùn)練任務(wù)時(shí)長(zhǎng)預(yù)估模型； S3，對(duì)集群陸續(xù)到達(dá)的任務(wù)進(jìn)行時(shí)長(zhǎng)預(yù)測(cè)，以生成深度學(xué)習(xí)任務(wù)多配置下的任務(wù)時(shí)長(zhǎng)； S4，將基于預(yù)測(cè)結(jié)果的周期性調(diào)度和基于任務(wù)隊(duì)列狀態(tài)的觸發(fā)式調(diào)度結(jié)果相結(jié)合，集成綜合調(diào)度結(jié)果； 步驟S2包括： S21，最佳CPU核心數(shù)量計(jì)算； 最佳CPU核心數(shù)量代表能夠?qū)崿F(xiàn)性能與資源最優(yōu)平衡的CPU核心數(shù)； 計(jì)算過(guò)程為：收集不同CPU核心數(shù)量下的任務(wù)完成時(shí)間數(shù)據(jù)，將數(shù)據(jù)分為臨界點(diǎn)前后兩部分，分別進(jìn)行對(duì)數(shù)函數(shù)和線性函數(shù)的擬合，然后計(jì)算兩部分的誤差總和，最終選擇誤差最小的點(diǎn)作為最佳CPU核心數(shù)量； S22，預(yù)估器模型訓(xùn)練方法； 預(yù)估器包含兩個(gè)機(jī)器學(xué)習(xí)模型：最佳CPU核心預(yù)測(cè)模型和性能外推模型；所述最佳CPU核心預(yù)測(cè)模型用于預(yù)測(cè)最佳CPU核心數(shù)量，所述性能外推模型用于預(yù)測(cè)最終的時(shí)間； 最佳CPU核心預(yù)測(cè)模型基于隨機(jī)森林實(shí)現(xiàn)，采用均方誤差作為損失函數(shù)，輸入特征是通過(guò)獨(dú)熱編碼轉(zhuǎn)為數(shù)值特征的深度學(xué)習(xí)模型的層間信息、模型類(lèi)型、GPU配置和批處理大小；訓(xùn)練標(biāo)簽為步驟S21得到的最佳CPU核心數(shù)量；其中，所述深度學(xué)習(xí)模型為深度學(xué)習(xí)訓(xùn)練任務(wù)使用的網(wǎng)絡(luò)模型； 性能外推模型包括五個(gè)時(shí)間預(yù)測(cè)模型和一個(gè)整合模型，采用分階段建模方法，即先用五個(gè)時(shí)間預(yù)測(cè)模型分別對(duì)數(shù)據(jù)處理、前向傳播、反向傳播、參數(shù)更新和數(shù)據(jù)移動(dòng)五個(gè)關(guān)鍵計(jì)算階段進(jìn)行時(shí)間預(yù)測(cè)，然后用整合模型將五個(gè)階段的預(yù)測(cè)時(shí)間整合成一個(gè)最終的時(shí)間； 其中，五個(gè)階段的時(shí)間預(yù)測(cè)模型采用相同的模型結(jié)構(gòu)和參數(shù)設(shè)置，區(qū)別僅在于訓(xùn)練數(shù)據(jù)選擇了來(lái)自不同階段的運(yùn)行時(shí)間； 具體的，時(shí)間預(yù)測(cè)模型采用隨機(jī)森林算法實(shí)現(xiàn)，采用2折交叉驗(yàn)證進(jìn)行超參數(shù)優(yōu)化，選擇最優(yōu)參數(shù)組合；采用均方誤差作為損失函數(shù)，輸入特征是深度學(xué)習(xí)模型的最佳CPU核心數(shù)量、性能參數(shù)、基準(zhǔn)GPU配置、基準(zhǔn)GPU配置以及最佳CPU核心數(shù)量下的深度學(xué)習(xí)模型的數(shù)據(jù)處理階段運(yùn)行時(shí)間、待預(yù)測(cè)的GPU配置和待預(yù)測(cè)的CPU核心數(shù)量；訓(xùn)練標(biāo)簽為待預(yù)測(cè)的GPU配置下以及CPU配置下的計(jì)算階段的運(yùn)行時(shí)間； 整合模型采用隨機(jī)森林算法實(shí)現(xiàn)，采用均方誤差作為損失函數(shù)，輸入特征是最佳CPU核心數(shù)量、基準(zhǔn)GPU配置、基準(zhǔn)GPU配置和最佳CPU核心數(shù)量下的深度學(xué)習(xí)模型的五階段時(shí)間以及完整運(yùn)行時(shí)間、待預(yù)測(cè)的GPU配置以及待預(yù)測(cè)的CPU核心數(shù)量、待預(yù)測(cè)的GPU配置和待預(yù)測(cè)的CPU核心數(shù)量下的深度學(xué)習(xí)模型的五階段時(shí)間；訓(xùn)練標(biāo)簽是待預(yù)測(cè)的GPU配置以及待預(yù)測(cè)的CPU核心數(shù)量下的深度學(xué)習(xí)模型的運(yùn)行時(shí)間。

如需購(gòu)買(mǎi)、轉(zhuǎn)讓、實(shí)施、許可或投資類(lèi)似專(zhuān)利技術(shù)，可聯(lián)系本專(zhuān)利的申請(qǐng)人或?qū)＠麢?quán)人同濟(jì)大學(xué)，其通訊地址為：200092 上海市楊浦區(qū)四平路1239號(hào)；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。