北京達佳互聯信息技術有限公司廖一橋獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉北京達佳互聯信息技術有限公司申請的專利一種數據處理方法、裝置、電子設備及存儲介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120492177B 。
龍圖騰網通過國家知識產權局官網在2025-09-16發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510983254.8,技術領域涉及:G06F9/50;該發明授權一種數據處理方法、裝置、電子設備及存儲介質是由廖一橋;劉育良;張迪;蓋坤設計研發完成,并于2025-07-17向國家知識產權局提交的專利申請。
本一種數據處理方法、裝置、電子設備及存儲介質在說明書摘要公布了:本公開關于一種數據處理方法、裝置、電子設備及存儲介質,該方法包括:獲取用于分布式模型訓練的訓練樣本順序,訓練樣本順序包括與多個迭代一一對應的多個訓練樣本集;基于訓練樣本順序中各迭代所對應訓練樣本的算力消耗,確定執行分布式模型訓練的集群性能損失;預測基于訓練樣本順序執行分布式模型訓練所得模型的模型效果損失;基于集群性能損失和模型效果損失確定綜合損失,以最小化綜合損失為目標,采用在不同迭代的訓練樣本集之間進行樣本重組的方式,更新訓練樣本順序直至滿足預設結束條件得到目標訓練樣本順序。本公開在確保模型訓練效果的同時提高了硬件利用率和整體訓練效率,尤其適用于混合并行的分布式模型訓練。
本發明授權一種數據處理方法、裝置、電子設備及存儲介質在權利要求書中公布了:1.一種數據處理方法,其特征在于,包括: 獲取用于分布式模型訓練的訓練樣本順序,所述訓練樣本順序包括與多個迭代一一對應的多個訓練樣本集,所述分布式模型訓練包括所述多個迭代的訓練; 基于所述訓練樣本順序中各迭代所對應訓練樣本的算力消耗,確定執行所述分布式模型訓練的集群性能損失,所述集群性能損失表征所述訓練樣本順序在所述多個迭代中導致的負載不均衡的嚴重程度; 獲取每個所述迭代的參考模型參數和參考模型損失;所述參考模型參數為基于參考訓練樣本順利執行相應迭代的訓練得到的,所述參考模型損失用于表征驗證樣本集中的驗證樣本基于所述參考模型參數得到的預測值與相應真實標簽值之間的差異; 基于各所述迭代的參考模型參數,對所述訓練樣本順序進行參數軌跡預測,得到每個所述迭代對應所述訓練樣本順序的預測模型參數; 基于每個所述迭代的預測模型參數,確定每個所述迭代的預測模型損失;所述預測模型損失用于表征所述驗證樣本集中的驗證樣本基于所述預測模型參數得到的預測值與相應真實標簽值之間的差異; 基于各所述迭代的預測模型損失與參考模型損失之間的差異,確定模型效果損失; 基于所述集群性能損失和所述模型效果損失確定綜合損失,以最小化所述綜合損失為目標,采用在不同迭代的訓練樣本集之間進行樣本重組的方式,更新所述訓練樣本順序直至滿足預設結束條件,得到目標訓練樣本順序;所述目標訓練樣本順序用于對計算設備集群中的所述模型執行所述分布式模型訓練。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人北京達佳互聯信息技術有限公司,其通訊地址為:100085 北京市海淀區西二旗西路16號院12號樓8層101;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。