華中科技大學孫旭彤獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉華中科技大學申請的專利基于雙階段優化架構深度學習模型參數優化器的構建方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120337991B 。
龍圖騰網通過國家知識產權局官網在2025-08-29發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510826609.2,技術領域涉及:G06N3/0442;該發明授權基于雙階段優化架構深度學習模型參數優化器的構建方法是由孫旭彤;莫莉;劉梓軒;曹慶茹;效文靜;劉萬;張咪;黃昊東;鮑潤罡;張勇傳設計研發完成,并于2025-06-19向國家知識產權局提交的專利申請。
本基于雙階段優化架構深度學習模型參數優化器的構建方法在說明書摘要公布了:本發明屬于深度學習時間序列預測領域,其公開了基于雙階段優化架構深度學習模型參數優化器的構建方法,其采用了步驟一中將傳統優化器與周期性學習率進行結合的模型較優參數邊界確定方法和步驟二中擬合模型訓練參數與損失函數值的曲線關系的參數優化方法,該優化器的構建方法不僅打破了傳統優化器僅依賴梯度方向更新的局限性,還能夠穩定有效的提高深度學習模型在時間序列上的預測精度,為后續深度學習模型預測性能的提升提供新的研究方向。
本發明授權基于雙階段優化架構深度學習模型參數優化器的構建方法在權利要求書中公布了:1.基于雙階段優化架構深度學習模型參數優化器的構建方法,其特征在于,包括以下步驟:該方法應用于負荷數據預測領域, 步驟一、確定模型較優參數邊界 確定深度學習模型較優參數邊界的前期優化器,使用固定學習率αmax對深度學習模型進行訓練,當達到預設的迭代次數t之后,將學習率調整為周期性學習率,提取學習率周期性變化過程的模型參數,以確定模型較優參數邊界;周期性學習率調整方法選擇為半余弦退火曲線的周期性學習率,其計算公式為: 其中,T為周期長度,αt為第t時刻的學習率,αmax為最大學習率,αmin為最小學習率,cos·表示余弦函數,modt,T表示t除以T的余數; 通過學習率的周期性變化獲得模型較優參數邊界具體步驟為:基于半余弦退火曲線的周期性學習率公式,設置學習率周期性變化時的周期長度T,總周期數k,循環開始前的迭代次數t,最大學習率αmax和最小學習率αmin;選擇Adam優化器作為前期優化器,以最大學習率αmax進行深度學習模型參數訓練;當訓練迭代次數達到t次后,開始調整學習率為半余弦退火曲線的周期性學習率,使學習率在模型訓練的過程中隨迭代次數周期性地在最大學習率αmax和最小學習率αmin之間波動,同時提取學習率周期性變化過程中每個周期最后一個時間點的模型參數W及其所在時間點對應的損失值Loss;在模型訓練結束后,得到k組模型參數及其損失值,上述模型參數在深度學習模型損失曲面上包圍并形成了具有更小損失值的最優參數周圍的模型較優參數邊界; 步驟二、優化模型參數 將步驟一得到的較優參數與其對應的模型訓練損失值進行擬合,通過擬合后的曲線逐漸尋找并得到深度學習模型最優參數。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人華中科技大學,其通訊地址為:430074 湖北省武漢市洪山區珞喻路1037號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。