吉林大學劉宏飛獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉吉林大學申請的專利一種基于課程強化學習的單車換道匯入車隊控制方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN116534011B 。
龍圖騰網通過國家知識產權局官網在2025-09-12發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202310411522.X,技術領域涉及:B60W30/18;該發明授權一種基于課程強化學習的單車換道匯入車隊控制方法是由劉宏飛;楊笑;萬金濤;趙子睿設計研發完成,并于2023-04-18向國家知識產權局提交的專利申請。
本一種基于課程強化學習的單車換道匯入車隊控制方法在說明書摘要公布了:本發明涉及一種基于課程強化學習的單車換道匯入車隊控制方法,依據任務難度從簡單到復雜設置強化學習訓練課程;依據車載傳感器獲得的周圍環境車輛信息和控制對象,確定強化學習的狀態空間和動作空間,根據車輛狀態和目標任務,多維分級地設置獎勵函數引導車輛完成追趕、換道進入車隊;搭建Actor網絡、Critic網絡,并依據近端策略優化算法搭建環境探索模塊,利用Adam優化器更新網絡;選擇相應的獎勵函數進行訓練,對每個課程訓練后的網絡進行隨機數種子實驗,并對課程學習最終訓練得到的策略神經網絡進行場景測試,檢驗該模型目標任務的完成度。本發明解決復雜交通流情境下單車匯入車隊過程中稀疏獎勵造成的訓練慢難收斂問題。
本發明授權一種基于課程強化學習的單車換道匯入車隊控制方法在權利要求書中公布了:1.一種基于課程強化學習的單車換道匯入車隊控制方法,其特征在于,包括以下步驟: S1:在單車跨車道追趕入隊訓練過程中,依據任務難度從簡單到復雜設置強化學習訓練課程; S2:依據車載傳感器獲得的周圍環境車輛信息和控制對象,確定強化學習的狀態向量S和動作空間; S3:根據車輛狀態和目標任務,多維分級地設置獎勵函數引導車輛完成追趕、換道進入車隊; S4:依據近端策略優化算法搭建環境探索模塊,包括環境迭代、狀態動作獎勵的收集,并利用Adam優化器更新網絡; S5:依據所設置的課程選擇相應的獎勵函數進行訓練,并對每個課程訓練后的網絡進行隨機數種子實驗,對課程學習最終訓練得到的策略神經網絡進行場景測試,檢驗模型目標任務的完成度; 所述的S1中的課程設置具體為以下4個課程: 課程1:縱向控制,無其他交通參與者的情況下,智能體學會控制縱向速度在限速范圍內; 課程2:橫向控制,車隊環境即智能體在車隊后相鄰車道30m處,智能體學會橫縱向控制進入車隊間隙; 課程3:隨機位置入隊,車隊環境即智能體在車隊后100m內隨機位置進行入隊訓練,智能體學會橫縱向控制進入車隊; 課程4:有自由流隨機位置入隊,自由流和車隊環境:智能體在車隊后100m內隨機位置,周圍有其他自由流車輛干擾;智能體學會繞開自由流車輛,并通過橫縱向控制進入車隊; 所述的步驟S3中具體包括:距離獎勵、速度獎勵、狀態獎勵、碰撞懲罰和出界懲罰,從多個維度約束車輛行為引導自車完成目標任務,獎勵函數r表示為如下; rtotal=rdistance+rspeed+rstate+rcollision+rout_of_road 其中rtotal表示總獎勵;rdistance表示距離獎勵;rspeed表示速度獎勵;rstate表示狀態獎勵; rcollision表示碰撞懲罰;rout_of_road表示出界懲罰。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人吉林大學,其通訊地址為:130022 吉林省長春市南關區人民大街5988號吉林大學南嶺校區;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。