中山大學丘昌鎮獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉中山大學申請的專利基于深度強化學習的無人機集群任務規劃方法和裝置獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN116301022B 。
龍圖騰網通過國家知識產權局官網在2025-09-05發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202310006846.5,技術領域涉及:G05D1/46;該發明授權基于深度強化學習的無人機集群任務規劃方法和裝置是由丘昌鎮;劉紫薇;張志勇;徐雪陽設計研發完成,并于2023-01-04向國家知識產權局提交的專利申請。
本基于深度強化學習的無人機集群任務規劃方法和裝置在說明書摘要公布了:本申請提供基于深度強化學習的無人機集群任務規劃方法和裝置,包括:在集群中任意選取一個無人機作為第一無人機,其他無人機作為第二無人機,第二無人機組成剩余無人機集群;獲取第一無人機的實際任務執行環境和無人機集群任務規劃模型;將實際任務執行環境輸入至無人機集群任務規劃模型,得到無人機集群的任務規劃;其中,無人機集群任務規劃模型是以模擬任務執行環境為訓練樣本對改進的MADDPG模型進行學習訓練得到;改進的MADDPG模型包括MADDPG網絡和平均場論模塊,平均場論模塊設置在MADDPG網絡中。通過上述方法,無人機能夠在動作過程中獲知全局的環境變換,在未知動態環境中引導無人機集群做出最優的任務規劃。
本發明授權基于深度強化學習的無人機集群任務規劃方法和裝置在權利要求書中公布了:1.一種基于深度強化學習的無人機集群任務規劃方法,其特征在于,該方法包括: 在無人機集群中任意選取一個無人機作為第一無人機,其他無人機作為第二無人機,所述第二無人機組成剩余無人機集群; 獲取第一無人機的實際任務執行環境和無人機集群任務規劃模型; 將所述實際任務執行環境輸入至無人機集群任務規劃模型,得到無人機集群的任務規劃; 其中,所述無人機集群任務規劃模型是以模擬任務執行環境為訓練樣本對改進的MADDPG模型進行學習訓練得到;所述改進的MADDPG模型包括MADDPG網絡和平均場論模塊,其中所述平均場論模塊設置在所述MADDPG網絡中; 所述改進的MADDPG模型包括依次連接的策略網絡和評價網絡,其中所述平均場論模塊嵌套設置在所述評價網絡中; 建立所述無人機集群任務規劃模型包括: 獲取訓練樣本,所述訓練樣本包括當前時刻無人機集群的模擬狀態空間、下一時刻無人機集群的模擬狀態空間、無人機集群中所有無人機的模擬獎勵、無人機集群中所有無人機的模擬動作向量以及無人機集群中剩余無人機集群的平均動作向量; 將所述當前時刻無人機集群中第一無人機的模擬局部狀態輸入至策略網絡,得到當前時刻第一無人機的模擬中間動作向量; 將所述當前時刻第一無人機的模擬中間動作向量與噪音向量進行疊加,得到當前時刻第一無人機的模擬動作向量; 將當前時刻無人機集群中各個第二無人機的模擬局部狀態和各個第二無人機的模擬動作向量分別輸入平均場論模塊,得到當前時刻剩余無人機集群的模擬局部狀態平均值和剩余無人機集群的模擬平均動作向量; 將當前時刻第一無人機的模擬局部狀態和當前時刻剩余無人機集群的模擬局部狀態平均值合并得到當前時刻無人機集群的模擬狀態空間; 將當前時刻無人機集群中各個無人機的模擬動作向量與模擬任務執行環境進行交互,得到當前時刻無人機集群中各個無人機的模擬獎勵和下一時刻無人機集群中各個無人機的模擬局部狀態; 將所述下一時刻第一無人機的模擬局部狀態輸入至策略網絡,得到下一時刻第一無人機的模擬中間動作向量; 將所述下一時刻第一無人機的模擬中間動作向量與噪音向量進行疊加,得到下一時刻第一無人機的模擬動作向量; 將下一時刻無人機集群中各個第二無人機的模擬局部狀態和下一時刻無人機集群中各個第二無人機的模擬動作向量分別輸入平均場論,得到下一時刻剩余無人機集群的模擬局部狀態平均值和剩余無人機集群的模擬平均動作向量; 將下一時刻第一無人機的模擬局部狀態和下一時刻剩余無人機集群的模擬局部狀態平均值合并得到下一時刻無人機集群的模擬狀態空間; 將下一時刻無人機集群的模擬狀態空間、下一時刻第一無人機的模擬動作向量和下一時刻剩余無人機集群的模擬平均動作向量輸入至評價網絡后,疊加所述當前時刻無人機集群中第一無人機的模擬獎勵,得到評價網絡的評估值; 將所述當前時刻無人機集群的模擬狀態空間、當前時刻第一無人機的模擬動作向量和當前時刻剩余無人機集群的模擬平均動作向量,輸入至評價網絡得到當前時刻評價網絡的動作值; 根據所述評價網絡的評估值和所述當前時刻評價網絡的動作值,得到評價網絡的損失函數; 通過所述損失函數得到評價網絡參數; 根據所述評價網絡參數更新策略網絡梯度,得到策略網絡參數; 將所述策略網絡參數按比例系數進行更新,按更新后的策略網絡系數更新策略網絡和評價網絡,直至達到更新次數,以得到無人機集群任務規劃模型。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人中山大學,其通訊地址為:510275 廣東省廣州市新港西路135號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。