南京航空航天大學張彤獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉南京航空航天大學申請的專利基于邊緣實時系統的內存協同DNN層級調度方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN118227335B 。
龍圖騰網通過國家知識產權局官網在2025-09-09發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202410464221.8,技術領域涉及:G06F9/50;該發明授權基于邊緣實時系統的內存協同DNN層級調度方法是由張彤;韓逸軒;朱琨設計研發完成,并于2024-04-17向國家知識產權局提交的專利申請。
本基于邊緣實時系統的內存協同DNN層級調度方法在說明書摘要公布了:本發明公開了一種基于邊緣實時系統的內存協同DNN層級調度方法,屬于實時系統調度領域。該方法深入研究任務性能特征、構建優化模型和利用深度強化學習,實現最小化任務延遲、最大化任務滿意度的目標。主要包括以下步驟:首先,通過深入研究每個DNN任務的性能特征,包括內存分配大小和執行時間,以確保系統在運行DNN任務時達到最佳性能。其次,根據問題定義,建立優化模型,并將其轉化為馬爾科夫決策過程,明確狀態空間、動作空間和狀態轉換。最后,采用深度強化學習對問題進行求解,通過學習最佳調度策略,獲得最優調度序列,以最大化任務滿意度。本發明所述方法能夠有效地適應復雜的邊緣系統環境,為提升用戶體驗提供了可行的解決方案。
本發明授權基于邊緣實時系統的內存協同DNN層級調度方法在權利要求書中公布了:1.一種基于邊緣實時系統的內存協同DNN層級調度方法,其特征在于,包括以下步驟: 1DNN任務資源的需求進行預測分析,包括每個DNN任務對應的內存分配大小及該DNN任務在分配相應內存后的執行時間,得到DNN任務執行時間與內存大小之間的函數關系; 2根據問題定義,確定優化的目標,明確問題的約束條件以及確定決策變量的范圍,從而建立優化模型,包括如下考慮: 21針對邊緣系統,至少包括一個CPU和GPU,該邊緣系統周期性來一組推理任務對于每個DNN任務所述的DNN任務由Li個DNN層組成,推理任務且DNN任務間存在依賴關系,由有向無環圖組織; 22將xi,j=0表示任務Ji的第j層在CPU上執行,xi,j=1表示DNN任務Ji的第j層在GPU上執行,Si,j表示DNN任務Ji的第j層的開始時間; 對于有向無環圖組織中的每個節點,表示DNN任務Ji的第j層在CPU上的執行時間,表示DNN任務Ji的第j層在GPU上的執行時間; DNN任務Ji在Si時開始,DNN任務響應時間為Ti,預計截止時間為Di;每個DNN任務開始時,都將分配根據步驟1得到的最優Mi大小的內存,直到DNN任務結束釋放相應內存; 其中開始時間Si由調度器決定,DNN任務響應時間其中wi,j為DNN層τi,j的等待時間,ei,j為DNN層τi,j根據步驟S1得到的在GPU或CPU上的運行時間,即 23為充分利用系統資源,調度器需要生成高效的調度計劃,因此使用任務滿意度作為評估指標,任務滿意度定義為預計截止時間與響應時間的比率,即: 其中Di是預計截止時間,Ti是任務響應時間;該比率越大,任務滿意度越高,因此調度器的優化目標為最大化所有的任務滿意度,表示為: 因此,得到約束條件如下所示: 以上約束表示不同任務的層之間不能同時在CPU或者GPU上運行; 以上約束表示在同一任務的DNN的不同層中,后一層的任務必須在前一層執行完畢后才能開始執行; 以上約束表示任意的任務Ji只有在其前繼結點執行完畢后才能開始執行; 以上約束表示任意時刻同時分配的內存不大于系統最大內存; 以上約束表示所有任務都要在其截止日期之前完成; 3將優化模型轉化為馬爾科夫決策過程,定義狀態空間、動作空間和狀態轉換,使用深度強化學習對優化問題求解,通過學習最佳調度策略以獲得最優調度序列,從而最大化DNN任務滿意度。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人南京航空航天大學,其通訊地址為:210016 江蘇省南京市秦淮區御道街29號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。