中南大學王振鋒獲國家專利權
買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！
龍圖騰網獲悉中南大學申請的專利終端大模型參數協同加載方法、調度方法及系統獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN120144490B 。
龍圖騰網通過國家知識產權局官網在2025-09-12發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202510607163.4，技術領域涉及：G06F12/0868；該發明授權終端大模型參數協同加載方法、調度方法及系統是由王振鋒;呂豐;董衍昊;趙鵬設計研發完成，并于2025-05-13向國家知識產權局提交的專利申請。
本終端大模型參數協同加載方法、調度方法及系統在說明書摘要公布了：本發明涉及大模型參數處理領域，公開了一種終端大模型參數協同加載方法、調度方法及系統，包括：根據待加載模型文件確定文件大小，并基于文件大小在推理設備中開辟內存區域，將內存區域起始地址進行字節對齊；獲取待加載模型在內存中的緩存情況，并根據緩存情況將待加載模型劃分為已緩存區域和未緩存區域；獲取推理設備的硬盤加載速度和遠內存設備的網絡情況，并將未緩存區域劃分為硬盤加載區域和遠內存加載區域；從推理設備的內存中加載已緩存區域的模型參數到內存區域的相應位置中，從推理設備的硬盤中加載硬盤加載區域的模型參數到內存區域的相應位置中，從遠端內存設備中加載遠內存加載區域的模型參數到內存區域的相應位置中。
本發明授權終端大模型參數協同加載方法、調度方法及系統在權利要求書中公布了：1.一種終端大模型參數協同加載方法，其特征在于，包括： S110、根據待加載模型文件確定文件大小，并基于所述文件大小在推理設備中開辟內存區域，將內存區域起始地址進行字節對齊； S120、獲取待加載模型在內存中的緩存情況，并根據所述緩存情況將待加載模型劃分為已緩存區域和未緩存區域； S130、獲取所述推理設備的硬盤加載速度和遠內存設備的網絡情況，并將所述未緩存區域劃分為硬盤加載區域和遠內存加載區域； S140、從所述推理設備的內存中加載所述已緩存區域的模型參數到所述內存區域的相應位置中，從所述推理設備的硬盤中加載所述硬盤加載區域的模型參數到所述內存區域的相應位置中，從遠端內存設備中加載所述遠內存加載區域的模型參數到所述內存區域的相應位置中。
如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人中南大學，其通訊地址為：410083 湖南省長沙市岳麓區麓山南路932號；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
免責聲明
1、本報告根據公開、合法渠道獲得相關數據和信息，力求客觀、公正，但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解，僅供參考使用，不能作為本公司承擔任何法律責任的依據或者憑證。
1、本報告根據公開、合法渠道獲得相關數據和信息，力求客觀、公正，但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解，僅供參考使用，不能作為本公司承擔任何法律責任的依據或者憑證。
開放平臺
擔保交易
惠及多方
會員特惠
專屬平臺
適合多方
數據共享
功能齊全
皖公網安備 34010402703815號