浙江大學李德纮獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉浙江大學申請的專利一種基于大語言模型的視頻理解方法及系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN118865196B 。
龍圖騰網通過國家知識產權局官網在2025-08-29發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202410825619.X,技術領域涉及:G06V20/40;該發明授權一種基于大語言模型的視頻理解方法及系統是由李德纮;王高昂;曹世東設計研發完成,并于2024-06-25向國家知識產權局提交的專利申請。
本一種基于大語言模型的視頻理解方法及系統在說明書摘要公布了:本發明涉及視頻處理技術領域,具體說是一種基于大語言模型的視頻理解方法及系統,包括獲取視頻問答示例,形成視頻問答數據集,對所述視頻問答數據集進行預處理,獲得視頻問答數據集的向量表示特征,將已有文本?圖像模型改組為視頻特征提取模型,利用所述視頻特征提取模型處理向量表示特征,獲取視頻分析結果向量特征,利用大語言模型分析視頻分析結果向量特征,得到對應視頻問答示例的答案,本發明通過數據預處理、模型訓練以及凍結的大語言模型來進行視頻理解問答,可以提高回答準確率,并節省訓練算力以及數據資源。
本發明授權一種基于大語言模型的視頻理解方法及系統在權利要求書中公布了:1.一種基于大模型時空參數復用的高效視頻理解方法,其特征在于,所述方法應用于一種基于大模型時空參數復用的高效視頻理解系統,所述方法包括: S1:獲取視頻問答示例,形成視頻問答數據集; S2:對所述視頻問答數據集進行預處理,獲得視頻問答數據集的向量表示特征; S3:將已有文本-圖像模型改組為視頻特征提取模型,利用所述視頻特征提取模型處理向量表示特征,獲取視頻分析結果向量特征;其中,S3包括如下步驟: S31:根據文本-圖像大模型的每一個空間自注意力網絡,初始化結構和空間自注意力網絡完全相同的時序自注意力網絡,并將文本-圖像大模型中的空間自注意力網絡參數復用到視頻時序上的自注意力網絡參數; S32:時間和空間建模交替堆疊重復若干次,實現文本與視頻多模態信息的高效融合,經過參數復用,原有文本-圖像大模型的空間自注意力網絡-空間交叉注意力網絡的基本單元堆疊,變為時序自注意力網絡-空間自注意力網絡-空間交叉注意力網絡的基本單元堆疊若干次; S33:處理數據流時,使用通道變換策略,在進入空間注意力網絡時合并視頻向量的Batch和時序通道,在進入時序注意力網絡時合并視頻向量的Batch和空間長度通道,來完成圖像向量中的時序交互以及空間交互,得到視頻分析結果表示向量特征; S34:對改組后的視頻特征提取模型進行訓練,訓練時,在注意力網絡的各個參數中加入一個與原參數矩陣輸入輸出維度相同的低秩矩陣,在訓練階段中保持原模型參數凍結,只調整各個低秩矩陣; S4:利用大語言模型分析視頻分析結果向量特征,得到對應視頻問答示例的答案。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人浙江大學,其通訊地址為:310058 浙江省嘉興市海寧市海州東路718號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。