數據空間研究院張佳佳獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉數據空間研究院申請的專利自適應多級微調多模態大模型的優化方法及系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120105345B 。
龍圖騰網通過國家知識產權局官網在2025-09-02發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510571721.6,技術領域涉及:G06F18/25;該發明授權自適應多級微調多模態大模型的優化方法及系統是由張佳佳;余海陽;曹燕;胡家武;王佐成;馬韻潔;杭松;王曉偉設計研發完成,并于2025-05-06向國家知識產權局提交的專利申請。
本自適應多級微調多模態大模型的優化方法及系統在說明書摘要公布了:本發明涉及多模態大模型領域,公開了自適應多級微調多模態大模型的優化方法及系統。該方法構建多模態數據集;基于預訓練的多模態基礎大模型對單組樣本中的模態數據進行編碼,生成特征表示;計算每種模態數據特征的任務相關性評分、特征信息量評分和梯度規模評分,以生成單模態評分;計算不同模態間的模態對齊度評分、信息互補度評分和協同增益度評分,以生成跨模態交互評分;根據兩種評分構建深度調整需求指標和交互強度需求指標,根據指標取值選擇深度微調淺度微調與強交互弱交互的組合策略,對多模態基礎大模型進行自適應優化;驗證模型性能是否滿足要求以迭代優化至滿足要求。本發明節省計算資源,提升模型的表征和泛化能力。
本發明授權自適應多級微調多模態大模型的優化方法及系統在權利要求書中公布了:1.自適應多級微調多模態大模型的優化方法,其特征在于,包括: S1.構建包括多組樣本的多模態數據集,每組樣本包含不同類型的模態數據;其中,模態的類型包括文本模態、圖像模態、視頻模態和音頻模態; S2.基于預訓練的多模態基礎大模型對單組樣本中的模態數據編碼,生成標準化特征表示; S3.計算每種模態數據特征的任務相關性評分、特征信息量評分和梯度規模評分,以生成單模態評分;任務相關性評分用于度量樣本特征與任務目標之間的語義關聯強度,特征信息量評分用于度量樣本特征的信息豐富程度,梯度規模評分用于度量樣本特征的重要程度; S4.計算不同模態間的模態對齊度評分、信息互補度評分和協同增益度評分,以生成跨模態交互評分;模態對齊度評分用于度量不同模態的樣本特征在語義空間中的匹配程度,信息互補度評分用于度量不同模態的樣本特征之間攜帶的互補信息量,協同增益度評分用于度量不同模態的樣本特征融合后產生的協同效應; S5.基于單模態評分和跨模態交互評分,構建深度調整需求指標和交互強度需求指標,根據指標取值動態選擇深度微調淺度微調與強交互弱交互的組合策略,自適應優化多模態基礎大模型;步驟S5中,深度調整需求指標Dneed和交互強度需求指標Ineed的計算公式分別如下: 式中,κ1和κ2分別為深度調整需求指標中單模態評分和模態對齊度評分的權重系數;μ1和μ2分別為交互強度需求指標中信息互補度評分和協同增益度評分的權重系數;為跨模態交互評分中的模態對齊度分量;為跨模態交互評分中的信息互補度分量;為跨模態交互評分中的協同增益度分量;Ssingle為單模態評分; 其中,通過比較Dneed、Ineed與預設的策略選擇閾值θD、θI之間的大小,選擇以下四種策略之一作為自適應優化方向: 當DneedθD且IneedθI時,采用深度微調+強交互策略; 當DneedθD且Ineed≤θI時,采用深度微調+弱交互策略; 當Dneed≤θD且IneedθI時,采用淺度微調+強交互策略; 當Dneed≤θD且Ineed≤θI時,采用淺度微調+弱交互策略; 其中,采用滑動窗口機制動態更新策略選擇閾值θD和θI。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人數據空間研究院,其通訊地址為:230000 安徽省合肥市高新區柏堰科技園創新大道288號工投高新智谷B區;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。