北京泰和觀復科技有限公司劉文博獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉北京泰和觀復科技有限公司申請的專利一種基于大語言模型的文本處理方法及系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120104781B 。
龍圖騰網通過國家知識產權局官網在2025-09-12發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510099874.5,技術領域涉及:G06F16/335;該發明授權一種基于大語言模型的文本處理方法及系統是由劉文博;鄭鑒濤;蔣文杰;唐逸設計研發完成,并于2025-01-22向國家知識產權局提交的專利申請。
本一種基于大語言模型的文本處理方法及系統在說明書摘要公布了:本發明公開了一種基于大語言模型的文本處理方法及系統,涉及計算機技術領域,包括,收集文本數據,并通過數據增強技術生成變體樣本,得到預訓練數據集,引入知識圖譜,輸出訓練后的大語言模型;利用自適應任務選擇器、增量式學習框架和元學習算法,進行超參數優化;考慮非文本數據,利用多模態模型來捕捉不同類型的上下文線索,并利用跨文化認知框架理解表達方式;基于更新后的大語言模型,建立置信度評估方法,并輸出高置信度文本處理結果;根據高置信度文本處理結果,構建個性化的用戶畫像,優化推薦內容;本發明通過引入多模態模型和跨文化認知框架,有效提升了大語言模型在處理復雜現實世界問題時的表現。
本發明授權一種基于大語言模型的文本處理方法及系統在權利要求書中公布了:1.一種基于大語言模型的文本處理方法,其特征在于:包括, 收集文本數據,并通過數據增強技術生成變體樣本,得到預訓練數據集,引入知識圖譜,輸出訓練后的大語言模型; 采用自適應任務選擇器,將預訓練數據集自動匹配下游任務類型,同時,利用增量式學習框架和元學習算法,進行超參數優化; 考慮非文本數據,利用多模態模型來捕捉不同類型的上下文線索,并利用跨文化認知框架理解表達方式; 基于更新后的大語言模型,建立置信度評估方法,并輸出高置信度文本處理結果; 根據高置信度文本處理結果,構建個性化的用戶畫像,優化推薦內容; 收集文本數據,并通過數據增強技術生成變體樣本,得到預訓練數據集,引入知識圖譜,輸出訓練后的大語言模型,包括如下步驟, 確定目標領域,并識別目標領域內的主要信息源; 使用爬蟲技術訪問選定的主要信息源,下載文本數據; 使用同義詞替換、句子重組和上下文擴展的方法,得到變體樣本; 整合文本數據和變體樣本,生成預訓練數據集; 分析各類文化特有的表達習慣、隱喻和俚語,形成文化特征標簽庫,利用雙語對照構建平行語料庫; 應用BERT-basedNER模型,自動識別文本中的實體,并標注實體類型; 通過依存句法分析,解析句子的語法結構,找出實體間的潛在關系; 利用TransE算法優化三元組表示,將實體和關系映射到低維向量空間; 當實體和關系捕捉失敗時,重新進行文本數據收集及分析; 當實體和關系捕捉成功時,根據捕捉的實體和關系構建知識圖譜,訓練大語言模型,得到訓練后的大語言模型; 采用自適應任務選擇器,將預訓練數據集自動匹配下游任務類型,同時,利用增量式學習框架和元學習算法,進行超參數優化,包括如下步驟, 定義下游任務類型,并對每種任務類型定義特征集合和評價指標; 使用元學習算法,基于定義的下游任務類型,訓練自適應任務選擇器,輸入預訓練數據集,輸出預測的下游任務類型及超參數配置建議; 定期從信息源獲取最新的文本數據,經過清洗和標注處理后加入到平行語料庫中,將其與歷史文本數據合并,形成新的預訓練數據集,并使用小批量梯度下降的優化方法結合預測結果,對訓練后的大語言模型的部分超參數進行更新; 考慮非文本數據,利用多模態模型來捕捉不同類型的上下文線索,并利用跨文化認知框架理解表達方式,包括如下步驟, 收集與目標領域相關聯的非文本數據; 使用多模態深度學習架構,將文本數據與非文本數據投影到相同維度,在統一的向量空間內進行共同表示,形成多模態數據; 將多模態數據與文本數據配對,形成聯合訓練樣本,使用端到端的方式同時訓練文本編碼器和其他模態的編碼器; 采用條件隨機場技術,在大語言模型中添加跨文化適應層,對輸入文本進行文化敏感性分析,識別涉及的文化特征; 使用來自多種語言和文化的平行語料庫進行預訓練,讓大語言模型初步掌握不同文化的表達方式,得到更新后的大語言模型。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人北京泰和觀復科技有限公司,其通訊地址為:100000 北京市石景山區古城西街26號院1號樓4層406;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。