深圳大學何志權獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉深圳大學申請的專利基于三角度注意力和實體-關系相關性的DocRE方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120407806B 。
龍圖騰網通過國家知識產權局官網在2025-09-09發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510899504.X,技術領域涉及:G06F16/353;該發明授權基于三角度注意力和實體-關系相關性的DocRE方法是由何志權;尹升騰;陳慶鋒設計研發完成,并于2025-07-01向國家知識產權局提交的專利申請。
本基于三角度注意力和實體-關系相關性的DocRE方法在說明書摘要公布了:本發明具體公開了一種基于三角度注意力和實體?關系相關性的DocRE方法,屬于自然語言處理技術領域。該方法首先將輸入文檔編碼至預訓練語言模型PLM,獲取嵌入表示及多頭注意力矩陣;接著設計實體對?上下文注意力、實體對?證據注意力和實體對間注意力三種機制,并通過注意力遷移模塊對三類注意力信息進行特征對齊與加權融合,生成統一的實體對語義表示;然后構建實體?關系共現圖,借助圖注意力網絡實現節點特征聚合與傳播,獲取實體?關系共現特征;最后將融合語義特征與共現特征拼接,用于實體對關系的分類預測。該方法有效提升了跨句推理能力和遠距離實體建模效果,增強了模型對復雜關系的抽取準確性與泛化能力。
本發明授權基于三角度注意力和實體-關系相關性的DocRE方法在權利要求書中公布了:1.一種基于三角度注意力和實體-關系相關性的DocRE方法,其特征在于,步驟如下: 步驟S1、輸入文檔至預訓練語言模型PLM,獲取Token嵌入表示及多頭注意力矩陣; 步驟S2、基于預訓練語言模型最后一層的多頭注意力矩陣構建實體對-上下文注意力E2CA、實體對-證據注意力E2EV和實體對間注意力E2EA三種注意力機制; 步驟S3、設計注意力遷移模塊AT,對E2CA、E2EV和E2EA三種注意力機制的信息進行特征對齊與加權融合,生成統一的實體對語義表示; 步驟S4、構建實體-關系共現圖,基于實體-關系共現圖引入圖注意力網絡GAT對圖中節點進行特征聚合與傳播,獲得實體-關系共現特征; 步驟S5、將融合語義特征與共現特征進行拼接,作為實體對關系的判別依據; 步驟S6、損失函數設計,包括自適應焦點損失和結合證據信息引導的損失函數; 步驟S7、對每個實體對進行關系分類預測,輸出最終的關系類別結果; 在步驟S4中,構建實體-關系共現圖的步驟包括:基于訓練語料統計實體與關系標簽的共現信息,構建實體-關系共現矩陣,以實體和關系標簽為節點,以共現關系為邊;邊的權重由條件概率決定,計算公式如下: ; 其中,為實體-關系共現矩陣中實體與關系標簽的共現次數; 在步驟S6中,自適應焦點損失的計算公式如下: ; ; ; 其中,表示關系抽取任務的損失,、表示在實體對下預測關系類別的概率,、表示在實體對上預測為閾值類的概率,表示實體對對于關系的logit值,表示實體對對于閾值類的logit值,表示負類子集,為自適應焦點損失的調控因子,為實體對對于閾值類的logit值,為實體對對于關系的logit值,為閾值類別,為正類子集; 結合證據信息引導的損失函數的計算公式如下: ; 其中,為KL散度損失,為人工證據分布,為模型預測的證據分布,表示證據檢索任務的損失; 總的損失函數公式如下: ; 其中,為可調節的平衡系數。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人深圳大學,其通訊地址為:518060 廣東省深圳市南山區南海大道3688號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。