中國鐵建昆侖投資集團有限公司;中鐵建重慶投資集團有限公司翟福森獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉中國鐵建昆侖投資集團有限公司;中鐵建重慶投資集團有限公司申請的專利基于圖知識增強的端到端任務型對話系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN117033573B 。
龍圖騰網通過國家知識產權局官網在2025-08-22發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202310810387.6,技術領域涉及:G06F16/3329;該發明授權基于圖知識增強的端到端任務型對話系統是由翟福森;金燕;張繼;王業義;張濤;劉明龍;李剛;吳堯設計研發完成,并于2023-07-04向國家知識產權局提交的專利申請。
本基于圖知識增強的端到端任務型對話系統在說明書摘要公布了:本發明提出了一種基于圖知識增強的端到端任務型對話系統,包括:圖結構上下文編碼器模塊:采用圖結構的形式對上下文進行編碼,獲得對話歷史信息的向量表示;圖知識模塊:采用圖結構的形式對知識庫信息進行編碼,獲得知識庫信息的向量表示;解碼器模塊:根據知識庫中的知識庫信息的向量表示和對話歷史信息的向量表示計算得到實體分布。本發明能夠通過圖結構將對話信息和知識庫分別進行編碼,有效的捕獲到實體與實體的結構信息以及對話中單詞之間的結構信息,從而提高模型對實體的預測能力。
本發明授權基于圖知識增強的端到端任務型對話系統在權利要求書中公布了:1.一種基于圖知識增強的端到端任務型對話系統,其特征在于,包括: 圖結構上下文編碼器模塊:采用圖結構的形式對上下文進行編碼,獲得對話歷史信息的向量表示;所述采用圖結構的形式對上下文進行編碼是通過圖上下文編碼器進行編碼的,編碼過程如下: xt為輸入句子在t時刻的輸入單詞,Pt=p1,p2,..,pk為xt的一組前序單詞的對話圖表示,pi表示和xt關聯的單詞,pi∈Pt,k為xt前序單詞的總數量;前序單詞的一組隱藏向量表示為H=h1,h2,…,hk,其中每個hj表示第j個前序單詞pj的隱藏向量,hj∈H; 首先,在隱藏向量上循環k次,分別計算它們的重置門,使用公式1計算rj作為第j個隱藏向量的重置門: rj=σWrxt+Urhj#1 其中,Wr和Ur都是可訓練的參數; σ是sigmoid激活函數; xt和hj分別是當前t時刻的輸入單詞和第j個前序單詞在t時刻的隱藏向量; 為了捕獲t時刻的全部特征,根據重置門rj和隱藏向量hj的相乘結果的累計求和運算,然后加到當前輸入單詞xt,計算當前時刻的候選隱藏狀態具體計算過程如公式2: 其中,Wt和Ut都是可學習的權重參數矩陣; k表示xt前序單詞的總數量單詞數量; 為了獲得表示能力,首先對輸入xt的和隱藏狀態hj應用線性變換: 其中,Wl和Ul都是可學習的參數; t為當前時刻; 隱藏狀態H′由前序單詞的隱藏狀態經過線性變換后得到的隱藏狀態和當前的輸入xt的候選隱藏狀態組成 為了能夠捕獲這些不同輸入的不同的影響,將掩碼注意力機制應用到模型上學習不同時間步的前序單詞的重要性,計算注意力機制的過程如下: αj=softmax[ej]m#6 其中,We,Ww和be表示模型可學習的參數; 表示對輸入單詞xt應用線性變換; 表示H′中的第j個向量; αj表示H′中的第j個向量的注意力權重; [·]m表示掩碼操作; 最后在t時刻隱藏狀態ht的輸出向量為: 并且,為了獲得對話歷史的更加豐富的雙向表示,根據公式1-7,可以分別計算正向圖表示和反向圖表示和即為順序關系的向量表示; 然后把它們拼接起來作為對話歷史信息的向量表示就是編碼器的最后時刻輸出的隱藏向量,編碼器輸出的一組隱藏向量為 圖知識模塊:采用圖結構的形式對知識庫信息進行編碼,獲得知識庫信息的向量表示; 解碼器模塊:根據知識庫中的知識庫信息的向量表示和對話歷史信息的向量表示計算得到實體分布。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人中國鐵建昆侖投資集團有限公司;中鐵建重慶投資集團有限公司,其通訊地址為:610000 四川省成都市中國(四川)自由貿易試驗區成都高新區益州大道中段1999號4棟21層-22層;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。