買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費(fèi)！專利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉廣東電網(wǎng)有限責(zé)任公司廣州供電局申請的專利基于改進(jìn)型Transformer編碼器對電力缺陷文本的實(shí)體信息抽取方法獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN115470786B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-08-29發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202211044230.9，技術(shù)領(lǐng)域涉及：G06F40/289；該發(fā)明授權(quán)基于改進(jìn)型Transformer編碼器對電力缺陷文本的實(shí)體信息抽取方法是由盧有飛;劉璐豪;梁雪青;吳任博;張揚(yáng);趙宏偉;陳明輝;張少凡;鄒時容;蔡燕春;劉璇設(shè)計(jì)研發(fā)完成，并于2022-08-30向國家知識產(chǎn)權(quán)局提交的專利申請。

本基于改進(jìn)型Transformer編碼器對電力缺陷文本的實(shí)體信息抽取方法在說明書摘要公布了：本發(fā)明涉及于人工智能與電力系統(tǒng)交叉領(lǐng)域，為基于改進(jìn)型Transformer編碼器對電力缺陷文本的實(shí)體信息抽取方法。該方法通過引入預(yù)訓(xùn)練語言模型、詞典、微調(diào)TENER模型和條件隨機(jī)場模型，搭建CWG?TENER模型，利用帶標(biāo)注的電力系統(tǒng)二次設(shè)備缺陷文本，對模型進(jìn)行優(yōu)化訓(xùn)練和測試選擇，得到電力設(shè)備缺陷文本信息抽取模型，將待抽取信息的電力設(shè)備缺陷文本輸入電力設(shè)備缺陷文本信息抽取模型，得到所抽取的信息。本發(fā)明可用于對電力系統(tǒng)二次設(shè)備缺陷文本中涉及到的實(shí)體信息進(jìn)行抽取，可以在電力系統(tǒng)二次設(shè)備出現(xiàn)故障時提供輔助決策作用。

本發(fā)明授權(quán)基于改進(jìn)型Transformer編碼器對電力缺陷文本的實(shí)體信息抽取方法在權(quán)利要求書中公布了：1.基于改進(jìn)型Transformer編碼器對電力缺陷文本的實(shí)體信息抽取方法，其特征在于，包括以下步驟： S1、引入電力系統(tǒng)二次設(shè)備缺陷記錄數(shù)據(jù)文本，對數(shù)據(jù)文本進(jìn)行標(biāo)注； S2、引入預(yù)訓(xùn)練模型、詞典、微調(diào)TENER模型和條件隨機(jī)場模型，搭建CWG-TENER模型，利用帶標(biāo)注的數(shù)據(jù)文本對CWG-TENER模型進(jìn)行優(yōu)化訓(xùn)練，得到電力設(shè)備缺陷文本信息抽取模型； 所述步驟S2包括： S21、引入預(yù)訓(xùn)練模型和詞典，提取數(shù)據(jù)文本的字符向量和詞典詞語的詞語向量，所述詞典是基于若干原始語料分詞得到； S22、提取出的字符向量構(gòu)成字符向量集合C，將數(shù)據(jù)文本與詞典中詞語進(jìn)行匹配，將匹配到的詞語對應(yīng)的詞語向量構(gòu)成詞語向量集合W； S23、搭建字詞圖CWG模型； S24、將Transformer模型的CRF層替換為全連接層，使輸出維度和字詞語向量維度相同，得到微調(diào)TENER模型； S25、將字符向量集合C和詞語向量集合W作為微調(diào)TENER模型的輸入，得到輸出結(jié)點(diǎn)特征向量初值C0和邊的特征向量初值W0，將結(jié)點(diǎn)特征向量初值C0和邊的特征向量初值W0分別替代CWG模型的結(jié)點(diǎn)和CWG模型的邊，定義CWG模型全局變量的初值為g0； S26、分別對CWG模型的結(jié)點(diǎn)、CWG模型的邊和CWG模型的全局變量進(jìn)行聚合計(jì)算，得到第一次聚合后的字符向量詞語向量和全局向量 S27、以字符向量詞語向量和全局向量替換CWG模型的結(jié)點(diǎn)、CWG模型的邊和CWG模型的全局變量； S28、通過微調(diào)TENER模型對字符向量、詞語向量進(jìn)行更新，通過LSTM網(wǎng)絡(luò)狀態(tài)更新公式計(jì)算全局向量的更新輸出； S29、將更新后的字符向量、詞語向量、全局向量分別替代CWG模型的結(jié)點(diǎn)、CWG模型的邊和CWG模型的全局變量，對CWG模型的結(jié)點(diǎn)、CWG模型的邊和CWG模型的全局變量進(jìn)行聚合； S210、循環(huán)T次所述步驟S28到步驟S29，得到最終的字符特征向量集合； S211、將最終的字符特征向量集合輸入條件隨機(jī)場模型CRF，計(jì)算得到輸出最佳標(biāo)簽序列； S212、依據(jù)最佳標(biāo)簽序列利用Adam優(yōu)化器對模型參數(shù)進(jìn)行優(yōu)化，循環(huán)訓(xùn)練預(yù)定次數(shù)，得到電力設(shè)備缺陷文本信息抽取模型； S3、將待抽取信息的電力設(shè)備缺陷文本輸入電力設(shè)備缺陷文本信息抽取模型，得到所抽取的信息。

如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人廣東電網(wǎng)有限責(zé)任公司廣州供電局，其通訊地址為：510620 廣東省廣州市天河區(qū)天河南二路2號；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。