夏萃慧獲國(guó)家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標(biāo)用IPTOP,全免費(fèi)!專利年費(fèi)監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉夏萃慧申請(qǐng)的專利一種基于雙重注意力機(jī)制的建模方法獲國(guó)家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予,授權(quán)公告號(hào)為:CN119720785B 。
龍圖騰網(wǎng)通過國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-09-09發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請(qǐng)?zhí)?專利號(hào)為:202411854795.2,技術(shù)領(lǐng)域涉及:G06F30/27;該發(fā)明授權(quán)一種基于雙重注意力機(jī)制的建模方法是由夏萃慧設(shè)計(jì)研發(fā)完成,并于2024-12-17向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專利申請(qǐng)。
本一種基于雙重注意力機(jī)制的建模方法在說明書摘要公布了:本申請(qǐng)公開了一種基于雙重注意力機(jī)制的建模方法,將四維張量作為輸入數(shù)據(jù);通過深度卷積長(zhǎng)短期記憶網(wǎng)絡(luò)提取所述輸入數(shù)據(jù)的時(shí)空特征,對(duì)輸入的每個(gè)特征通道分別應(yīng)用ConvLSTM2D層,并在特征維度上進(jìn)行拼接;將時(shí)間分布的空間注意力和特征注意力集成到深度學(xué)習(xí)框架,通過時(shí)間分布的Flatten層將每個(gè)時(shí)間步的空間特征展開為一維向量;將所述一維向量應(yīng)用全局平均池化層在時(shí)間維度上對(duì)特征進(jìn)行聚合;通過輸出層預(yù)測(cè)目標(biāo)值。本發(fā)明通過利用雙重注意力機(jī)制,針對(duì)隨時(shí)間變化的重要空間位置和特征利用算法建模,無需預(yù)分析數(shù)據(jù)的優(yōu)勢(shì),提高多個(gè)時(shí)空?qǐng)鼍跋碌念A(yù)測(cè)準(zhǔn)確性、可解釋性和泛化能力。
本發(fā)明授權(quán)一種基于雙重注意力機(jī)制的建模方法在權(quán)利要求書中公布了:1.一種基于雙重注意力機(jī)制的建模方法,其特征在于, 模型架構(gòu)在水文模擬中的應(yīng)用處理各種網(wǎng)格化格點(diǎn)化的陸地表面數(shù)據(jù),包括輻射、蒸發(fā)、徑流、溫度、積雪深度變量; a將四維張量作為輸入數(shù)據(jù); 通過DepthwiseConvLSTM2D層處理陸地表面數(shù)據(jù),能夠捕捉輸入數(shù)據(jù)中的空間和時(shí)間依賴關(guān)系,通過融合雙重注意力機(jī)制來增強(qiáng)性能; b通過深度卷積長(zhǎng)短期記憶網(wǎng)絡(luò)提取所述輸入數(shù)據(jù)的時(shí)空特征,對(duì)輸入的每個(gè)特征通道分別應(yīng)用ConvLSTM2D層,并在特征維度上進(jìn)行拼接; TimeDistributedSpatialAttention層能夠識(shí)別在每個(gè)時(shí)間步中,網(wǎng)格中哪些空間位置具有重要影響;輸出加權(quán)后的空間數(shù)據(jù)以及相應(yīng)的注意力權(quán)重,使模型能夠?qū)W⒂谧钕嚓P(guān)的區(qū)域;FeatureWiseAttention層幫助識(shí)別每個(gè)環(huán)境特征,包括溫度、降水量或積雪深度在時(shí)間上的重要性; c將時(shí)間分布的空間注意力和特征注意力集成到深度學(xué)習(xí)框架,所述時(shí)間分布的空間注意力通過對(duì)輸入數(shù)據(jù)在時(shí)間維度上使用時(shí)間分布包裝的二維卷積層計(jì)算空間注意力權(quán)重,所述特征注意力機(jī)制通過對(duì)輸入數(shù)據(jù)在時(shí)間維度上使用時(shí)間分布包裝的二維卷積層計(jì)算特征注意力權(quán)重; d通過時(shí)間分布的Flatten層將每個(gè)時(shí)間步的空間特征展開為一維向量; e將所述一維向量應(yīng)用全局平均池化層在時(shí)間維度上對(duì)特征進(jìn)行聚合; f通過輸出層預(yù)測(cè)目標(biāo)值; 所述空間注意力權(quán)重通過對(duì)每個(gè)時(shí)間步的輸入數(shù)據(jù)進(jìn)行卷積操作并應(yīng)用sigmoid激活函數(shù)計(jì)算得到,計(jì)算空間注意力權(quán)重的公式為: 其中,Conv2D為二維卷積操作,填充方式為"same",σ為sigmoid激活函數(shù),為時(shí)間步數(shù)t的輸入; 所述特征注意力權(quán)重通過對(duì)每個(gè)時(shí)間步的輸入數(shù)據(jù)進(jìn)行1×1卷積操作并應(yīng)用softmax激活函數(shù)計(jì)算得到,其中,計(jì)算特征注意力權(quán)重的公式為: 其中,e為自然常數(shù),表示softmax的輸入值,求和操作在每個(gè)空間位置i,j的所有通道C上進(jìn)行,確保在每個(gè)空間位置i,j上,所有特征的注意力權(quán)重之和為1: 即softmax函數(shù)沿通道維度k進(jìn)行歸一化,這意味著確保了在某一時(shí)間步t和空間位置i,j上,所有特征通道的注意力權(quán)重分布按比例分布的; 所述全局平均池化層在時(shí)間維度上對(duì)特征進(jìn)行聚合實(shí)現(xiàn)公式為: 模型的訓(xùn)練過程使用均方誤差作為損失函數(shù),并使用自適應(yīng)矩估計(jì)優(yōu)化器進(jìn)行優(yōu)化; 損失函數(shù)如下: 其中,N為樣本數(shù)量,y為真實(shí)值,為預(yù)測(cè)值; 模型的輸出包括三個(gè)部分:水文預(yù)測(cè)結(jié)果、空間注意力權(quán)重和特征注意力權(quán)重。
如需購(gòu)買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請(qǐng)人或?qū)@麢?quán)人夏萃慧,其通訊地址為:100000 北京市朝陽區(qū)林萃路16號(hào)院3號(hào);或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報(bào)告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報(bào)告中的分析和結(jié)論僅反映本公司于發(fā)布本報(bào)告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 昆山丘鈦光電科技有限公司陳功獲國(guó)家專利權(quán)
- 亞馬遜技術(shù)公司丹尼爾·肯尼斯·邦尼獲國(guó)家專利權(quán)
- 金紅葉紙業(yè)集團(tuán)有限公司朱記蓮獲國(guó)家專利權(quán)
- 惠普發(fā)展公司,有限責(zé)任合伙企業(yè)馮康寧獲國(guó)家專利權(quán)
- 恩智浦有限公司美拉尼·菲利普獲國(guó)家專利權(quán)
- 朗姆研究公司馬修·斯科特·韋默獲國(guó)家專利權(quán)
- 無錫市錫山江海機(jī)械制造有限公司邱建學(xué)獲國(guó)家專利權(quán)
- 深圳前海微眾銀行股份有限公司符修亮獲國(guó)家專利權(quán)
- 中國(guó)石油化工股份有限公司邵明波獲國(guó)家專利權(quán)
- 珠海巧力林業(yè)機(jī)械科技有限公司姜春林獲國(guó)家專利權(quán)


熱門推薦
- 愛德華茲生命科學(xué)公司A·霍蘭德獲國(guó)家專利權(quán)
- 廣東優(yōu)特云科技有限公司金述強(qiáng)獲國(guó)家專利權(quán)
- 三星電子株式會(huì)社林福萬獲國(guó)家專利權(quán)
- 騰訊科技(深圳)有限公司劉孟洋獲國(guó)家專利權(quán)
- 高通股份有限公司M·卡切維奇獲國(guó)家專利權(quán)
- 中國(guó)石油化工股份有限公司邵明波獲國(guó)家專利權(quán)
- 深圳邁瑞生物醫(yī)療電子股份有限公司溫博獲國(guó)家專利權(quán)
- 中國(guó)科學(xué)技術(shù)大學(xué)張青川獲國(guó)家專利權(quán)
- 日本瑞翁株式會(huì)社菅原慎介獲國(guó)家專利權(quán)
- 長(zhǎng)江水利委員會(huì)水文局長(zhǎng)江上游水文水資源勘測(cè)局張尚權(quán)獲國(guó)家專利權(quán)