蘇州元腦智能科技有限公司張會朋獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉蘇州元腦智能科技有限公司申請的專利預訓練模型的推理加速方法、裝置、介質、產品及系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120408126B 。
龍圖騰網通過國家知識產權局官網在2025-09-16發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510895972.X,技術領域涉及:G06F18/211;該發明授權預訓練模型的推理加速方法、裝置、介質、產品及系統是由張會朋設計研發完成,并于2025-06-30向國家知識產權局提交的專利申請。
本預訓練模型的推理加速方法、裝置、介質、產品及系統在說明書摘要公布了:本申請公開了一種預訓練模型的推理加速方法、裝置、介質、產品及系統,涉及預訓練模型的推理技術領域,該方法從輸入文本中提取不同層次的語義特征,確保了模型能夠捕獲詞匯、語法、上下文以及長期依賴等多方面的信息,這有助于提高模型的表達能力和泛化能力,基于融合特征的重要程度確定多個融合特征的重要融合特征和非重要融合特征,對非重要融合特征進行裁剪,得到裁剪后的融合特征,以裁剪掉那些對最終結果影響較小的非重要融合特征,因此,解決了現有方案對預訓練模型的推理速度的加速手段難以達到預期的效果的問題。
本發明授權預訓練模型的推理加速方法、裝置、介質、產品及系統在權利要求書中公布了:1.一種預訓練模型的推理加速方法,其特征在于,包括: 獲取自然語言文本,從所述自然語言文本中提取不同層次的語義特征; 對不同層次的所述語義特征進行特征融合,得到多個融合特征; 基于所述融合特征的重要程度確定所述多個融合特征的重要融合特征和非重要融合特征,所述重要程度表征對預訓練模型的輸出結果的影響程度; 對所述非重要融合特征進行裁剪,得到裁剪后的融合特征,將所述裁剪后的融合特征和所述重要融合特征應用于所述預訓練模型的推理; 對不同層次的語義特征進行特征融合,得到多個融合特征,包括:在目標鍵值對的類型為非線性的情況下,通過反向傳播模型的梯度,調整每個所述語義特征的權重,得到每個所述語義特征的調整后的權重;采用投票機制,確定特征融合關系,所述特征融合關系表征需要與各所述語義特征需要進行特征融合的其他語義特征;基于所述調整后的權重和所述特征融合關系,對不同層次的語義特征進行加權求和處理,得到多個所述融合特征; 所述預訓練模型的不同層或不同模塊會捕獲不同粒度的語義信息:底層特征:詞性、基本短語結構、局部詞義;中層特征:句法關系、句子級語義、上下文相關詞義;高層特征:段落篇章級語義、主旨、情感、意圖。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人蘇州元腦智能科技有限公司,其通訊地址為:215000 江蘇省蘇州市吳中經濟開發區綜保區經一路1號8幢;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。