買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網獲悉北京百度網訊科技有限公司申請的專利解碼加速方法、裝置、設備、計算機可讀存儲介質及產品獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN119761307B 。

龍圖騰網通過國家知識產權局官網在2025-09-26發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202411886943.9，技術領域涉及：G06F40/126；該發明授權解碼加速方法、裝置、設備、計算機可讀存儲介質及產品是由邱訥敏;李明昊;周兆京;王豪爽;黨青青;沙燕霖;于佃海;馬艷軍設計研發完成，并于2024-12-19向國家知識產權局提交的專利申請。

本解碼加速方法、裝置、設備、計算機可讀存儲介質及產品在說明書摘要公布了：本公開提供了解碼加速方法、裝置、設備、計算機可讀存儲介質及產品，涉及人工智能領域，尤其涉及深度學習領域。具體實現方案為：獲取終端設備發送的待預測文本；將待預測文本輸入至大語言模型中預設的編碼層，獲得編碼層輸出的待預測文本對應的第一隱藏狀態；通過大語言模型中的語言模型頭以及預設的多頭模型基于第一隱藏狀態進行解碼操作，生成多個預測文本，多頭模型中包括多個解碼模塊，解碼模塊包括多層感知機以及語言模型頭，多個解碼模塊復用語言模型頭；基于大語言模型對多個預測文本進行驗證操作，將驗證通過的多個目標預測文本發送至終端設備。從而提高了大語言模型在解碼階段的速度，提高了大語言模型進行數據處理的效率。

本發明授權解碼加速方法、裝置、設備、計算機可讀存儲介質及產品在權利要求書中公布了：1.一種解碼加速方法，包括： 獲取終端設備發送的待預測文本； 將所述待預測文本輸入至大語言模型中預設的編碼層，獲得所述編碼層輸出的所述待預測文本對應的第一隱藏狀態； 通過大語言模型中的語言模型頭對所述第一隱藏狀態進行解碼操作，獲得首輪解碼獲得的第一預測文本； 通過預設的多頭模型中的多個解碼模塊依次基于上一輪解碼操作的預測文本以及所述第一隱藏狀態生成多個第二預測文本； 將所述第一預測文本以及所述多個第二預測文本確定為多個預測文本，所述多頭模型中包括多個解碼模塊，所述解碼模塊包括多層感知機以及語言模型頭，所述多個解碼模塊復用所述語言模型頭； 基于所述大語言模型對所述多個預測文本進行驗證操作，將驗證通過的多個目標預測文本發送至所述終端設備; 所述通過所述多頭模型中的多個解碼模塊依次基于上一輪解碼操作的預測文本以及所述第一隱藏狀態生成多個第二預測文本，包括： 獲取上一輪解碼操作生成的歷史預測文本，其中，所述歷史預測文本包括所述第一預測文本以及前一個解碼模塊生成的第二預測文本中的任意一個； 對所述歷史預測文本進行向量化操作，獲得所述歷史預測文本對應的向量信息； 將所述向量信息以及所述第一隱藏狀態輸入至所述多頭模型中的下一解碼模塊內，獲得所述下一解碼模塊輸出的未歸一化預測值； 基于所述下一解碼模塊輸出的未歸一化預測值以及預設詞表確定所述下一解碼模塊預測得到的第二預測文本。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人北京百度網訊科技有限公司，其通訊地址為：100085 北京市海淀區上地十街10號百度大廈2層；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。