杭州君同未來科技有限責任公司韓蒙獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉杭州君同未來科技有限責任公司申請的專利基于隱藏狀態插值的大語言模型可用性增強方法和裝置獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120197613B 。
龍圖騰網通過國家知識產權局官網在2025-09-12發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510669778.X,技術領域涉及:G06F40/237;該發明授權基于隱藏狀態插值的大語言模型可用性增強方法和裝置是由韓蒙;邢文鵬;趙懿然;林昶廷;胡春強;喬通;張光欣設計研發完成,并于2025-05-23向國家知識產權局提交的專利申請。
本基于隱藏狀態插值的大語言模型可用性增強方法和裝置在說明書摘要公布了:本發明公開了一種基于隱藏狀態插值的大語言模型可用性增強方法和裝置,屬于大語言模型安全技術領域,具體包括:在大語言模型的問答生成過程中,通過對生成詞匯為拒絕詞匯或正常詞匯的判斷來啟動隱藏狀態修改和可用性增強輸出過程,在此過程中,通過基于梯度分析各層的隱藏狀態,并從隱藏狀態中篩選修改目標進行隱藏狀態插值,然后再重新計算詞元概率并進行詞元選擇,這樣可以確保生成內容保持流暢,同時最大程度減少拒絕,實現大語言模型可用性增強輸出。
本發明授權基于隱藏狀態插值的大語言模型可用性增強方法和裝置在權利要求書中公布了:1.一種基于隱藏狀態插值的大語言模型可用性增強方法,其特征在于,包括以下步驟: 對于大語言模型基于輸入查詢文本在問答生成過程中生成的每個詞元,檢測詞元為拒絕詞匯時啟動隱藏狀態修改和可用性增強輸出過程; 隱藏狀態修改和可用性增強輸出過程為:凍結大語言模型參數并基于梯度分析模型各層的隱藏狀態,篩選具有顯著梯度貢獻的最后一層隱藏狀態作為修改目標,對修改目標進行隱藏狀態插值后重新計算詞元概率并進行詞元選擇; 基于梯度分析模型各層的隱藏狀態,篩選具有顯著梯度貢獻的最后一層隱藏狀態作為修改目標,包括: 給定大語言模型在不同層的隱藏狀態: ; 其中表示第層的隱藏狀態,反向傳播計算各層隱藏狀態對拒絕詞概率的梯度: ; 依據每層對應的梯度,從具有顯著梯度貢獻的多層中選擇最后一層隱藏狀態作為修改目標,其中顯著梯度貢獻是指梯度值大于預設閾值; 對修改目標進行隱藏狀態插值,包括: 將輸入查詢文本分為有害查詢文本和無害查詢文本,將有害查詢文本的隱藏狀態與無害查詢文本的隱藏狀態按以下規則插值: ; 其中,表示位置i處的插值后隱藏狀態,表示有害查詢文本對應的位置處的隱藏狀態,表示無害查詢文本對應的位置i處的隱藏狀態,表示控制混合比例; 當選擇的詞元仍為拒絕詞匯時重復執行隱藏狀態修改和可用性增強輸出過程,當選擇的詞元為正向詞匯時,則更新詞元隊列并繼續進行大語言模型的問答生成。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人杭州君同未來科技有限責任公司,其通訊地址為:310053 浙江省杭州市濱江區浦沿街道東信大道66號6號樓310室;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。