浙江大學池志豪獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉浙江大學申請的專利一種基于模型輸出差值矩陣知識蒸餾的圖像分類方法及裝置獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN117237709B 。
龍圖騰網通過國家知識產權局官網在2025-08-29發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202311150654.8,技術領域涉及:G06V10/764;該發明授權一種基于模型輸出差值矩陣知識蒸餾的圖像分類方法及裝置是由池志豪;王聞簫;蔡登設計研發完成,并于2023-09-07向國家知識產權局提交的專利申請。
本一種基于模型輸出差值矩陣知識蒸餾的圖像分類方法及裝置在說明書摘要公布了:本發明公開了一種基于模型輸出差值矩陣知識蒸餾的圖像分類方法及裝置,包括:1將訓練集圖片分別輸入待訓練的學生模型和已訓練的教師模型,分別輸出對應的邏輯分類值;2分別計算每個邏輯分類值之間的兩兩差值,構建兩個差值矩陣;3計算兩個差值矩陣之間的區別度,作為蒸餾損失函數;4同時計算學生模型的邏輯分類值和圖片真實分類標簽的交叉熵,作為分類任務的損失函數,與蒸餾損失函數相加后得到訓練學生模型的最終損失函數;5向前傳遞梯度以更新學生模型的參數,教師模型的參數保持不變;6重復以上步驟進行訓練,并將訓練完畢的學生模型進行圖片分類。利用本發明,可以提高在圖片分類任務上進行知識蒸餾的效果。
本發明授權一種基于模型輸出差值矩陣知識蒸餾的圖像分類方法及裝置在權利要求書中公布了:1.一種基于模型輸出差值矩陣知識蒸餾的圖像分類方法,其特征在于,包括以下步驟: 1將訓練集圖片輸入到待訓練的學生模型中,圖片經過學生模型的中間層處理,通過學生模型的分類器輸出對應的邏輯分類值; 將相同的訓練集圖片輸入到已完成訓練的教師模型中,圖片經過教師模型的中間層處理,通過教師模型的分類器輸出對應的邏輯分類值; 2根據學生模型和教師模型輸出的邏輯分類值,分別計算每個邏輯分類值之間的兩兩差值,構建兩個差值矩陣; 3計算學生模型的差值矩陣和教師模型的差值矩陣之間的區別度,以此作為蒸餾損失函數; 4同時計算學生模型的邏輯分類值和圖片真實分類標簽的交叉熵,作為分類任務的交叉熵損失函數,將蒸餾損失函數與交叉熵損失函數按設定的比例相加后,作為訓練學生模型的最終損失函數; 5向前傳遞梯度以更新學生模型的參數,教師模型的參數保持不變; 6重復以上步驟1到步驟5,達到預設訓練次數后結束訓練,并將訓練完畢的學生模型進行圖片分類的應用。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人浙江大學,其通訊地址為:310058 浙江省杭州市西湖區余杭塘路866號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。