大連理工大學范劍超獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉大連理工大學申請的專利一種輕量化白盒Transformer的可逆自解釋性語義分割網(wǎng)絡的構建方法獲國家發(fā)明授權專利權,本發(fā)明授權專利權由國家知識產權局授予,授權公告號為:CN120451563B 。
龍圖騰網(wǎng)通過國家知識產權局官網(wǎng)在2025-09-02發(fā)布的發(fā)明授權授權公告中獲悉:該發(fā)明授權的專利申請?zhí)?專利號為:202510935229.2,技術領域涉及:G06V10/26;該發(fā)明授權一種輕量化白盒Transformer的可逆自解釋性語義分割網(wǎng)絡的構建方法是由范劍超;隋子泰;謝宇嘉;周輝;王心哲;何俊林;李萌萌;趙益智;王平卓設計研發(fā)完成,并于2025-07-08向國家知識產權局提交的專利申請。
本一種輕量化白盒Transformer的可逆自解釋性語義分割網(wǎng)絡的構建方法在說明書摘要公布了:一種輕量化白盒Transformer的可逆自解釋性語義分割網(wǎng)絡的構建方法,屬于人工智能技術領域。首先,利用特征壓縮和稀疏化理論推導得到一個核心目標函數(shù)。其次,對核心目標函數(shù)進行推理,得到正向輕量化白盒Transformer模塊,包含白盒注意力結構和稀疏優(yōu)化過程。再次,利用歐拉離散化方法求解核心目標函數(shù)的常微分方程,得到逆向輕量化白盒Transformer模塊。最后,利用維度和數(shù)量均相同的EWTBlock模塊、EWTBlock?1模塊,分別作為輕量化白盒Transformer的可逆自解釋性語義分割網(wǎng)絡的編碼器和解碼器,輸出目標的語義分割。本發(fā)明能夠解決傳統(tǒng)網(wǎng)絡結構和模塊不具備可解釋性以及Transformer參數(shù)量大,計算復雜等問題,能夠實現(xiàn)全局可解釋性建模和網(wǎng)絡輕量化設計。
本發(fā)明授權一種輕量化白盒Transformer的可逆自解釋性語義分割網(wǎng)絡的構建方法在權利要求書中公布了:1.一種輕量化白盒Transformer的可逆自解釋性語義分割網(wǎng)絡的構建方法,其特征在于,所述構建方法具體為: 第一步,利用特征壓縮和稀疏化理論推導得到一個核心目標函數(shù); 第二步,對核心目標函數(shù)進行推理,得到正向輕量化白盒Transformer模塊,并將正向輕量化白盒Transformer模塊定義為EWTBlock模塊,所述EWTBlock模塊包含兩個部分:白盒注意力結構和稀疏優(yōu)化過程; 第三步,所述EWTBlock模塊具有可逆性,利用歐拉離散化方法求解核心目標函數(shù)的常微分方程,得到逆向輕量化白盒Transformer模塊,將其定義為EWTBlock-1模塊,EWTBlock-1模塊通過重建深度壓縮的特征細節(jié)信息; 第四步,利用維度和數(shù)量均相同的EWTBlock模塊、EWTBlock-1模塊,分別作為輕量化白盒Transformer的可逆自解釋性語義分割網(wǎng)絡的編碼器和解碼器,輸出目標的語義分割,完成輕量化白盒Transformer的可逆自解釋性語義分割網(wǎng)絡的搭建; 所述第一步具體為: 步驟1.1,使用塊裁剪策略將輸入圖像I剪裁成特征集,并對特征集中蘊含的編碼率進行估計得到;同時將特征集進行條件約束分組劃分,估計劃分后的特征集的編碼率;特征集中編碼率與劃分后的特征集的編碼率之差,作為神經網(wǎng)絡中的信息增益的具體體現(xiàn),如公式(1)、(2)、(3)所示: (1); (2); (3); 其中:是特征集的編碼率的估計;是在條件約束分組下對特征集的編碼率的估計;是條件約束分組;和是常數(shù);表示對特征集在條件約束分組后得到的不同子集的數(shù)量;為其中包含的常數(shù),且滿足;是矩陣行列式的對數(shù);表示單位矩陣; 步驟1.2,特征集隨機分解為標記特征,每個標記特征都蘊含著特征集豐富的局部語義信息;使用子空間對標記特征進行非線性變換,得到每個標記特征的子空間投影,如公式(4)所示: (4); 其中:表示標記特征在子空間中的投影特征;表示特征集被隨機分解為標記特征的個數(shù)位置信息,表示子空間的轉置;的編碼率的估計,如公式(5)所示: (5); 其中:表示一個常數(shù);表示的編碼率的估計; 步驟1.3,將標記特征在子空間中的投影特征的編碼率進行聚合和累加,估計整個特征集的編碼率,如公式(6)所示: (6); 其中:表示子空間的總數(shù)量;q表示子空間個數(shù)位置信息,;表示標記特征; 由于是在特征集的子空間條件下定義的,因此,特征集的編碼率之差目標函數(shù)表示,如公式(7)所示: (7); 其中:表示特征集的編碼率之差目標函數(shù); 根據(jù)公式(7),通過最大化特征集的編碼率之差目標函數(shù),以獲得更加壓縮和簡化的特征表示; 步驟1.4,在最大化特征集的編碼率之差目標函數(shù)的過程中,特征集的稀疏性保持不變;將最大化特征集的編碼率之差目標函數(shù)和稀疏性F1范數(shù)合并為一個核心目標函數(shù),如公式(8)所示: (8); 其中:為常數(shù);表示特征集在核心目標函數(shù)優(yōu)化的期望;是F范數(shù),用于約束特征集的稀疏性。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯(lián)系本專利的申請人或專利權人大連理工大學,其通訊地址為:116024 遼寧省大連市甘井子區(qū)凌工路2號;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發(fā)布本報告當日的職業(yè)理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據(jù)或者憑證。