上海壁仞科技股份有限公司請求不公布姓名獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉上海壁仞科技股份有限公司申請的專利一種基于專家并行的張量確定方法、設備及存儲介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120278237B 。
龍圖騰網通過國家知識產權局官網在2025-08-26發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510765512.5,技術領域涉及:G06N3/098;該發明授權一種基于專家并行的張量確定方法、設備及存儲介質是由請求不公布姓名設計研發完成,并于2025-06-09向國家知識產權局提交的專利申請。
本一種基于專家并行的張量確定方法、設備及存儲介質在說明書摘要公布了:本申請實施例提供了一種基于專家并行的張量確定方法、設備及存儲介質,涉及人工智能芯片技術領域,該方法包括:在輸入張量的隱藏層維度,將輸入張量拆分為N個子張量;將N個子張量分配到N個計算單元各自部署的專家子網絡并行計算。由于每個專家子網絡是通過相應的第一權重參數對分配的子張量進行計算,因此,專家子網絡的第一權重參數與分配的子張量在形狀上是需要適配的;基于此,針對第一權重參數中與子張量的隱藏層維度關聯的目標維度,將該目標維度的長度設置為子張量的隱藏層維度的長度,這樣減小了第一權重參數在目標維度的長度,即減少專家子網絡的權重參數本身需要占用的顯存空間,從而降低顯存的存儲壓力。
本發明授權一種基于專家并行的張量確定方法、設備及存儲介質在權利要求書中公布了:1.一種基于專家并行的張量確定方法,其特征在于,包括: 在輸入張量的隱藏層維度,將所述輸入張量拆分為N個子張量,N大于1;所述輸入張量為以下任意一項:文本數據、語音數據、圖像數據; 將所述N個子張量分配到N個計算單元各自部署的專家子網絡;每個所述專家子網絡包含相應的第一權重參數,每個所述第一權重參數的形狀包含與所述隱藏層維度關聯的目標維度;每個所述專家子網絡分配的子張量在所述隱藏層維度的長度,與每個所述專家子網絡的第一權重參數在所述目標維度的長度相等; 通過N個專家子網絡,基于各自的第一權重參數并行對所述N個子張量進行計算,獲得相應的子計算結果; 基于獲得的N個子計算結果,獲得輸出張量; 在模型訓練過程中,通過負載均衡損失更新每個專家子網絡的第一權重參數在目標維度的長度,直到任意兩個專家子網絡的第一權重參數在目標維度的長度的差值在預設閾值內。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人上海壁仞科技股份有限公司,其通訊地址為:201114 上海市閔行區陳行公路2388號16幢13層1302室;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。