北京九章云極科技有限公司李明獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉北京九章云極科技有限公司申請的專利面向普惠算力智能計算中心的大模型分層緩存加載方法獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN120216463B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-09-09發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202510694269.2,技術(shù)領(lǐng)域涉及:G06F16/13;該發(fā)明授權(quán)面向普惠算力智能計算中心的大模型分層緩存加載方法是由李明設(shè)計研發(fā)完成,并于2025-05-27向國家知識產(chǎn)權(quán)局提交的專利申請。
本面向普惠算力智能計算中心的大模型分層緩存加載方法在說明書摘要公布了:本發(fā)明提供一種面向普惠算力智能計算中心的大模型分層緩存加載方法,涉及智能計算中心、智算中心及算力基礎(chǔ)設(shè)施技術(shù)領(lǐng)域,方法包括:步驟S1:統(tǒng)計存儲在遠程數(shù)據(jù)庫中的模型分層的使用次數(shù),模型分層由大模型拆解得到;步驟S2:當模型分層的使用次數(shù)超過第一預(yù)設(shè)閾值,將模型分層從遠程數(shù)據(jù)庫復制到本地第一存儲設(shè)備;步驟S3:當模型分層的使用次數(shù)超過第二預(yù)設(shè)閾值,判斷模型分層是公共模型分層還是私有模型分層,若模型分層為公共模型分層,將模型分層從第一存儲設(shè)備移動至本地第二存儲設(shè)備,第二預(yù)設(shè)閾值大于第一預(yù)設(shè)閾值,第二存儲設(shè)備的存取速度高于第一存儲設(shè)備的存取速度。本發(fā)明能夠節(jié)省大模型加載使用的網(wǎng)絡(luò)流量及提高加載速度。
本發(fā)明授權(quán)面向普惠算力智能計算中心的大模型分層緩存加載方法在權(quán)利要求書中公布了:1.一種面向普惠算力智能計算中心的大模型分層緩存加載方法,其特征在于,包括: 步驟S1:實時統(tǒng)計存儲在遠程數(shù)據(jù)庫中的模型分層的使用次數(shù),其中,所述模型分層由大模型拆解得到,每個被存儲到所述遠程數(shù)據(jù)庫中的所述大模型均被拆解成多個所述模型分層進行存儲; 步驟S2:當所述模型分層的使用次數(shù)超過第一預(yù)設(shè)閾值,將所述模型分層從所述遠程數(shù)據(jù)庫復制到本地算力節(jié)點的第一存儲設(shè)備; 步驟S3:當所述模型分層的使用次數(shù)超過第二預(yù)設(shè)閾值,判斷所述模型分層是公共模型分層還是私有模型分層,若所述模型分層為公共模型分層,將所述模型分層從所述第一存儲設(shè)備移動至本地算力節(jié)點的第二存儲設(shè)備,其中,所述第二預(yù)設(shè)閾值大于所述第一預(yù)設(shè)閾值,所述第二存儲設(shè)備的存取速度高于所述第一存儲設(shè)備的存取速度,所述公共模型分層是指由多個租戶共享的模型分層,所述私有模型分層是指僅屬于一個所述租戶的模型分層。
如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人北京九章云極科技有限公司,其通訊地址為:100085 北京市海淀區(qū)小營西路10號院1號樓和盈中心C座6層及8層;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準確性。
2、報告中的分析和結(jié)論僅反映本公司于發(fā)布本報告當日的職業(yè)理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據(jù)或者憑證。
- SK電信有限公司李善英獲國家專利權(quán)
- 英特爾公司陳理獲國家專利權(quán)
- 青島經(jīng)濟技術(shù)開發(fā)區(qū)海爾熱水器有限公司盛保敬獲國家專利權(quán)
- 珠海格力電器股份有限公司劉華獲國家專利權(quán)
- 株式會社NTT都科摩松村祐輝獲國家專利權(quán)
- 上海鈞正網(wǎng)絡(luò)科技有限公司楊磊獲國家專利權(quán)
- 東莞市朋志生物科技有限公司崔鵬獲國家專利權(quán)
- 福特全球技術(shù)公司梁峰獲國家專利權(quán)
- 中核新科(天津)精密機械制造有限公司齊鐵城獲國家專利權(quán)
- 雅馬哈株式會社五藤三貴獲國家專利權(quán)