買(mǎi)專(zhuān)利賣(mài)專(zhuān)利找龍圖騰，真高效！ 查專(zhuān)利查商標(biāo)用IPTOP,全免費(fèi)！專(zhuān)利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉先進(jìn)計(jì)算與關(guān)鍵軟件(信創(chuàng))海河實(shí)驗(yàn)室申請(qǐng)的專(zhuān)利一種主從核架構(gòu)下的從核內(nèi)存擴(kuò)展優(yōu)化方法獲國(guó)家發(fā)明授權(quán)專(zhuān)利權(quán)，本發(fā)明授權(quán)專(zhuān)利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予，授權(quán)公告號(hào)為：CN120295804B 。

龍圖騰網(wǎng)通過(guò)國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-09-16發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專(zhuān)利申請(qǐng)?zhí)?專(zhuān)利號(hào)為：202510788479.8，技術(shù)領(lǐng)域涉及：G06F9/50；該發(fā)明授權(quán)一種主從核架構(gòu)下的從核內(nèi)存擴(kuò)展優(yōu)化方法是由謝學(xué)說(shuō);王昊龍;王漢盟;李濤設(shè)計(jì)研發(fā)完成，并于2025-06-13向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專(zhuān)利申請(qǐng)。

本一種主從核架構(gòu)下的從核內(nèi)存擴(kuò)展優(yōu)化方法在說(shuō)明書(shū)摘要公布了：本發(fā)明涉及計(jì)算機(jī)技術(shù)領(lǐng)域，具體公開(kāi)了一種主從核架構(gòu)下的從核內(nèi)存擴(kuò)展優(yōu)化方法，包括：獲取需要在從核上運(yùn)行的模型，計(jì)算模型運(yùn)行時(shí)所需的總內(nèi)存；根據(jù)總內(nèi)存和從核可分配內(nèi)存的大小，從內(nèi)存空間中分配從核內(nèi)存；將模型的數(shù)據(jù)傳輸至從核內(nèi)存上；從核進(jìn)行模型推理計(jì)算。本發(fā)明在主從核架構(gòu)下調(diào)整了從核內(nèi)存分配布局，按需調(diào)整從核內(nèi)存大小，在模型運(yùn)行時(shí)按其所占內(nèi)存空間不同進(jìn)行循環(huán)分配，使其可以運(yùn)行不同大小的推理模型。

本發(fā)明授權(quán)一種主從核架構(gòu)下的從核內(nèi)存擴(kuò)展優(yōu)化方法在權(quán)利要求書(shū)中公布了：1.一種主從核架構(gòu)下的從核內(nèi)存擴(kuò)展優(yōu)化方法，其特征在于，包括： 獲取需要在從核上運(yùn)行的模型，計(jì)算模型運(yùn)行時(shí)所需的總內(nèi)存； 根據(jù)總內(nèi)存和從核可分配內(nèi)存的大小，從內(nèi)存空間中分配從核內(nèi)存； 將模型的數(shù)據(jù)傳輸至從核內(nèi)存上； 將模型的數(shù)據(jù)傳輸至從核內(nèi)存上時(shí)，根據(jù)數(shù)據(jù)的大小和管道大小，分配的緩沖區(qū)通道數(shù)量，然后傳輸所述數(shù)據(jù)； 預(yù)先分配的緩沖區(qū)通道以及緩沖區(qū)內(nèi)存； 當(dāng)數(shù)據(jù)大小小于等于管道大小時(shí)，直接傳輸所述數(shù)據(jù)； 當(dāng)數(shù)據(jù)大小大于管道大小時(shí)，回收預(yù)先分配的緩沖區(qū)通道以及緩沖區(qū)內(nèi)存，并計(jì)算數(shù)據(jù)大小與緩沖區(qū)內(nèi)存的大小的倍數(shù)；根據(jù)倍數(shù)分配緩沖區(qū)通道數(shù)量，傳輸所述數(shù)據(jù)； 若倍數(shù)大于等于1，則將緩沖區(qū)通道數(shù)量設(shè)置為1，通道大小設(shè)置為緩沖區(qū)內(nèi)存的大小，依次將數(shù)據(jù)傳輸，且對(duì)于最后一次傳輸?shù)臄?shù)據(jù)，將緩沖區(qū)通道數(shù)量設(shè)置為2，通道大小分別為最后一次傳輸?shù)臄?shù)據(jù)的大小和緩沖區(qū)所剩內(nèi)存大?。?若倍數(shù)小于1，則將緩沖區(qū)通道數(shù)量設(shè)置為2，通道大小分別為最后一次傳輸?shù)臄?shù)據(jù)的大小和緩沖區(qū)所剩內(nèi)存大??； 從核進(jìn)行模型推理計(jì)算。

如需購(gòu)買(mǎi)、轉(zhuǎn)讓、實(shí)施、許可或投資類(lèi)似專(zhuān)利技術(shù)，可聯(lián)系本專(zhuān)利的申請(qǐng)人或?qū)＠麢?quán)人先進(jìn)計(jì)算與關(guān)鍵軟件(信創(chuàng))海河實(shí)驗(yàn)室，其通訊地址為：300450 天津市濱海新區(qū)塘沽高新區(qū)科技展示中心三層；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。