北京科杰科技有限公司高經郡獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉北京科杰科技有限公司申請的專利基于Flink的非結構化數據同步方法及系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120407294B 。
龍圖騰網通過國家知識產權局官網在2025-09-16發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510907246.5,技術領域涉及:G06F11/14;該發明授權基于Flink的非結構化數據同步方法及系統是由高經郡;周波設計研發完成,并于2025-07-02向國家知識產權局提交的專利申請。
本基于Flink的非結構化數據同步方法及系統在說明書摘要公布了:本發明提供一種基于Flink的非結構化數據同步方法及系統,涉及大數據處理技術領域,包括:對非結構化數據分片處理,基于訪問特征評分實現數據在堆內存層和RocksDB層的分層存儲,結合深度強化學習進行數據分區優化,并通過計算反壓指標值動態調整并行度參數和資源配額,采用檢查點快照機制保證數據同步可靠性,有效提高了數據處理效率和系統吞吐量。
本發明授權基于Flink的非結構化數據同步方法及系統在權利要求書中公布了:1.基于Flink的非結構化數據同步方法,其特征在于,包括: 獲取待處理的非結構化數據的存儲路徑并對非結構化數據進行分片處理,得到分片數據塊; 基于所述分片數據塊的訪問時間間隔和訪問次數計算特征評分并生成特征評分表,將特征評分大于第一閾值的分片數據塊寫入堆內存層,其他分片數據塊寫入RocksDB層,將堆內存層中的分片數據塊劃分為多個數據分區并生成初始數據分區表,采集數據訪問時延并結合深度強化學習計算時延預測值,執行梯度迭代生成第一優化閾值并觸發數據遷移得到數據分區表; 根據預設緩沖區大小,基于數據分區表讀取非結構化數據并將讀取得到的非結構化數據構造為元數據區和數據載荷區的二進制數據; 計算所述二進制數據的數據量與處理時限比值作為處理負載系數并劃分微批次,計算數據處理速率與積壓數據量的比值作為反壓指標值,當所述反壓指標值超過預先設置的第二閾值時,執行群體迭代運算得到最大吞吐量對應的并行度參數和資源配額并更新至處理算子,根據加權輪詢分配執行時間片,生成微批次調度序列并對所述微批次執行數據處理; 保存檢查點快照,發生故障時根據檢查點快照恢復數據同步狀態。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人北京科杰科技有限公司,其通訊地址為:100096 北京市海淀區東升科技園北街6號院10號樓11層101;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。