普強時代(珠海橫琴)信息技術有限公司司玉景獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉普強時代(珠海橫琴)信息技術有限公司申請的專利一種加速AI大模型輸出函數調用的方法及裝置獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN118485147B 。
龍圖騰網通過國家知識產權局官網在2025-08-26發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202410603213.7,技術領域涉及:G06N5/04;該發明授權一種加速AI大模型輸出函數調用的方法及裝置是由司玉景;李全忠;何國濤;蒲瑤設計研發完成,并于2024-05-15向國家知識產權局提交的專利申請。
本一種加速AI大模型輸出函數調用的方法及裝置在說明書摘要公布了:本發明提供一種加速AI大模型輸出函數調用的方法及裝置,方法包括:通過分析用戶上下文信息和當前輸入指令,快速識別并判定用戶指令中是否包含多個意圖;將包含多意圖的指令分解為多個單意圖句子,判斷單意圖句子之間是否具有依賴關系;將單意圖句子輸入AI大模型處理,如單意圖句子不存在依賴關系,則AI大模型并行處理,輸出每個單意圖指令需調用的函數和參數;如單意圖句子存在依賴關系,則AI大模型串行處理。本發明顯著提升AI大模型在處理包含多意圖指令時輸出函數調用速度,縮短用戶等待時間,顯著提高響應速度;提供更加流暢和高效的交互體驗,優化用戶整體體驗,在需快速響應和高效交互場景中增強AI大模型在實際應用中的實用性。
本發明授權一種加速AI大模型輸出函數調用的方法及裝置在權利要求書中公布了:1.一種加速AI大模型輸出函數調用的方法,其特征在于,包括以下步驟: S1、通過分析用戶上下文信息和當前輸入指令,快速識別并判定用戶指令中是否包含多個意圖; S2、將包含多個意圖的指令分解為多個單意圖句子,并且判斷單意圖句子之間是否具有依賴關系; S3、將分解后的單意圖句子輸入給AI大模型進行處理,如果單意圖句子不存在依賴關系,則AI大模型執行并行處理,輸出每個單意圖指令需要調用的函數和參數;如果分解后的單意圖句子存在依賴關系,則AI大模型執行串行處理; 所述S1步驟的快速識別并判定用戶指令中是否包含多個意圖的方法包括以下步驟: S11、從用戶的輸入中提取可能表明存在多個意圖的特征;所述存在多個意圖的特征包括:句子長度、語義復雜度、關鍵詞的數量和類型; S12、分析用戶輸入的上下文信息,所述上下文信息包括之前的對話歷史和相關情境信息;理解當前輸入在整個對話中的位置和角色,更準確地判斷是否存在多個意圖; S13、使用深度學習模型對用戶的輸入和上下文信息進行處理;所述深度學習模型通過學習大量的語言數據理解語言的復雜性和多樣性,并輸出是否存在多意圖的預測結果; 所述S2步驟的判斷單意圖句子之間是否具有依賴關系的依據包括以下任一種或多種的組合:邏輯順序、因果關系、數據依賴、條件依賴; 所述邏輯順序是指某些意圖可能在邏輯上需要按照特定的順序執行; 所述因果關系是指一個意圖的實現可能是另一個意圖實現的結果或后果; 所述數據依賴是指一個意圖可能需要另一個意圖提供的數據或信息; 所述條件依賴是指一個意圖的執行可能取決于另一個意圖的結果滿足特定條件。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人普強時代(珠海橫琴)信息技術有限公司,其通訊地址為:519000 廣東省珠海市橫琴新區環島東路1889號20棟110-116室;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。