廣東工業(yè)大學(xué);中山市中醫(yī)院吳菊華獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉廣東工業(yè)大學(xué);中山市中醫(yī)院申請的專利一種基于知識增強與推理優(yōu)化的醫(yī)學(xué)問答方法及系統(tǒng)獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN120104733B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-09-09發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202510153096.3,技術(shù)領(lǐng)域涉及:G06F16/3329;該發(fā)明授權(quán)一種基于知識增強與推理優(yōu)化的醫(yī)學(xué)問答方法及系統(tǒng)是由吳菊華;李慶;林凱旋;洪慧斯;陳文戈;陶雷設(shè)計研發(fā)完成,并于2025-02-12向國家知識產(chǎn)權(quán)局提交的專利申請。
本一種基于知識增強與推理優(yōu)化的醫(yī)學(xué)問答方法及系統(tǒng)在說明書摘要公布了:本發(fā)明提出一種基于知識增強與推理優(yōu)化的醫(yī)學(xué)問答方法及系統(tǒng),涉及人工智能與醫(yī)學(xué)信息處理的技術(shù)領(lǐng)域,方法包括獲取醫(yī)學(xué)語料庫,對醫(yī)學(xué)語料庫進行預(yù)處理,得到預(yù)處理后的醫(yī)學(xué)語料庫;利用預(yù)處理后的醫(yī)學(xué)語料庫對預(yù)設(shè)的語言模型進行訓(xùn)練,得到用于輸出語義向量的醫(yī)學(xué)問答初始模型;利用預(yù)設(shè)的知識圖譜生成知識嵌入向量,將知識嵌入向量與語義向量融合,得到融合向量;將融合向量作為醫(yī)學(xué)問答初始模型的輸入,對醫(yī)學(xué)問答初始模型進行微調(diào),得到微調(diào)模型;對微調(diào)模型進行推理優(yōu)化,得到訓(xùn)練好的醫(yī)學(xué)問答模型;將待處理的醫(yī)學(xué)問題輸入醫(yī)學(xué)問答模型,輸出答案預(yù)測結(jié)果。本發(fā)明能夠有效提高醫(yī)學(xué)問答效率、準確性和可靠性。
本發(fā)明授權(quán)一種基于知識增強與推理優(yōu)化的醫(yī)學(xué)問答方法及系統(tǒng)在權(quán)利要求書中公布了:1.一種基于知識增強與推理優(yōu)化的醫(yī)學(xué)問答方法,其特征在于,包括以下步驟: S1.獲取醫(yī)學(xué)語料庫,對所述醫(yī)學(xué)語料庫進行預(yù)處理,得到預(yù)處理后的醫(yī)學(xué)語料庫; S2.利用預(yù)處理后的醫(yī)學(xué)語料庫對預(yù)設(shè)的語言模型進行訓(xùn)練,得到用于輸出語義向量的醫(yī)學(xué)問答初始模型; S3.利用預(yù)設(shè)的知識圖譜生成知識嵌入向量,將所述知識嵌入向量與所述語義向量融合,得到融合向量; S4.將所述融合向量作為所述醫(yī)學(xué)問答初始模型的輸入,對所述醫(yī)學(xué)問答初始模型進行微調(diào),得到微調(diào)模型; S5.對所述微調(diào)模型進行推理優(yōu)化,得到訓(xùn)練好的醫(yī)學(xué)問答模型; S6.將待處理的醫(yī)學(xué)問題輸入所述醫(yī)學(xué)問答模型,輸出答案預(yù)測結(jié)果; 所述語言模型包括輸入層、Transformer編碼層和輸出層,所述輸入層連接Transformer編碼層的輸入端,Transformer編碼層的輸出端連接所述輸出層,所述輸入層將所述輸入序列表示為嵌入矩陣輸入至所述Transformer編碼層,所述Transformer編碼層包括多層Transformer編碼器,每一層Transformer編碼器利用多頭自注意力機制和前饋神經(jīng)網(wǎng)絡(luò)對所述嵌入矩陣進行編碼,得到編碼輸出結(jié)果; 利用第一訓(xùn)練總損失函數(shù)對所述語言模型進行訓(xùn)練,所述第一訓(xùn)練總損失函數(shù)的計算表達式為: 其中,為用于控制掩碼語言模型任務(wù)權(quán)重的超參數(shù),為用于控制下一句預(yù)測任務(wù)權(quán)重的超參數(shù);為訓(xùn)練掩碼語言模型任務(wù)的損失函數(shù),為訓(xùn)練下一句預(yù)測任務(wù)的損失函數(shù); 利用第二訓(xùn)練總損失函數(shù)對所述醫(yī)學(xué)問答初始模型進行微調(diào),所述第二訓(xùn)練總損失函數(shù)的計算表達式如下: 其中,為回答生成的優(yōu)化目標損失函數(shù),為語義損失函數(shù); 所述優(yōu)化目標損失函數(shù)的計算表達式如下: 其中,(.)為概率分布函數(shù),為生成的真實答案詞的總數(shù),為第個樣本中第個生成的真實答案詞,為第個樣本中的歷史生成序列,為第個醫(yī)學(xué)問題的輸入序列,為模型參數(shù); 所述語義損失函數(shù)的計算表達式如下: 其中,為答案語義嵌入函數(shù),為樣本總數(shù),為問題對應(yīng)的真實答案,為微調(diào)模型生成的答案,.表示向量的范數(shù)。
如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人廣東工業(yè)大學(xué);中山市中醫(yī)院,其通訊地址為:510080 廣東省廣州市越秀區(qū)東風東路729號;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準確性。
2、報告中的分析和結(jié)論僅反映本公司于發(fā)布本報告當日的職業(yè)理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據(jù)或者憑證。
- 深圳市科蘭德實業(yè)發(fā)展有限公司陳克堅獲國家專利權(quán)
- 北京智啟藍墨信息技術(shù)有限公司靳新獲國家專利權(quán)
- 中國電力科學(xué)研究院有限公司曲春輝獲國家專利權(quán)
- 上海松鼠課堂人工智能科技有限公司王鑫獲國家專利權(quán)
- 中國電力科學(xué)研究院有限公司金璐獲國家專利權(quán)
- 中興通訊股份有限公司周虹獲國家專利權(quán)
- 嘉興捷順旅游制品有限公司張巨鴻獲國家專利權(quán)
- 朗姆研究公司巴斯卡爾·班達拉普獲國家專利權(quán)
- 北京百度網(wǎng)訊科技有限公司羅雪峰獲國家專利權(quán)
- 株式會社國際電氣竹田剛獲國家專利權(quán)