谷歌有限責任公司沈卓然獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉谷歌有限責任公司申請的專利對依賴性建模的計算系統和方法以及介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN115885289B 。
龍圖騰網通過國家知識產權局官網在2025-09-12發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202080102596.X,技術領域涉及:G06N3/045;該發明授權對依賴性建模的計算系統和方法以及介質是由沈卓然;I.貝洛;賈旭輝;陳敬暉;R.韋穆拉帕利設計研發完成,并于2020-09-16向國家知識產權局提交的專利申請。
本對依賴性建模的計算系統和方法以及介質在說明書摘要公布了:本公開提供了用于使用具有并行操作的內容注意力層和位置注意力層的全局自注意力模型來貫穿網絡對依賴性進行建模的系統、方法和計算機程序產品。該模型接收包括內容值和上下文位置的輸入數據。內容注意力層基于獨立于上下文位置應用于內容值的全局注意力操作,針對每個上下文位置生成一個或多個輸出特征。位置注意力層基于相應上下文位置的一個或多個內容值和相關聯的相鄰位置,針對上下文位置中的每個上下文位置生成注意力圖。輸出是基于由內容注意力層生成的輸出特征和由位置注意力層針對每個上下文位置生成的注意力圖來確定的。該模型提高了效率,并且可以貫穿深度網絡使用。
本發明授權對依賴性建模的計算系統和方法以及介質在權利要求書中公布了:1.一種用于使用全局自注意力對依賴性執行建模的計算系統,包括: 一個或多個處理器;以及 一個或多個非暫時性計算機可讀介質,其共同存儲: 機器學習模型,被配置為接收模型輸入并且處理所述模型輸入以生成模型輸出,其中,所述機器學習模型包括被配置為彼此并行操作的內容注意力層和位置注意力層,并且其中,所述機器學習模型被配置為執行操作,所述操作包括: 接收包括輸入數據的層輸入,所述輸入數據包括多個內容值,每個內容值與一個或多個上下文位置相關聯,以及其中,所述輸入數據包括圖像數據、視頻數據、傳感器數據、音頻數據或文本數據中的至少一個; 由所述內容注意力層基于獨立于所述上下文位置應用于所述內容值的全局注意力操作,針對每個上下文位置生成一個或多個輸出特征; 由所述位置注意力層基于與相應上下文位置相關聯的一個或多個內容值和相對于所述相應上下文位置的上下文位置的鄰域,針對所述上下文位置中的每個上下文位置生成注意力圖,所述位置注意力層至少包括注意沿著每個相應上下文位置的列的上下文位置的列關注注意力子層和注意沿著每個相應上下文位置的行的上下文位置的行關注注意力子層;以及 至少部分地基于由所述內容注意力層生成的針對每個上下文位置的一個或多個輸出特征和由所述位置注意力層針對每個上下文位置生成的注意力圖來確定層輸出。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人谷歌有限責任公司,其通訊地址為:美國加利福尼亞州;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。