Invention Publication
CN114450681A 文档间注意力机制
审中-实审
- Patent Title: 文档间注意力机制
-
Application No.: CN202080067489.8Application Date: 2020-06-18
-
Publication No.: CN114450681APublication Date: 2022-05-06
- Inventor: 熊辰炎 , 赵晨 , C·L·罗赛特 , P·N·本内特 , 宋夏 , S·K·蒂瓦里
- Applicant: 微软技术许可有限责任公司
- Applicant Address: 美国华盛顿州
- Assignee: 微软技术许可有限责任公司
- Current Assignee: 微软技术许可有限责任公司
- Current Assignee Address: 美国华盛顿州
- Priority: 16/582,582 20190925 US
- International Application: PCT/US2020/038307 2020.06.18
- International Announcement: WO2021/061233 EN 2021.04.01
- Date entered country: 2022-03-24
- Main IPC: G06F16/903
- IPC: G06F16/903 ; G06F16/93 ; G06N3/04 ; G06N3/08 ; G06F16/901 ; G06F16/33 ; G06F16/31 ; G06N5/02
Abstract:
本文档涉及使用诸如神经网络的框架的自然语言处理。一个示例方法涉及获取第一文档和第二文档，并且将注意力从第一文档传播到第二文档。该示例方法还涉及至少基于该传播来产生第二文档中的单独单词的上下文化的语义表示。上下文化的语义表示可以提供用于执行一个或多个自然语言处理操作的基础。
Information query
