首页> 中国专利> 自然语言处理模型训练方法和自然语言处理模型

自然语言处理模型训练方法和自然语言处理模型

页面导航

摘要
著录项
法律信息
相似文献

摘要

本发明公开一种自然语言处理模型训练方法，包括：将当前训练样本输入至输入层，以得到对应于当前训练样本的样本向量；LSTM神经网络对样本向量进行处理，以得到对应于当前训练样本的隐藏层输出；获取对应于当前训练样本的多个词义嵌入；输出层根据隐藏层输出和多个词义嵌入确定对应于每一个词义嵌入的权重值；根据多个词义嵌入和每一个词义嵌入的权重值确定对应于当前训练样本的消歧词嵌入；通过对消歧词嵌入和当前训练样本的真实词义嵌入进行最小化交叉熵处理，以完成对自然语言处理模型的训练。通过LSTM获取当前训练样本的上下文信息，从而能够基于LSTM的隐藏层输出确定出对应于当前训练样本的不同词义嵌入的各自的权重值，进而实现消歧的目的。

著录项

公开/公告号CN111062209A

专利类型发明专利
公开/公告日2020-04-24

原文格式PDF
申请/专利权人苏州思必驰信息科技有限公司;
展开▼

申请/专利号CN201911292065.7
发明设计人俞凯;马娆;金乐盛;刘奇;陈露;
展开▼

申请日2019-12-16
分类号
代理机构北京商专永信知识产权代理事务所(普通合伙);
代理人黄谦
地址 215123 江苏省苏州市苏州工业园区新平街388号腾飞创新园14栋
入库时间 2023-12-17 08:08:48

法律信息

法律状态公告日

法律状态信息

法律状态
2020-05-19

实质审查的生效 IPC(主分类):G06F40/289 申请日:20191216

实质审查的生效
2020-04-24

公开

公开

相似文献

专利
中文文献
外文文献

1. 自然语言处理模型训练方法和自然语言处理模型 [P] . 中国专利： CN111062209A . 2020-04-24
2. 训练自然语言处理模型和自然语言处理的方法、电子设备 [P] . 中国专利： CN113626563A . 2021-11-09
3. NATURAL LANGUAGE PROCESSING METHOD AND DEVICE, AND METHOD AND DEVICE OF LEARNING NATURAL LANGUAGE PROCESSING MODEL [P] . 日本专利： JP2018081298A . 2018-05-24

机译：自然语言处理方法和装置，以及学习自然语言处理模型的方法和装置
4. Training a natural language processing model with information retrieval model annotations [P] . 美国专利： US9536522B1 . 2017-01-03

机译：使用信息检索模型注释训练自然语言处理模型
5. METHOD AND APPARATUS FOR TRAINING NATURAL LANGUAGE PROCESSING MODEL, DEVICE AND STORAGE MEDIUM [P] . EP3944128A1 . 2022-01-26

机译：用于培训自然语言处理模型，设备和存储介质的方法和装置