• 主题
高级搜索  >
历史搜索 清空历史
首页> 中国专利> 基于预训练语言模型与多重词信息嵌入的字向量生成方法

基于预训练语言模型与多重词信息嵌入的字向量生成方法

页面导航
  • 摘要
  • 著录项
  • 法律信息
  • 相似文献

摘要

本发明提供了一种基于预训练语言模型与多重词信息嵌入的字向量生成方法，根据已标注数据主题，爬取相关无标注数据；构建预训练语言模型，对已标注数据与未标注数据进行预训练，基于预训练语言模型对输入句子进行处理，获得字向量；对已标注数据提取多重词信息特征；将得到的字向量与多重词信息特征进行融合，得到最终字向量。本发明通过预训练语言模型来表征字向量，可以更好的引入多义性信息；构建多重词信息特征并将其添加到字向量中，为字向量带来了词信息与单词分割信息，提高自然语言处理效果。

著录项

  • 公开/公告号CN113128199A

    专利类型发明专利

  • 公开/公告日2021-07-16

    原文格式PDF

  • 申请/专利权人 济南大学;山东思正信息科技有限公司;

    申请/专利号CN202110511388.1

  • 发明设计人 陈贞翔;徐翰琛;杨倩;黄鹤林;姜晓庆;尚铭悦;

    申请日2021-05-11

  • 分类号G06F40/205(20200101);G06F40/284(20200101);G06F16/951(20190101);

  • 代理机构37221 济南圣达知识产权代理有限公司;

  • 代理人李琳

  • 地址 250022 山东省济南市市中区南辛庄西路336号

  • 入库时间 2023-06-19 11:52:33

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2022-06-21

    授权

    发明专利权授予

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱：kefu@zhangqiaokeyan.com

京公网安备：11010802029741号 ICP备案号：京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有

  • 客服微信

  • 服务号