• 主题
高级搜索  >
历史搜索 清空历史
首页> 中国专利> 基于Bert的语言模型的训练方法及装置

基于Bert的语言模型的训练方法及装置

页面导航
  • 摘要
  • 著录项
  • 相似文献

摘要

本说明书实施例提供一种基于Bert的语言模型的训练方法，该方法中包括：首先，获取历史会话样本，其中包括某次业务会话产生的多条对话语句和对应的类别标签，该类别标签指示通过该某次业务会话是否达到业务目的；接着，基于上述多条对话语句，确定语义符号序列，并将该语义符号序列输入所述语言模型中，得到整体语义向量；然后，将该整体语义向量输入业务会话分类模型中，得到预测分类结果；最后，基于该预测分类结果和上述类别标签，调整上述业务会话分类模型和语言模型的模型参数。如此，通过将判断多轮对话的目的是否达成为训练任务，可以提高训练出的语言模型对多轮对话的语义理解深度和广度。

著录项

  • 公开/公告号CN111291166B

    专利类型发明专利

  • 公开/公告日2020-11-03

    原文格式PDF

  • 申请/专利权人 支付宝(杭州)信息技术有限公司;

    申请/专利号CN202010384255.8

  • 发明设计人 刘佳;

    申请日2020-05-09

  • 分类号G06F16/33(20190101);G06F16/332(20190101);G06F16/35(20190101);G06F40/289(20200101);G06F40/30(20200101);G06K9/62(20060101);G06N3/04(20060101);G06N3/08(20060101);

  • 代理机构11309 北京亿腾知识产权代理事务所(普通合伙);

  • 代理人陈婧玥;周良玉

  • 地址 310000 浙江省杭州市西湖区西溪路556号8层B段801-11

  • 入库时间 2022-08-23 11:20:28

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱：kefu@zhangqiaokeyan.com

京公网安备：11010802029741号 ICP备案号：京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有

  • 客服微信

  • 服务号