首页> 中国专利> 一种利用基于图的特定目标网络解决视频问答问题的方法及其系统

一种利用基于图的特定目标网络解决视频问答问题的方法及其系统

摘要

本发明公开了一种利用基于图的特定目标网络解决视频问答问题的方法及其系统,属于视频问答文本生成领域。主要包括如下步骤:1)针对于一组视频、问题、答案训练集,训练一个跨模态编码器,学习出视频信息和问题信息的联合表征。2)对于跨模态编码器编码完成的得到视频问题联合表达的神经网络的输出,通过一个解答模块根据数据集的不同问题训练不同的解码器,输出针对于视频和问题联合表达的自然语言答案。本发明采用一个更加细粒度的基于图的关系敏感的编码器来获得视频问答中的目标关系,采用一个特定目标的时序编码器来捕获特定目标的同质动态视觉线索,采用轨迹优化算法,减轻了复杂场景下目标检测的不足,有效提升了视频问答的性能。

著录项

  • 公开/公告号CN111652357B

    专利类型发明专利

  • 公开/公告日2021-01-15

    原文格式PDF

  • 申请/专利权人 浙江大学;

    申请/专利号CN202010795120.0

  • 发明设计人 赵洲;何金铮;顾茅;

    申请日2020-08-10

  • 分类号G06N3/04(20060101);G06N3/08(20060101);G06K9/62(20060101);G06F16/78(20190101);G06F16/332(20190101);

  • 代理机构33200 杭州求是专利事务所有限公司;

  • 代理人郑海峰

  • 地址 310058 浙江省杭州市西湖区余杭塘路866号

  • 入库时间 2022-08-23 11:29:20

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号