首页> 外国专利> OPERATION METHOD OF DEEP NEURAL NETWORK SYSTEM CONFIGURED TO OPTIMIZE NEURAL NETWORK MODEL

OPERATION METHOD OF DEEP NEURAL NETWORK SYSTEM CONFIGURED TO OPTIMIZE NEURAL NETWORK MODEL

机译:深神经网络系统的操作方法,用于优化神经网络模型

摘要

A method of operating a deep neural network system configured to optimize a neural network model according to an embodiment of the present invention includes generating importance parameters for a neural network model including model parameters, and an objective function corresponding to the neural network model based on the generated importance parameters. Generating, receiving training data, and simultaneously performing training on importance parameters and model parameters using stochastic gradient descent (SGD) based on the training data and the objective function. , And generating and storing a lightweight model based on a result of the training, wherein at least one of the importance parameters converges to 0 (zero) through training.
机译:操作深度神经网络系统的方法,该方法被配置为优化根据本发明的实施例的神经网络模型,包括生成包括模型参数的神经网络模型的重要性参数,以及基于的神经网络模型对应的目标函数生成的重要参数。基于训练数据和目标函数,使用随机梯度下降(SGD)同时生成,接收训练数据和同时对重要性参数和模型参数进行培训。并且基于训练的结果生成和存储轻量级模型,其中至少一个重要性参数通过训练收敛到0(零)。

著录项

  • 公开/公告号KR20210039921A

    专利类型

  • 公开/公告日2021-04-12

    原文格式PDF

  • 申请/专利权人 한국전자통신연구원;

    申请/专利号KR1020200043231

  • 发明设计人 이용진;

    申请日2020-04-09

  • 分类号G06N3/08;G06N3/04;

  • 国家 KR

  • 入库时间 2022-08-24 18:10:26

相似文献

  • 专利
  • 外文文献
  • 中文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号