首页> 外国专利> STABLE AND EFFICIENT TRAINING OF ADVERSARIAL MODELS BY AN ITERATED UPDATE OPERATION OF SECOND ORDER OR HIGHER

STABLE AND EFFICIENT TRAINING OF ADVERSARIAL MODELS BY AN ITERATED UPDATE OPERATION OF SECOND ORDER OR HIGHER

机译:通过迭代更新操作的第二阶或更高的迭代更新操作稳定而有效地培训对抗性模型

摘要

The training of an adversarial model is performed by respective update operations at each of a set of successive time steps to minimize an objective function having a plurality of loss components. The update operation includes at least one intermediate step of using gradients of the loss components for current values of the numerical parameters to generate intermediate values for the numerical parameters. A different set of intermediate values for each of the numerical parameters may be generated in each intermediate step. The update operation further includes generating respective updates to the current values of each of the numerical parameters based on functions of the gradients of at least one of the loss components with respect to the respective numerical parameters. This is done both for the current values of the numerical parameters and for the intermediate values of the numerical parameters.
机译:通过各个连续时间步骤中的每一个的各个更新操作来执行对抗性模型的训练,以最小化具有多个损耗组件的目标函数。 更新操作包括使用用于数值参数的当前值的损耗分量的梯度的至少一个中间步骤,以生成数值参数的中间值。 可以在每个中间步骤中生成每个数值参数的不同一组中间值。 更新操作还包括基于相对于相应的数值参数的至少一个丢失分量的梯度的梯度的函数来生成与每个数值参数的当前值的相应更新。 这对于数值参数的当前值和数值参数的中间值进行了完成。

著录项

  • 公开/公告号US2021383243A1

    专利类型

  • 公开/公告日2021-12-09

    原文格式PDF

  • 申请/专利权人 DEEPMIND TECHNOLOGIES LIMITED;

    申请/专利号US202117337376

  • 发明设计人 CHONGLI QIN;YAN WU;

    申请日2021-06-02

  • 分类号G06N3/08;G06N3/04;

  • 国家 US

  • 入库时间 2022-08-24 22:42:46

相似文献

  • 专利
  • 外文文献
  • 中文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号