首页> 外国专利> NON-UNIFORM QUANTIZATION OF PRE-TRAINED DEEP NEURAL NETWORK

NON-UNIFORM QUANTIZATION OF PRE-TRAINED DEEP NEURAL NETWORK

机译:预处理深层神经网络的非均匀量化

摘要

A system and a method of quantizing a pre-trained neural network, includes determining by a layer/channel bit-width determiner for each layer or channel of the pre-trained neural network a minimum quantization noise for the layer or the channel for each master bit-width value in a predetermined set of master bit-width values; and selecting by a bit-width selector for the layer or the channel the master bit-width value having the minimum quantization noise for the layer or the channel. In one embodiment, the minimum quantization noise for the layer or the channel is based on a square of a range of weights for the layer or the channel that is multiplied by a constant to a negative power of a current master bit-width value.
机译:一种量化预训练神经网络的系统和方法,包括通过层/通道位宽确定器为预训练神经网络的每个层或信道确定每个主节点的层或信道的最小量化噪声。预定的一组主位宽值中的位宽值;通过位宽度选择器为层或通道选择具有最小量化噪声的主位宽度值。在一个实施例中,用于该层或该信道的最小量化噪声是基于该层或该信道的权重范围的平方乘以一个常数乘以当前主位宽度值的负功率。

著录项

  • 公开/公告号US2020097823A1

    专利类型

  • 公开/公告日2020-03-26

    原文格式PDF

  • 申请/专利权人 SAMSUNG ELECTRONICS CO. LTD.;

    申请/专利号US201816181326

  • 发明设计人 HUI CHEN;ILIA OVSIANNIKOV;

    申请日2018-11-05

  • 分类号G06N3/08;G06N3/04;

  • 国家 US

  • 入库时间 2022-08-21 11:21:35

相似文献

  • 专利
  • 外文文献
  • 中文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号