首页> 中国专利> 用于具有动态向量长度和码本大小的高吞吐量向量去量化的灵活硬件

用于具有动态向量长度和码本大小的高吞吐量向量去量化的灵活硬件

摘要

神经网络(NN)和/或深度神经网络(DNN)的性能可以由正执行的操作数目以及NN/DNN的存储器数据管理来限制。使用神经元权重值的向量量化,神经元的数据的处理可以优化操作的数目以及存储器利用以便增强NN/DNN的总体性能。操作地,权重值的一个或多个连续段可以被转换为任意长度的一个或多个向量,并且一个或多个向量中的每个向量可以被分配有索引。所生成的索引可以被存储在示例性向量量化查找表中并且在飞行中在运行时由示例性快速权重查找硬件来取回,作为NN的示例性数据处理功能的一部分,作为内联去量化操作的一部分,以获得所需要的一个或多个神经元权重值。

著录项

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2019-12-24

    实质审查的生效 IPC(主分类):G06N3/06 申请日:20180406

    实质审查的生效

  • 2019-11-29

    公开

    公开

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号