首页> 中国专利> 在神经网络推理中实现数据同步的装置和方法

在神经网络推理中实现数据同步的装置和方法

页面导航

摘要
著录项
法律信息
相似文献

摘要

本申请提供了在神经网络推理中实现数据同步的装置和方法。涉及人工智能(Artificial Intelligence，AI)领域，具体涉及神经网络推理技术。该装置包括：存储器，用于存储第一特征图；神经网络处理器NPU，用于：从所述存储器中获取所述第一特征图，所述第一特征图包含M个分块，M为正整数；利用异步方式对所述M个分块分别执行神经网络模型中至少两层的推理计算以得到M个推理结果，该异步方式是指对每个分块执行完所述神经网络模型中一层的推理计算所得到的中间结果不进行数据同步，并且继续对所述中间结果执行下一层的推理计算；将所述M个推理结果进行数据同步以得到同步后的数据。由于该NPU在执行完神经网络模型中至少两层的推理计算之后才进行数据同步，这使得在神经网络推理过程中进行数据同步的次数较少，进而产生较少的数据搬迁开销。

著录项

公开/公告号CN113169989A

专利类型发明专利
公开/公告日2021-07-23

原文格式PDF
申请/专利权人华为技术有限公司;
展开▼

申请/专利号CN201980051147.4
发明设计人王岩岩;冯源;吴祖光;周鹏;
展开▼

申请日2019-12-31
分类号H04L29/08(20060101);G06N3/04(20060101);
代理机构
代理人
地址 518129 广东省深圳市龙岗区坂田华为总部办公楼
入库时间 2023-06-19 11:55:48

法律信息

法律状态公告日

法律状态信息

法律状态
2023-02-28

发明专利申请公布后的驳回 IPC(主分类):H04L29/08 专利申请号:2019800511474 申请公布日:20210723

发明专利申请公布后的驳回

相似文献

专利
中文文献
外文文献

1. 在神经网络推理中实现数据同步的装置和方法 [P] . 中国专利： CN113169989A . 2021-07-23
2. 一种PON系统中实现配置数据同步的方法及装置 [P] . 中国专利： CN105959137A . 2016-09-21
3. DEVICE AND METHOD FOR REALIZING DATA SYNCHRONIZATION IN NEURAL NETWORK INFERENCE [P] . WO2021134519A1 . 2021-07-08

机译：用于实现神经网络推断中数据同步的装置和方法
4. Accelerated rule evaluation method in fuzzy inference processor and apparatus for implementing the method [P] . 日本专利： JPH09506446A . 1997-06-24

机译：模糊推理处理器中的加速规则评估方法及实现该方法的装置
5. METHOD AND APPARATUS FOR IMPLEMENTING DATA SYNCHRONIZATION IN NETWORK MANAGEMENT [P] . 世界知识产权组织专利： WO2010148966A1 . 2010-12-29

机译：在网络管理中实现数据同步的方法和装置