面向AIoT芯片的OCR模型压缩方案研究

甘芷莹; 许达文

首页> 中文期刊> 《微电子学与计算机》 >面向AIoT芯片的OCR模型压缩方案研究

面向AIoT芯片的OCR模型压缩方案研究

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

基于深度学习的OCR模型通常由CNN和RNN/LSTM构成,模型计算量大、权重参数多,导致在边缘设备上推理需要大量的计算资源才有可能达到性能要求.CPU和GPU这样的通用处理器无法同时满足处理速度和功耗要求,并且成本非常高.随着深度学习的普及,神经处理单元NPU在许多嵌入式和边缘设备中变得普遍,它具有高吞吐量的计算能力来处理神经网络所涉及的矩阵运算.以基于CRNN的OCR模型为例,面向AIoT芯片给出一个解决方案,通过剪枝和量化两种压缩算法降低网络参数冗余度,减少计算开销但仍能得到一个准确性和鲁棒性高的压缩模型,使得模型能够部署在NPU上.实验结果表明:对剪枝微调后的模型进行参数量化,稀疏度为78%量化后的模型精度降低不超过3%,模型大小从15.87 MB压缩为3.13 MB,将压缩后的模型部署到NPU端,与在CPU和GPU上的实现相比,NPU在延迟上分别实现了28.87倍和6.1倍的加速.

著录项

来源
《微电子学与计算机》 |2022年第11期|110-117|共8页
作者
甘芷莹; 许达文;
展开▼
作者单位

合肥工业大学电子科学与应用物理学院;

展开▼
原文格式 PDF
正文语种 chi
中图分类人工神经网络与计算;专用集成电路;
关键词
AIoT; OCR识别; 模型压缩; 参数量化; 网络剪枝;

相似文献

中文文献
外文文献
专利

1. 面向星载应用的图像压缩专用芯片研制 [J] . 程子敬 ,周孝宽 ,姜宏旭 . 北京航空航天大学学报 . 2003,第002期
2. 滚动转子式压缩机油路结构对OCR影响的试验研究 [J] . 朱利锋 . 制冷与空调 . 2018,第006期
3. 面向OCR文本识别词错误自动校对方法研究 [J] . 郝亚男 ,乔钢柱 ,谭瑛 . 计算机仿真 . 2020,第009期
4. 面向就业信息采集的OCR手写体汉字识别技术的研究 [J] . 朱巍峰 ,马铨辉 . 智能计算机与应用 . 2009,第006期
5. AI、5G与AIoT时代ASIC与FPGA谁将主宰定制化芯片未来 [J] . . 新潮电子 . 2021,第008期
6. 不锈钢复合板(16MnR+OCr18Ni9Ti)冲击压缩力学特性实验研究 [C] . 文潮 ,关锦清 ,周刚 . 第九届全国冲击动力学学术会议 . 2009
7. 面向三维芯片的测试数据压缩方法研究 [A] . 林陈鑫 . 2019

面向AIoT芯片的OCR模型压缩方案研究

摘要

著录项

相似文献

相关主题

期刊订阅