基于树莓派的高效卷积优化方法

郭晓龙; 牛晋宇; 杜永萍

首页> 中文期刊> 《计算机技术与发展》 >基于树莓派的高效卷积优化方法

基于树莓派的高效卷积优化方法

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

针对卷积神经网络(CNN)的巨大参数量和计算量而导致在树莓派等低功耗的边缘设备模型推理过程中产生耗时较大的问题,对网络上现有的开源推理框架进行了深入研究及对比分析,发现这些都属于通用型推理框架,并不能针对树莓派设备进行极致推理优化。因此,提出了基于RoofLine模型的定量分析方法,从访存和运算二个维度对Mobilenet等移动端网络架构模型进行卷积推理优化。研究采用了计算图优化方法,利用算子融合和内存重排做推理预处理,从而减少推理过程的计算量和访存开销;同时针对每一层的卷积参数量和特性,提出了9宫格分块策略和NEON指令流水线级别的优化。实验表明,所提出的优化方法在不同的分辨率下,相比腾讯的开源框架NCNN、阿里MNN和商汤PPL.NN在推理速度上取得了高于3倍的性能优化。

著录项

来源
《计算机技术与发展》 |2023年第5期|96-104|共9页
作者
郭晓龙; 牛晋宇; 杜永萍;
展开▼
作者单位

北京工业大学信息学部;

展开▼
原文格式 PDF
正文语种 chi
中图分类总体结构、系统结构;
关键词
深度学习模型推理加速; 计算图优化; 算子融合; 卷积优化; 移动端推理框架;

相似文献

中文文献
外文文献
专利

1. 基于卷积ADMM网络的高效结构化稀疏ISAR成像方法 [J] . 李瑞泽 ,张双辉 ,刘永祥 . 系统工程与电子技术 . 2023,第1期
2. 基于卷积神经网络的高效三维模型检索方法 [J] . 汤磊 ,丁博 ,何勇军 . 电子学报 . 2021,第001期
3. 基于级联卷积神经网络的高效目标检测方法 [J] . 宋云博 ,陈冬艳 ,郝赟 . 计算机工程与应用 . 2021,第5期
4. 一种基于门控空洞卷积的高效中文命名实体识别方法 [J] . 王笑月 ,李茹 ,段菲 . 中文信息学报 . 2021,第1期
5. 基于粒子群优化与卷积神经网络的电能质量扰动分类方法 [J] . 董光德 ,李道明 ,陈咏涛 . 发电技术 . 2023,第1期
6. 一种基于门控空洞卷积的高效中文命名实体识别方法 [C] . Xiaoyue Wang ,王笑月 ,Ru Li . 第十八届中国计算语言学大会暨中国中文信息学会2019学术年会 . 2018
7. 基于HLS的高效深度卷积神经网络FPGA实现方法 [A] . 赵东升 . 2019

基于树莓派的高效卷积优化方法

摘要

著录项

相似文献

相关主题

期刊订阅