深度可分离卷积

摘要： 目前大量被提出的关于单目视觉深度估计网络研究中其网络结构庞大臃肿,在实际部署中会存在占用大、延迟高的问题.针对以上问题,本文提出了基于可学习步长的量化策略的轻量化深度估计网络.该网络采取特征金字塔(FPN)的网络结构对图片不同尺度的特征信息进行提取.并结合内存优化,对网络的特征提取部分采用深度可分离卷积,使得网络相对于ResNet参数总量下降1/3.同时文中对特征解码器进行设计,网络计算中跳跃连接传递的参数量对比ResNet下降了68.61%.本文的轻量化深度估计网络参数位宽由32比特降至3比特.实验结果表明,轻量化后的深度估计网络的网络参数大小下降90.59%,在KITTI数据集上绝对相对误差为16.0%,最终轻量化的网络大小从34.12MB下降到了3.21MB.

摘要： 在智慧园区内普遍存在取代传统人力搬运货物的AGV小车,虽然AGV具备自主导航、定位能力,但是由于天气、机器故障等突发不可控因素的影响,在园区场景中通过摄像头对AGV进行实时监控和定位成为一项亟需解决的任务,该任务的技术难点在于如何构建同时满足检测精度和实时性需求的轻量型网络。为了解决这些难点,针对该特定场景提出了具有代表性的自动导航小车数据集,并且提出了轻量型改进YOLOv3;的园区AGV检测算法,在自动导航小车数据集上进行验证,所提出模型在参数量大大缩减的同时,仍实现检测精度为100%的优越性能。

摘要： 为了解决现有的车型识别算法对车型特征描述不充分的情况,提出融合注意力机制的高效率网络车型识别算法.利用高效率网络中的复合缩放方式来平衡网络的深度、宽度和分辨率,将深度可分离卷积集成到基础特征提取模块中来提高模型准确率.增加双通道的残差注意力机制来关注图片中的关键信息,获得含有更加丰富语义信息的特征图.在网络的末端添加单独的softmax分类器,使用标签平滑正则化对损失函数进行处理,减小模型过拟合的问题.在BIT-Vehicles数据集上进行实验,结果表明,提出方法的平均分类准确率为96.83%,较改进前的模型提高了1.11%,优于现有DCNN、Faster-CNN的改进算法,较Faster R-CNN提升了7.16%.

摘要： 铁路异物侵限检测技术在视频监控中起着重大作用,而现有的目标检测网络计算成本高,模型存储大,因为硬件成本和计算力存在矛盾,所以导致检测速度不高等问题。针对上述问题,选取YOLOv4 tiny作为基础网络并进行了改进。首先,在CSP Darknet53 tiny中,利用深度可分离卷积替换部分标准卷积,减少了参数数量和计算量;其次,将训练后权重进行转换,使得转换后权重可被Tensor RT优化推理器推理加速;然后,引入合并运算和半精度量化处理;最后,将TensorRT-yolov4 tiny部署至嵌入式设备Jeston nano上。实验表明,在2555张铁路数据集上进行实验,其检测速度提升了50%,达到了平均0.036一张检测图片,帧率达到了30.12。MAP达到了82.13%。证明了提出的方法的在部署至嵌入式设备后速度性能上具有的优越性。

摘要： 针对算力有限的移动和嵌入式平台,提出了一种基于深度学习的轻量化火焰烟雾检测算法。利用数据增强来解决数据量较少的问题,使用one-stage目标检测方法中的YOLOv4作为火焰烟雾检测的模型框架,采用轻量化神经网络MobileNetV3替换YOLOv4的原主干特征提取网络,减少了模型参数量;再采用深度可分离卷积替换掉YOLOv4中的标准卷积块,进一步在加强特征提取网络和预测层减少了参数量;最后对空间金字塔池化部分进行改进,减少背景干扰带来的影响,减少最大池化导致的部分有用特征信息丢失。在该数据集上通过与原网络模型和其他主流目标检测方法进行对比分析,结果表明提出的轻量化网络不但保留了原模型精度,还大大减小了网络的训练参数量,提高了运行速度,更有利于模型搭载在摄像头等嵌入式设备上,实现火焰和烟雾的实时检测。

摘要： 传统机器学习在恶意软件分析上需要复杂的特征工程,不适用于大规模的恶意软件分析。为提高在Android恶意软件上的检测效率,将Android恶意软件字节码文件映射成灰阶图像,综合利用深度可分离卷积(depthwise separable convolution,DSC)和注意力机制提出基于全局注意力模块(GCBAM)的Android恶意软件分类模型。从APK文件中提取字节码文件,将字节码文件转换为对应的灰阶图像,通过构建基于GCBAM的分类模型对图像数据集进行训练,使其具有Android恶意软件分类能力。实验表明,该模型对Android恶意软件家族能有效分类,在获取的7630个样本上,分类准确率达到98.91%,相比机器学习算法在准确率、召回率等均具有较优效果。

摘要： 目的针对卷积神经网络在RGB-D(彩色-深度)图像中进行语义分割任务时模型参数量大且分割精度不高的问题,提出一种融合高效通道注意力机制的轻量级语义分割网络。方法文中网络基于RefineNet,利用深度可分离卷积(Depthwiseseparableconvolution)来轻量化网络模型,并在编码网络和解码网络中分别融合高效的通道注意力机制。首先RGB-D图像通过带有通道注意力机制的编码器网络,分别对RGB图像和深度图像进行特征提取;然后经过融合模块将2种特征进行多维度融合;最后融合特征经过轻量化的解码器网络得到分割结果,并与RefineNet等6种网络的分割结果进行对比分析。结果对提出的算法在语义分割网络常用公开数据集上进行了实验,实验结果显示文中网络模型参数为90.41 MB,且平均交并比(mIoU)比RefineNet网络提高了1.7%,达到了45.3%。结论实验结果表明,文中网络在参数量大幅减少的情况下还能提高了语义分割精度。

摘要： 针对传统U-Net网络模型参数量大、图片处理时间长、无法满足工业生产实时性要求的问题,提出了一种改进U-Net网络的吹氩图像分割方法。该方法以U-Net框架为主体,使用传统U-Net网络的特征融合模块高效利用图像的特征信息,利用MoblieNet网络中的深度可分离卷积方法替代传统卷积,降低网络的参数量和计算量,缩短了分割所需的时间。实验结果表明,改进的U-Net网络在保持精度的同时,具有良好的实时性。与传统U-Net网络相比,其参数量缩小15倍,在GPU上运行平均耗时降低6倍。改进的U-Net网络处理一张分辨率为224×224像素的图片的平均耗时为30 ms,可以满足工业生产对图像处理实时性的要求。

摘要： 人脸识别被广泛应用于购物、安检、出行、支付和考勤等日常生活中,人脸识别系统需要大的算力与存储空间,因此往往将需要识别的人脸通过网络传送到云平台进行识别,但网络覆盖、拥塞或延时等问题造成人脸识别系统难以满足实际应用的需求,用户体验差。针对人脸识别中存在的问题,提出了基于边云协同的人脸识别方法。该方法结合云计算的处理能力和边缘计算的实时性,使人脸识别系统不受网络状态的约束,应用更加广泛,用户体验更好。在云端,提出了LResNet特征提取方法,改进了ResNet34网络结构,并利用ArcFace人脸损失函数监督训练过程,使网络学习到更多的人脸角度特性;在边缘端,针对计算资源和存储资源有限的问题,提出了SResNet特征提取方法,利用深度可分离卷积轻量化LResNet网络结构,大大减少了网络参数和计算量。边云协同的人脸识别实验表明,所提系统在任何网络状态下都能进行实时识别且准确率较高。

摘要： 为解决自然状态下成熟草莓存在的背景干扰、信息丢失等问题,提出一种基于深度残差学习的草莓识别方法。首先,引入深度可分离卷积降低残差网络参数,从不同角度提取成熟草莓特征,通过交叉熵损失函数来识别分类层中的草莓。其次,嵌入压缩和激励模块学习特征权重,使用特征重新校准改善网络的学习和表征属性。最后,采用添加空间金字塔池化、加权衰减优化方法提高模型的泛化能力,优化识别结果。试验结果表明,和现有其他深度模型相比,该方法能够有效地定位复杂背景下的成熟草莓,不易受到干扰环境的影响,具有更高的识别准确率和灵敏度,在数据集C中的识别准确率和灵敏度最高,分别达到92.46%和94.28%。

摘要： 本发明一种基于深度可分离空洞时序卷积的三维人体姿态估计方法和装置，构建T层深度可分离空洞时序卷积模型，通过设置空洞率大小控制模型的感受野；在T层深度可分离空洞时序卷积块的两层卷积中，采用切片函数在两层卷积之间匹配特征维度信息进行残差连接，对矩阵内的数据进行提取特征，将数据原始特征累加到深度可分离空洞时序卷积块的输出当中，从而保留原始数据的特征；改进的改进的深度可分离空洞卷积层先执行点卷积，再执行逐通道卷积，并引进了Mish激活函数提高模型性能，增加了平滑和非单调的特点，本发明在实现降低模型计算复杂度和计算量的同时，提升了模型性能和精度，大幅度降低模型的计算复杂度和模型计算量。

摘要： 本发明公开了一种基于深度可分离卷积和标准卷积的行人检测方法，涉及计算机视觉技术领域，本发明基于所提出的CNN模型，设计了一个名为EPDNet的高效行人检测器，为了更进一步提高EPDNet的检测精度，本发明采用特征融合的方法，将浅层和深层的特征图融合起来，以增强输出特征的语义表达能力。本发明提出的EPDNet在Caltech和CityPersons数据集上进行性能进行评估，评估过程主要包括消融实验和模型对比实验。实验结果表明，相比于基线模型，在保持较高的检测速度同时，EPDNet在Caltech数据集和CityPersons数据集上均能够达到更高的检测精度。

摘要： 基于密集卷积和深度可分离卷积的视网膜血管分割方法。包括：对视网膜血管图原始图像进行预处理；对数据集进行数据增强；构建基于密集卷积与深度可分离卷积结合的全卷积神经网络，并使用带有权重的损失函数对训练集进行训练；测试并得到最后分割结果图。本发明是以编码‑解码的对称网络作为主干网络。加入深度可分离卷积，大大降低了模型参数量；使用了密集卷积块，将所有层在通道上连接，加强了信息的传递并有效利用了各个尺度的特征值；在图像预处理过程中，对其进行自适应伽马矫正，对不同特征区域用不同的伽马值矫正，在提升特征对比度的同时弱化背景噪声；在训练时使用带有权重的损失函数，增强待分割血管在训练时所占比重。

摘要： 本发明涉及用于对卷积神经网络中的输入数据执行深度可分离卷积的方法和系统。本发明利用具有若干MAC阵列的异构架构，该异构架构包括用于执行深度可分离卷积的1D MAC阵列和2D MAC阵列以及Winograd转换逻辑。深度可分离卷积使用较少的权重参数，并由此使用较少的乘法，同时它获得与传统卷积相同的计算结果。

摘要： 本发明公开一种基于深度可分离卷积YOLOv4模型的滤袋袋口位置检测方法，该方法首先通过摄像头采集传送带上的滤袋袋口图片；然后对所有图片进行数据增强，并对图像进行标注，构建滤袋袋口数据集；再构建基于深度可分离卷积的YOLOv4目标检测模型，设置训练参数，采用滤袋袋口数据集对基于深度可分离卷积的YOLOv4目标检测模型进行训练；最后将待检测的滤袋袋口图片输入训练后的基于深度可分离卷积的YOLOv4目标检测模型中，输出已经标注出检测框位置以及滤袋袋口类别的待检测的滤袋袋口图片。本发明的方法减小了模型的总参数量，提高了模型的计算速度。

摘要： 本发明涉及一种深度可分离卷积电路，该电路包括存内计算阵列的电压输出端、源极跟随器、开关SW1、开关SW2、开关SW3、开关SW4、开关SW5、开关SW6、开关SW7、开关SW8、电容C1、电容C2、电容C3、电容C4、电容C1’、电容C2’、电容C3’和电容C4’；通过源极跟随器复制存内计算阵列的电压输出端的4bit电压信号，4bit电压信号分别输入四对互补的电容，通过开关控制互补的电容的充电和均压，在一次计算中完成了两层神经网络的运算，提升了运算效率，同时对面积和延时并没有产生明显的增加。

摘要： 本发明公开了一种基于深度可分离卷积的轴承故障在线诊断方法，包括将通过数据采集系统采集的历史振动数据输入到基于深度可分离卷积网络进行训练得到诊断模型；将诊断模型转换保存为TensorFlow.js图层格式，并将转换后的图层格式模型部署到浏览器中；在浏览器中从数据库中加载历史振动数据输入至转换后的图层格式模型进行诊断，得到数据的轴承状态。公开了一种诊断系统，包括模型训练模块，模型转换与部署模块，故障识别步骤模块。本发明通过深度可分离卷积思想搭建故障诊断模型，并将模型部署到浏览器中进行在线故障诊断；本发明方法在保证诊断准确率的前提下，使模型的体积和运算量大大减少，大幅度的提升模型的运行速度，有效地控制了运行成本。

摘要： 本发明公开了一种基于残差网络和深度可分离卷积的医学图像鲁棒水印方法，将残差网络结构与深度可分离卷积模块结合设计RDSCnet网络，利用构建医学图像数据集对RDSCnet网络训练，从而使RDSCnet网络具有更好的抗几何攻击性能，且具有更快的运算速度，利用训练好的RDSCnet网络提取医学图像的特征向量与混沌置乱加密后的水印进行异或运算加密处理，将水印嵌入医学图像中，水印的嵌入不改变原始加密体数据的内容，是一种零水印嵌入技术，具有不可见性，因而RDSCnet网络与零水印技术的结合，具有很强的鲁棒性和不可见性，能同时保护病人的隐私信息和医学图像的数据安全，解决了现有医学图像的数字水印技术仍不够成熟，抗几何攻击性能较差，鲁棒性能还有待提高的技术问题。

摘要： 本发明涉及深度学习卷积计算硬件加速领域，具体提供了一种深度可分离卷积加速系统，在FPGA板上设置包括特征图输入输出缓存模块、权重缓存模块、卷积运算控制模块、卷积运算模块、池化模块和高速数据总线模块；特征图输入输出缓存模块用于乒乓缓存外部输入和卷积运算后的特征图数据；权重缓存模块用于缓存卷积运算过程中所用的权重数据；卷积运算控制模块用于缓存外部输入的卷积计算指令并解析；卷积运算模块用于深度可分离卷积和常规卷积；池化模块用于每一层特征图的池化；高速数据总线模块用于实现与外部CUP和片外缓存通信。与现有技术相比，本发明满足未来不断增大的模型尺寸和加速复杂度的应用需求。

摘要： 本发明公开一种基于深度分组可分离卷积的目标检测方法，由特征提取模块，特征融合模块和检测头组成。本发明提出并在检测头中使用了GBL模块，GBL模块由深度分组分离卷积，批归一化层和Leaky_Relu激活函数组成，其中深度分组可分离卷积在深度可分离卷积的基础上进行了改进，首先进行特征图的通道分组，经过3x3的普通卷积后进行拼接，拼接后的特征图进行1x1的普通卷积操作改变通道数，基于深度分组可分离卷积的GBL模块可以有效的代替普通卷积，在提取多层次和多尺度特征以及特征融合中都可以有效保证网络的学习能力。本发明公开的目标检测方法以较小的参数和计算增量，实现了较大的精确度的提高，在保证目标检测实时性的同时，有效的优化了检测效果，作为一种轻量级目标检测方法，尤其适用于内存和计算能力受限硬件环境。