深度卷积神经网络

摘要： 面部的局部细节信息在面部表情识别中扮演重要角色,然而现有的方法大多只关注面部表情的高层语义信息而忽略了局部面部区域的细粒度信息。针对这一问题,提出一种融合局部特征与两阶段注意力权重学习的深度卷积神经网络FLF-TAWL(deep convolutional neural network fusing local feature and two-stage attention weight learning),它能自适应地捕捉重要的面部区域从而提升面部表情识别的有效性。该FLF-TAWL由双分支框架构成,一个分支从图像块中提取局部特征,另一个分支从整个表情图像中提取全局特征。首先提出了两阶段注意力权重学习策略,第一阶段粗略学习全局和局部特征的重要性权重,第二阶段进一步细化注意力权重,并将局部和全局特征进行融合;其次,采用一种区域偏向损失函数鼓励最重要的区域以获得较高的注意力权重。在FERPlus、Cohn-Kanada(CK+)以及JAFFE三个数据集上进行了广泛实验,分别获得90.92%、98.90%、97.39%的准确率,实验结果验证了FLF-TAWL模型的有效性和可行性。

摘要： 基于工业内窥镜的在线观测装置,探讨面向喷气涡流纺包芯纱的成纱工艺参数自动调节系统的设计方案。利用深度卷积神经网络对图像的识别和分类能力,构建了喷气涡流纺金属丝包芯纱成纱过程图像的分类模型,对模型卷积核、激活函数、分类器、损失函数、优化函数、学习率及整体框架进行了合理设计与选定,根据成纱过程中纱条露芯特征与包缠状态将纤维包覆过程图像分为9种类型,并将其作为训练数据集。试验结果表明:该模型的预测准确率达到了92.1%。在此基础上,对成纱工艺参数自动调节方案进行了设计,根据图像自动识别结果对喷气涡流纺纱机的故障类型进行诊断和判别,从而及时调整纺纱工艺参数或进行停机处理,并更新工艺参数的设置基准值。认为:该方案可确保整个纺纱过程在设定的最优参数下运行。

摘要： 深度卷积神经网络在医学图像分割领域运用广泛,目前的网络改进普遍是引入多尺度融合结构,增加了模型的复杂度,在提升精度的同时降低了训练效率。针对上述问题,提出一种新型的WU-Net肺结节图像分割方法。该方法对U-Net网络进行改进,在原下采样编码通路引入改进的残余连接模块,同时利用新提出的dep模块改进的信息通路完成特征提取和特征融合。实验利用LUNA16的数据集对WU-Net和其他模型进行训练和验证,在以结节为尺度的实验中,Dice系数和交并比分别能达到96.72%、91.78%;在引入10%的负样本后,F;值达到了92.41%,相比UNet3+提高了1.23%;在以肺实质为尺度的实验中,Dice系数和交并比分别达到了83.33%、66.79%,相比RU-Net分别提升了1.35%、2.53%。相比其他模型,WU-Net模型的分割速度最快,比U-Net提升了39.6%。结果显示,WU-Net提升肺结节分割效果的同时加快了模型的训练速度。

摘要： 针对足球运动路径规划过程中搜索效率低、搜索时间长等问题,分析足球射门最优路径规划需求,结合深度卷积神经网络对足球射门最优路径规划系统进行设计,同时对系统内各个模块的功能进行详细的分析和介绍.优先将足球场进行虚拟化处理,形成虚拟网络环境,对足球的射门路径和叠加特性进行分析.通过粒子群算法对进球率进行优化求解,最终达到足球射门最优路径规划的目的.仿真实验结果表明,本文设计的系统能够精准地获取耗时最少和距离最短的足球射门路径.

摘要： 研究了一种电力系统运行稳定性评估深度卷积神经网络算法。利用深度卷积神经网络算法对电力系统运行稳定性评估系统进行技术升级。采用深度卷积神经网络构建多层多列神经网络,对电网稳定性作出评价。系统对特定故障的评价效率显著提升,特别提升了评价判断特异性,减少了因对无故障电网运行状态做出稳定性预警而带来的额外检修工作量。深度卷积神经网络在电力系统运行稳定性评估任务中具有适用性。

摘要： 图像实例分割是图像处理和计算机视觉技术中关于图像理解的重要环节,随着深度学习和深层卷积神经网络日趋成熟,基于深度卷积神经网络的图像实例分割方法取得了跨越性进展。实例分割任务实际上是目标检测和语义分割两项任务的结合,可以在像素层面完成识别图像中目标轮廓的任务。实例分割不仅可以定位图像中目标的位置,从像素层面上分割所有目标,还可以标注出图像中同一类别的不同个体,既是对图像的像素级分割,又是实例级理解。首先,阐述了图像实例分割产生的原因和深度卷积神经网络的作用。然后,根据图像实例分割方法的过程和特征,分别从两阶段和单阶段的角度介绍了图像实例分割的研究进展,详细阐述了两类方法的优势和不足,进而总结了各类实例分割方法对区域、特征提取和掩膜的设计思路。此外,归纳了图像实例分割方法的性能评价标准和常用的公开数据集,并在此基础上对比和评估了主流的图像实例分割模型的分割精度。最后,指出了当前图像实例分割存在的问题及解决思路,并对其未来发展进行了总结和展望。

摘要： 为提高刀具磨损在线监测的精度及泛化性能,提出一种基于格拉姆角场(GAF)编码技术和卷积神经网络(CNN)的刀具磨损值在线监测方法,利用GAF图像编码技术将铣削加工过程中采集的时间序列信号数据图像化,既保留了信号的原始特征信息,又增强了时间序列特征信息。采用深度CNN自适应的提取图像特征,避免人工特征提取带来的复杂性和局限性。使用同类研究所用的数据集进行实验,验证了该方法在刀具磨损在线监测中的有效性和可行性,在多项评价标准下其精度较其他几种方法有了较大提高。

摘要： 在曲轴柔性生产线和装配线上,需要对不同种类曲轴进行智能、实时的识别和抓取。针对批量曲轴智能识别问题,提出一种基于深度卷积神经网络的曲轴种类识别方法。根据识别的要求,对图像进行预处理和数据增强,提高样本质量和数量,在卷积神经网络两个典型模型AlexNet和LeNet-5的基础上,调整了输入图像大小、模型层数以及输出层种类等参数,以AlexNet为基础模型设计了15种曲轴识别分类模型,以5类曲轴样本为例进行训练,并从15种曲轴识别分类模型中选择出最优模型,即识别精度较高且实时性较好的模型,称为模型A,模型A参数数量为1.607×10^(6)个,数据流为3.87 MB,前向传播时间为82.9 ms,识别精度为0.982。为解决模型A在训练过程中存在振荡大的问题,以及进一步缩小模型对内存的需求,对图像预处理过程进行改进,采用GrabCut算法进行图像分割,并以模型A为基础构建出了12种曲轴识别分类模型,同样以5类曲轴样本为例进行训练,筛选出识别精度较高的最优模型,称为模型B,模型B参数数量为0.39×10^(6)个,数据流为1.93 MB,前向传播时间为49.5 ms,识别精度为0.990。经过实验可得,优化后的模型B前向传播时间更快,内存需求更小,识别精度与模型A相当,并且从上述实验结果看,模型A和模型B均满足识别精度和实时性要求,模型B相较于模型LeNet-5和AlexNet,识别精度分别提高了0.12和0.025,前向传播时间分别缩短了45.6和22.5 ms,符合装配生产线上对曲轴种类识别的要求。

摘要： 针对多目标规划进化算法中测试函数的Pareto最优解集模式单一、种群多样性与算法收敛速度相互牵制等问题,设计了一种基于深度卷积神经网络的复杂多目标规划问题的机器学习方法:在原像空间中,提出“部分精英集的Gauss采样+部分拉丁超立方采样”的混合采样新方法,其中部分样本以精英集中的Pareto最优解为中心进行Gauss采样以保证所获Pareto最优前沿不差于上一代,部分样本利用拉丁超立方采样以保证样本的多样性;在像空间中,利用基于深度卷积神经网络图像特定边缘提取直接获取Pareto最优前沿。为测试算法求解复杂多目标规划问题的效率和普适性,将5个经典多目标规划问题进行改进(测试模型的最优Pareto解集具有随机性并增加了测试模型维度),利用该算法对5个改进模型进行了仿真试验,结果表明,算法对求解复杂多目标规划问题的具有可行性且具有较高的计算效率。

摘要： 针对小型无人直升机自转着陆过程,在已有的加速度预测模型的基础上,提出了利用深度卷积神经网络来表示系统自转飞行过程中的隐藏状态(气流以及直升机的抖动的影响)。通过与实际自转着陆飞行数据进行对比测试,改进后的模型可以更好地预测各个状态的变化,精度得到了明显提升。

摘要： 本文提出了一种基于深度卷积神经网络的语音参数合成器,用以实现从倒谱、基频等语音声学特征中重构语音波形信号.该合成器基于WaveNet模型进行构建,使用深度扩张因果卷积神经网络对每个采样点波形幅度的条件概率分布进行建模,其条件包括了历史波形信息以及当前采样点对应的输入声学特征.在训练阶段,使用特定说话人的语音数据库进行模型参数的估计.在合成阶段,基于每个采样点的条件概率分布进行语音波形的逐点采样生成.实验结果表明,在输入自然声学参数以及由统计参数语音合成系统预测的声学参数情况下,该参数合成器均能够取得优于STRAIGHT合成器的生成语音质量.

摘要： 深度卷积神经网络已经得到了广泛应用,尤其是在图像识别领域取得了很好的效果.但是,深度卷积神经网络是计算密集与访存密集型的算法,该算法的实现需要强大的计算能力作为支撑,很多实际应用通常使用GPU对深度卷积神经网络进行加速,但因其需要很高的功耗而无法应用于功耗受限的移动机器设备平台.为此,本文面向低功耗嵌入式FPGA设计了深度卷积神经网络加速器，并设计了一套高效的压缩与解压缩方法。数据压缩可使访存量降低很多，同时减少了访存带来的功耗，取得了很好的实际效果。

摘要： 图像分类是合成孔径雷达(SAR)的重要应用.深度卷积神经网络(CNN)已经应用于SAR图像分类,并获得更优异的性能.本文系统研究单极化、双极化和全极化等不同极化模式下,深度CNN对SAR图像的分类性能.其中,用于对比的分类方法包括:两种单极化模式+CNN、三种双极化模式+CNN以及全极化模式+CNN.而全极化模式+CNN的方法又分为全极化协方差/相干矩阵+CNN和优选极化特征+CNN.由基于AIRSAR和多时相UAVSAR数据的对比实验可知,优选极化特征+CNN方法与全极化协方差/相干矩阵+CNN方法的分类性能相当,且两者均优于三种双极化模式+CNN以及两种单极化模式+CNN的方法.其中,对于AIRSAR数据,优选极化特征+CNN的方法能够达到98.83％的最高总体分类精度.对于多时相UAVSAR数据,仅用部分时相的样本训练深度CNN分类器,对有样本用于训练的时相,优选极化特征+CNN方法与全极化协方差/相干矩阵+CNN方法所得分类精度相当;对没有样本用于训练的时相,相较于全极化协方差/相干矩阵+CNN的方法,优选极化特征+CNN方法能够提升5％左右的总体分类精度,进而证实优选极化特征+CNN的方法能够得到更好的泛化性能.

摘要： 行人检测受角度、光照等因素影响很大,加之地铁环境较为复杂,在采集图像过程中,地铁内光照不均匀以及行人运动产生模糊等都会影响检测结果的准确性.采用基于改进的DeblurGAN网络的图像去模糊和二维Gamma函数自适应亮度校正算法对地铁行人图像进行处理,后经深度卷积神经网络对不同处理前后所得五种图像进行训练并测试.实验结果表明,经过去模糊和光照校正处理后训练的行人检测模型的检测精度相比原图像所得模型有明显的提高.

摘要： 近年来,深度学习方法被成功应用于SAR图像舰船检测任务.由于近岸背景的强干扰以及目标尺度的多样性,复杂场景下的多尺度舰船检测仍然面临较大的挑战.现有的基于深度卷积神经网络的方法无法较好地处理近岸虚警较多的问题,而且对多尺度目标的检测效果不佳.本文提出一种基于自适应特征重构金字塔的多尺度SAR舰船检测方法.该方法首先引入全局上下文(Global Context,GC)模块对特征进行提取,利用舰船目标的上下文信息减少近岸虚警;并设计了一种自适应特征重构金字塔(Adaptive Feature Reconfiguration Pyramid,AFRP)结构,通过对不同尺度特征进行平衡和增强,提升多尺度舰船的检测效果.本文基于公开SAR舰船检测数据集SSDD验证了提出方法的有效性,该方法能够精确检测不同场景下的多尺度SAR舰船目标,算法性能优于现有其它方法.

摘要： 验证码验证登录是很多网站通行的方式,它能够有效防止黑客用暴力方式进行不断的登录尝试.相比于传统字符,由于对验证码中的字符进行了旋转、尺度变换,改变颜色以及加入噪声等处理,使得通过简单的光学字符识别(Optical Character Recognition,OCR)难以准确识别验证码字符.本文通过验证码生成器生成了300张包含4字符验证码的测试集.设计算法检测300张4字符验证码,给出测试集验证码单字符识别正确率(1200个字符).其次本文用MATLAB设计了一个图形用户界面(Graphical User Interface,GUI),包括读入图像、字符识别、错误率三大板块.验证码识别主要方法是用深度学习做多标签分类,用深度神经网络对整张验证码图片进行多标签学习,来完成多任务分类,端到端地识别出验证码中的所有字符.

摘要： 在水声通信中,海洋信道复杂多变使得常规的通信调制模式如频移键控、相移键控等调制方式不能满足可靠传输的要求,常受主动声呐信号、舰船辐射噪声等信号干扰.因此,非合作水声通信体制识别研究作为水声对抗领域的重要组成部分,日益成为重要的研究课题.

摘要： 针对手绘图像检索领域中手绘图像的语义特征,为了深度发掘手绘图像的语义特征并提高手绘图像的检索效果,提出一种基于多层语义特征和深度卷积网络的融合网络的方法.首先提出针对手绘图像语义特征的分层的概念;其次构建与多层语义特征相对应的多层深度卷积神经网络来学习不同层次的深度特征;最后通过特征融合实现深度卷积网络所学习到的多层语义特征的融合,形成最终的特征描述子,达到高精度的检索.在基准数据库Flickr15k上的实验结果表明该方法是可行和有效的.

摘要： 遥感图像场景分类是遥感领域中非常重要且具有挑战性的研究课题之一,在对遥感图像的目标识别、图像增强、图像检索等任务中有着非常重要的作用.针对传统方法需要人工显式的进行特征提取的局限性,本文借助深度卷积神经网络(Deep Convolutional Neural Network,DCNN)能够自动的从图像中学习得到有用特征的优势,提出一种基于DCNN的遥感图像场景分类方法.方法设计了一种面向遥感图像场景分类的DCNN模型,并详细地分析了该模型的结构以及模型推断,最后利用高分辨遥感图像数据集进行了实验与分析.实验结果表明,本文方法能够有效地提高遥感图像场景分类的精度.

摘要： 为了提高基于面部信息识别的人机交互性能,提出了一种基于任务协同的深度卷积神经网络学习方法.首先从视频图像中检测出人脸信息,其次设计一个深度卷积网络模型,将人脸特征点定位和姿态估计两个任务协同起来,同时回归得到人脸特征点坐标和姿态角度值,然后融合生成相应的人机交互信息,最后采用公开数据集和实际场景数据进行测试,并与其他现有方法进行比对分析.实验结果表明,本文方法在人脸特征点定位和姿态估计上在表现出较好的性能,在光照变化、表情变化、部分遮挡等复杂条件下人机交互应用也取得了良好的准确性和鲁棒性,平均处理速度达到16帧/秒左右,已具备一定的实用性.

摘要： 本发明公开了一种基于深度神经网络和卷积神经网络的双耳声源定位方法和系统，首先对双耳声音信号提取双耳能量差和互相关函数；接着将提取的双耳能量差和互相关函数输入训练完成的级联神经网络，在深度神经网络分支中判别声音源的方向，在卷积神经网络中提取声音源前后向区分的细节信息，得出声音源在机器人头部前半平面或后半平面的信息；最后，综合深度神经网络和卷积神经网络的输出结果，得出最终的定位结果。本发明能够在一定程度上抵抗噪声和混响的干扰，完成声源前后向及角度的判别问题，实现全向声源定位。

摘要： 本发明公开了一种卷积神经网络加速引擎、卷积神经网络加速系统及方法，属于异构计算加速领域，引擎包括：全局缓存和物理PE矩阵；物理PE矩阵包括多个物理PE单元，物理PE单元用于执行行卷积操作以及相关的部分和累加操作；XY互联总线用于将输入特征图像数据、输出特征图像数据和卷积核参数从全局缓存传输到物理PE矩阵上，或者将物理PE矩阵产生的操作结果传输到全局缓存中；邻接互联总线用于在同一列物理PE单元之间传输中间结果；系统包括：3D‑Memory，其中每个Vault单元的内存控制器中集成了卷积神经网络加速引擎，用于完成卷积神经网络计算任务的一个子集；方法在系统的基础上进行逐层优化。本发明能够提高卷积神经网络的性能和能耗。

摘要： 本发明提供了一种基于深度学习卷积神经网络的计算机病毒检测方法和系统，该检测方法首先对病毒数据预处理，对使用了加壳技术为隐藏其真实意图躲避杀毒软件检测或为压缩体积便于传播渗透的病毒进行查壳和脱壳处理；随后采用B2M算法将检测病毒映射为二进制灰度图像，计算灰度共生矩阵，以灰度共生矩阵作为深度学习卷积神经网络CNN的输入，将传统的视觉特征与深度神经网络进行了整合；最后由卷积神经网络CNN做出高准确率的检测识别。此外，本发明设计并应用了一种深度神经网络的压缩算法，将卷积神经网络CNN模型进行压缩，解决了深度神经网络模型长期因参数庞大需消耗大量硬件资源而无法应用到嵌入式设备上的问题。

摘要： 本发明公开了一种基于深度神经网络和卷积神经网络的双耳声源定位方法和系统，首先对双耳声音信号提取双耳能量差和互相关函数；接着将提取的双耳能量差和互相关函数输入训练完成的级联神经网络，在深度神经网络分支中判别声音源的方向，在卷积神经网络中提取声音源前后向区分的细节信息，得出声音源在机器人头部前半平面或后半平面的信息；最后，综合深度神经网络和卷积神经网络的输出结果，得出最终的定位结果。本发明能够在一定程度上抵抗噪声和混响的干扰，完成声源前后向及角度的判别问题，实现全向声源定位。

摘要： 本发明属于神经网络深度学习领域，具体涉及一种卷积神经网络‑图卷积神经网络可重构硬件加速架构。本发明利用可配置寄存器对卷积神经网络‑图卷积神经网络两种神经网络的运算进行配置重构；针对卷积神经网络数据使用重排图像块为矩阵列方法，将三维卷积转换为二维矩阵运算，使得不同的神经网络运算可以复用处理元件阵列单元，以及数据静态存储控制单元、权重静态存储控制单元，达到资源复用。本发明实现了两种神经网络在同一硬件架构进行加速，大大节约了硬件开销，通过一个架构可以跑多种算法，这将节省资源，大大提高通用性，极大程度上促进整个产业的发展。

摘要： 本申请实施例公开了一种基于卷积神经网络的图像分类方法、装置、卷积神经网络、电子设备及计算机可读存储介质，所述方法包括：获取第一数据，所述第一数据表征为多个图像和与每个图像对应的类别信息；基于所述第一数据对所述卷积神经网络进行训练；利用基于所述第一数据训练得到的所述卷积神经网络，对待识别图像进行识别，得到与所述待识别图像对应的类别信息；卷积神经网络包括依次连接的第一处理层、两个以上并行的子卷积神经网络层及第二处理层；本申请提出了全新的卷积神经网络，通过两个以上并行的子卷积神经网络层能够提高特征值的提取数量，并降低数据处理过程中的运算量，提高数据处理的效率。

摘要： 公开了一种卷积神经网络的量化感知训练方法，包括，对第一卷积神经网络进行样本训练，其中，第一卷积神经网络中至少一个卷积层包括有可合并分支结构和至少一个第一直连分支，将训练后的第一卷积神经网络至少一个卷积层中的至少一个第一直连分支予以保留，将卷积层中除第一直连分支之外的可合并分支结构进行合并，得到具有第一直连分支结构的第二卷积神经网络，基于第二卷积神经网络进行量化感知训练，以提高卷积神经网络模型的量化精度。

摘要： 本发明公开了一种卷积神经网络的加速方法及卷积神经网络加速器，包括：获取当前卷积层量化后的输入特征图数据；对所述输入特征图数据进行分割处理，得到第一输入特征图数据和第二输入特征图数据；将位于同一通道的第一输入特征图数据和第二输入特征图数据交替拼接，得到拼接输入特征图数据；利用预先读取到的权重数据，对所述拼接输入特征图数据进行乘累加运算，得到所述当前卷积层的卷积计算结果。采用本发明实施例能够提高PE运算阵列进行乘累加运算的资源利用率，进而缩短卷积神经网络的运算时间。

摘要： 本发明公开了一种卷积神经网络的加速方法及卷积神经网络加速器，包括根据输入特征图数据的地址信息，将从片外存储器中读取到的输入特征图数据暂存至片上存储器的缓存区；在将读取到的输入特征图数据暂存至缓存区的过程中，获取当前暂存的输入特征图数据位于缓存区内的位置；当判断到位置位于预先确定的规定位置，对缓存区进行滑窗处理；在进行滑窗处理时，将滑窗内的所有输入特征图数据拼接成一个待填充输入数据，并将待填充输入数据的剩余通道进行填充处理，得到一个输入数据；利用预先读取到的权重数据，对输入数据进行乘累加运算，得到卷积计算结果。本发明实施例能够提高PE运算阵列进行乘累加运算的资源利用率，进而缩短运算时间。

摘要： 本发明公开了一种深度卷积神经网络的压缩及加速方法、神经网络模型及其应用，属于深度卷积神经网络领域。该方法包括以下步骤：1)将深层深度卷积神经网络转化为宽浅神经网络结构；2)将规范化的样本数据输入到宽浅神经网络进行训练，得到浮点数权值；将浮点数权值和神经网络结构的激活函数进行二进制化，得到二进制化后的神经网络；将二进制化后的样本数据作为训练数据，输入二进制化后的神经网络进行训练并更新参数，直至预测值与ground truth误差达到预设误差，完成训练；其中，在二进制化后的神经网络的训练过程中，卷积层进行加法和减法运算。解决了现有深度卷积神经网络不能应用于嵌入式计算平台的问题。