首页> 中文会议>2005年全国高等学校计算数学年会暨第八届全国青年计算数学研讨会 >带动量项的线性输出BP网络收敛性

带动量项的线性输出BP网络收敛性

页面导航

摘要
著录项
相似文献
相关主题

摘要

线性输出的BP神经网络已被成功应用于解决模式分类和函数逼近等问题,有关BP学习算法的收敛性研究可参见文献.但是,传统BP算法具有两大缺点:收敛速度慢和容易陷入局部极小.一种常见的改进策略是在它的权值更新规则中加入动量项,即上一步权值改变量的某一倍数,使得当前步的权值改变不仅受到梯度下降方向的影响,而且与前一次的权值改变有关(即惯性作用).大量的数值实验表明,与传统的BP算法相比,带动量项的BP算法犹如低通滤波器平滑了权值变化的轨迹,进而达到稳定算法和加速收敛的目的.另外,一些文章用类比方法或者概率的方法也给出了带动量项的BP算法收敛性的近似分析或者说明.本文的主要目的是给出线性输出带动量项的BP算法的确定性收敛结果以及严格的数学证明。

著录项

来源
《2005年全国高等学校计算数学年会暨第八届全国青年计算数学研讨会》|2005年|368-372|共5页
会议地点辽宁大连
作者
曲笛; 吴微; 邵红梅;
展开▼
作者单位

中国数学会;

展开▼
会议组织
正文语种
原文格式 PDF
中图分类人工神经网络与计算;数值逼近;
关键词
带动量项; 线性输出; BP神经网络; 收敛性; 模式分类; 函数逼近; 权值;

相似文献

中文文献
外文文献
专利

1. 带动量项的线性输出BP网络收敛性 [J] . 曲笛 ,吴微 ,邵红梅 . 高等学校计算数学学报 . 2005,第S1期
2. 多输出单元BP神经网络梯度算法的收敛性 [J] . 周凤麒 ,吴微 ,熊焱 . 黑龙江大学自然科学学报 . 2006,第001期
3. Sigma-Pi-Sigma神经网络的带动量项梯度算法的收敛性 [J] . 张迅 . 温州大学学报（自然科学版） . 2018,第002期
4. Ridge Polynomial神经网络带动量项异步梯度算法的收敛性 [J] . 喻昕 ,唐利霞 ,于琰 . 计算机科学 . 2013,第012期
5. Pi-sigma神经网络的带动量项的异步批处理梯度算法收敛性 [J] . 熊焱 ,张超 . 应用数学 . 2008,第1期
6. Ridge Polynomial神经网络带动量项异步梯度算法的收敛性 [C] . YU Xin ,喻昕 ,TANG Li-xia . 第四届全国智能信息处理学术会议 . 2013
7. 带动量项的BP神经网络收敛性分析 [A] . 郑高峰 . 2005

带动量项的线性输出BP网络收敛性

摘要

著录项

相似文献

相关主题

期刊订阅