基于动量项分离的深度学习优化算法

文晨锐; 杨歆豪; 张嘉慧; 张珂

首页> 中文期刊> 《计算机仿真》 >基于动量项分离的深度学习优化算法

基于动量项分离的深度学习优化算法

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

针对神经网络处理参数更新的优化算法中出现的局部最优点振荡问题,改进带动量项的随机梯度下降算法,提出了一种动量项分离的优化算法。通过计算当前时刻目标函数的曲率半径,根据阈值适时分离动量项,从而缓解局部最优点振荡问题。实验表明,动量项分离的优化算法能够适用于不同的模型结构和不同数据集。相较于带动量项的随机梯度下降算法,具有更高的准确度,能够更快地稳定收敛。与同类一阶动量算法相比,其准确率上升明显,为深度神经网络的参数更新提供了一种新的有效的解决方案。

著录项

来源
《计算机仿真》 |2022年第2期|337-342|共6页
作者
文晨锐; 杨歆豪; 张嘉慧; 张珂;
展开▼
作者单位

苏州大学机电工程学院;

展开▼
原文格式 PDF
正文语种 chi
中图分类信息处理（信息加工）;
关键词
深度学习; 曲率半径; 动量项分离; 图像识别;

相似文献

中文文献
外文文献
专利

1. 对基于变动量项前馈神经网络盲源分离算法的研究 [J] . 宋蕾 ,张立毅 . 科技情报开发与经济 . 2007,第009期
2. 自适应变步长的动量项盲源分离方法 [J] . 马志阳 ,张天骐 ,李群 . 电讯技术 . 2019,第003期
3. 融合动量项的步长自适应盲源分离算法 [J] . 李春腾 ,蒋宇中 ,刘芳君 . 海军工程大学学报 . 2019,第003期
4. 一种引入自适应动量项的变步长混沌信号盲分离算法 [J] . 张天骐 ,马宝泽 ,强幸子 . 电子与信息学报 . 2017,第004期
5. 动量项盲源分离算法及其性能优化策略 [J] . 欧世峰 ,耿超 ,高颖 . 电子学报 . 2014,第001期
6. 基于自适应学习率附加动量项的改进BP算法的Doherty功率放大器设计 [C] . WANG Shan ,王杉 ,SUN Yu . 2015年全国天线年会 . 2015
7. 基于动量项技术及辅助分离系统的盲源分离问题的研究 [A] . 王晓宇 . 2015

基于动量项分离的深度学习优化算法

摘要

著录项

相似文献

相关主题

期刊订阅