一种基于修正动量的RBM算法

沈卉卉; 刘国武; 付丽华; 刘智慧; 李宏伟

首页> 中文期刊> 《电子学报》 >一种基于修正动量的RBM算法

一种基于修正动量的RBM算法

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

cqvip:受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)是一种随机网络、概率图模型,它是一种比较有效的的无监督学习模型.针对RBM梯度近似的一种计算方法对动量加速不敏感,以及识别效果不理想等问题,本文提出一种基于修正动量的RBM算法.该算法结合RBM梯度近似方法,通过修改隐单元偏置参数的更新方式,避免RBM模型中隐单元取值采用概率值时导致模型识别效果不理想、动量加速有限等问题.同时,在RBM预训练阶段采用快速上升的动量方式,以加速网络收敛;在微调阶段引入缓慢下降的动量项,以避免陷入局部最优点并提高识别效果.本文算法通过在MNIST手写数字体,Extended Yale B和CMU-PIE人脸数据库上的数值实验结果表明,提出的算法能够有效地提高计算效率和提高网络泛化能力.该算法不仅对RBM的应用领域扩展具有十分积极的实际意义,且为深度学习的应用方法提供一种新的研究思路和借鉴.

著录项

来源
《电子学报》 |2019年第9期|1957-1964|共8页
作者
沈卉卉; 刘国武; 付丽华; 刘智慧; 李宏伟;
展开▼
作者单位

中国地质大学数理学院湖北武汉430074;

湖北经济学院信息管理与统计学院湖北武汉430205;

中国地质大学(武汉)地球内部多尺度成像湖北省重点实验室湖北武汉430074;

展开▼
原文格式 PDF
正文语种 chi
中图分类信息处理（信息加工）;
关键词
深度学习; 无监督学习; 受限玻尔兹曼机; 梯度近似算法; Gibbs采样; 动量加速; 泛化能力;

相似文献

中文文献
外文文献
专利

1. 基于权值动量的RBM加速学习算法研究 [J] . 李飞 ,高晓光 ,万开方 . 自动化学报 . 2017,第007期
2. 一种基于联想记忆神经网络RBM的数字水印算法 [J] . 李屾 ,高铁杠 . 南开大学学报（自然科学版） . 2011,第005期
3. 一种用于电阻抗成像的拟New ton算法——基于修正B_k的开关算法 [J] . 李文波 ,王博亮 ,孙桂菊 . 北京生物医学工程 . 2000,第1期
4. 一种基于修正Bresenham算法的快速三角形绘制新算法 [J] . 谢剑斌 ,郝建新 . 计算机工程与科学 . 1998,第002期
5. 基于动量方法的受限玻尔兹曼机的一种有效算法 [J] . 沈卉卉 ,李宏伟 . 电子学报 . 2019,第001期
6. 一种基于RBM算法的软件可靠性预测改进方法 [C] . Liu Yi-hong ,刘奕宏 ,Chen songli . 第五届全国智能制造学术会议（NCIM2016）暨智能制造专业委员会2016年度工作会议 . -1
7. 一种基于修正TV-Stokes方程的图像修补算法 [A] . 荆会超 . 2013

一种基于修正动量的RBM算法

摘要

著录项

相似文献

相关主题

期刊订阅