神经网络中激活函数tanh的正则化

左延年; 申远

首页> 中文期刊> 《周口师范学院学报》 >神经网络中激活函数tanh的正则化

神经网络中激活函数tanh的正则化

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

在神经网络研究领域中,以sigmoid函数、双曲正切函数以及校正激活函数为研究对象,其中sigmoid函数在sigmoid系函数中最具代表性,其具有软饱和性,但是会出现梯度消失的现象.而tanh函数作为sig-moid函数的一个变体,缓解了学习缓慢并且梯度消失的问题.主要对tanh函数进行L1范数正则化,以提高模型的泛化能力,并且对正则后的目标函数采用梯度下降法,LASSO回归法求解.

著录项

来源
《周口师范学院学报》 |2020年第5期|23-27|共5页
作者
左延年; 申远;
展开▼
作者单位

南京财经大学应用数学学院南京江苏 210000;

南京财经大学应用数学学院南京江苏 210000;

展开▼
原文格式 PDF
正文语种 chi
中图分类人工神经网络与计算;
关键词
tanh; L1范数正则化; 梯度下降法; LASSO;

相似文献

中文文献
外文文献
专利

1. 卷积神经网络中SPReLU激活函数的优化研究 [J] . 吴婷婷 ,许晓东 ,吴云龙 . 计算机与数字工程 . 2021,第008期
2. 深度卷积神经网络中激活函数的研究 [J] . 李一波 ,郭培宜 ,张森悦 . 计算机技术与发展 . 2021,第009期
3. 卷积神经网络中激活函数的一种改进 [J] . 刘小文 ,郭大波 ,李聪 . 测试技术学报 . 2019,第002期
4. 用于图像分类的卷积神经网络中激活函数的设计 [J] . 王红霞 ,周家奇 ,辜承昊 . 浙江大学学报（工学版） . 2019,第007期
5. 深度神经网络中激活函数的研究 [J] . 牟晋娟 . 电脑编程技巧与维护 . 2019,第012期
6. 深度神经网络传递函数Tanh的改进及其在风电机行星齿轮箱故障诊断中的应用 [C] . WANG Xin ,王鑫 ,QIN Yi . 2018年全国设备监测诊断与维护学术会议暨第十六届全国设备故障诊断学术会议、第十八届全国设备监测与诊断学术会议、2018年全国设备诊断工程会议 . 2018
7. 神经网络中激活函数在众核处理器上硬件实现方法研究 [A] . 刘佳季 . 2021

神经网络中激活函数tanh的正则化

摘要

著录项

相似文献

相关主题

期刊订阅