首页> 中文学位 >受ELM启发的极速非线性判别分析网络
【6h】

受ELM启发的极速非线性判别分析网络

代理获取

目录

声明

缩略词

第一章 绪论

1.1 研究背景

1.2 研究意义

1.3 研究现状

1.4研究目标及研究内容

1.5本文的组织结构

第二章 线性判别分析和随机映射思想

2.1 引言

2.2 单隐层前馈神经网络特性

2.3 极速学习机模型

2.4 本章小结

第三章 极速非线性化判别分析网络

3.1 非线性化方法

3.2 极速非线性判别分析网络(ENDA)

3.3 实验仿真及结果分析

3.5 本章小结

第四章 随机权重正交化极速非线性判别分析网络

4.1 正交化特征选择

4.2正交特征映射

4.2 实验结果

4.4 本章小结

第五章 总结与展望

5.1 总结

5.2 今后工作展望

参考文献

致谢

在校期间的研究成果及发表的学术论文

展开▼

摘要

由于线性判别分析仅是线性方法,难以有效应对非线性问题,而对其非线性化是解决这一问题的关键途径。非线性化判别方法主要包括神经网络和核化方法:神经网络判别分析方法虽然继承了神经网络所具有的自适应、分布存储、并行处理和非线性映射等优点,但也遗传了其训练速度慢且易陷入局部最小值的缺点;而核线性判别分析方法虽能获得全局最优解析解,但因受制于隐节点数目(等于样本个数),当数据规模增大时,计算成本变大。受极速学习机(ELM)中随机映射的启发,本文对神经网络判别分析方法进行极速化改造,实现了一种极速非线性判别分析方法(ENDA)。与传统的梯度下降学习算法相比,该方法不仅学习速度快,而且能够获得全局最优解。与KLDA相比,其隐节点个数设置更加灵活,不依赖与样本个数。
  此外,在此工作基础之上提出了权重随机正交化判别分析网络(O-ENDA),正交化方法作为机器学习领域一种重要的优化方法,广泛应用于流行的深度学习图像识别领域。针对为高维度小样本数据,通过正交化局部保持映射,一方面降低了数据的冗余信息使其更易分类,正交的随机权重分布更均匀;另一方面提取更为完备的结构特征,使其线性独立,保留了样本的多样性有利于后续分类,权重随机正交化可以提高模型泛化性能。

著录项

相似文献

  • 中文文献
  • 外文文献
  • 专利
代理获取

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号