Barzilai-Borwein梯度法及其在优化算法中的应用

代理获取

页面导航

目录
摘要
著录项
相似文献
相关主题

摘要

梯度法是求解无约束优化问题的基本方法之一，其算法简单，所需存储较少.但此方法中步长的选取对计算效果有较大的影响，Barzilai和Borwein提出的两点步长其对应的Barzilai-Borwein (BB)梯度法由于有较好的计算效果和收敛性，现在已经发展成为求解大规模问题竞争力很强的一种方法，受到众多学者的广泛关注. 本文主要探讨新的BB型梯度算法及其在优化算法中的应用. 主要内容包括以下几个方面: 1. 探寻新的BB型梯度算法. 基于Ford和Moghrabi的多步拟牛顿方程,通过修正原始的BB步长使其满足这一特定的拟牛顿特性,提出了一族新的BB型步长并建立了采用新步长的梯度型算法对严格凸二次极小化问题的全局收敛性. 将新方法应用于实际问题与由机器产生的随机问题,结果表明,新的BB型方法优于现存的一些梯度型算法. 2. 研究BB型步长在优化算法中的应用. 首先，结合非单调线搜索，将第一部分内容中的MBB方法推广到一般的非二次无约束优化问题的求解当中. 其次,由于改进的拟牛顿方程与Dai-Liao共轭梯度法之间存在着紧密的联系，将在Dai-Liao方法中使用过的具有一定最优特性的BB型参数值应用到变尺度BFGS方法与修正的BFGS方法当中. 最后，将BB型步长嵌入到自适应三次正则化方法中,用实正定数量矩阵代替精确Hessian或其拟牛顿逼近,简化了算法中子问题的求解且改进后的算法适用于大规模问题.数值试验表明,这些修正合理且有效. 在此期间,还通过插值的方式,统一了现有的对拟牛顿方程的大部分改进,为这些改进的提出给出了一个自然的阐释. 3. 研究BB型方法求解对称不定线性方程组的收敛性. 我们得出: 二维情形下，采用第二种形式BB步长的方法是R-超线性收敛的. 这一理论结果和戴彧红在对称正定情形下关于BB方法的结果一致. 4. 改进共轭梯度法. 通过修正共轭梯度法中的共轭参数，提出了几个改进的共轭梯度算法，其中包括两种Dai-Liao形式的共轭梯度法. 在一定条件下，结合强Wolfe线搜索，给出了算法对一致凸函数的强收敛性以及一般函数的全局收敛性. 数值试验表明本章给出的算法比已有的同类算法更有效.

著录项

作者
郑燏涛;
展开▼
作者单位

兰州大学;

展开▼
授予单位兰州大学;
学科数学·计算数学
授予学位博士
导师姓名郑兵;
年度 2018
页码
总页数
原文格式 PDF
正文语种中文
中图分类
关键词
梯度法; 优化算法;

相似文献

中文文献
外文文献
专利

1. 基于Barzilai-Borwein梯度法的多微电网系统递阶优化调度算法 [J] . 郑鹏远 ,李琴 ,孙忠林 . 科学技术与工程 . 2020,第030期
2. 基于自适应Barzilai-Borwein步长的直接搜索共轭梯度法 [J] . 刘加会 ,刘红卫 ,杨善学 . 吉林大学学报（理学版） . 2017,第003期
3. 嵌入Stabilized Barzilai-Borwein步长的一阶随机优化算法研究 [J] . 史卫娟 ,Adibah Shuib ,Zuraida Alwadood . 现代信息科技 . 2021,第015期
4. 基于梯度法的微粒群优化算法在船舶电力系统的应用 [J] . 李喜林 ,申英霞 . 舰船科学技术 . 2019,第8期
5. 改进的混合共轭梯度法求解无约束优化算法 [J] . 吴素芹 ,於建华 ,李先锋 . 计算机工程与设计 . 2017,第008期
6. 磁梯度法在上海轨道交通14号线深埋管线探测中的应用研究 [C] . He Yamin ,何亚敏 . 第十五届全国工程物探与岩石工程测试学术大会 . 2017
7. 基于Bregman迭代的优化算法及共轭梯度法在图像恢复中的应用 [A] . 崔青 . 2017

Barzilai-Borwein梯度法及其在优化算法中的应用

目录

摘要

著录项

相似文献

相关主题

期刊订阅