基于强化学习的超参数优化方法

陈森朋; 吴佳; 陈修云

首页> 中文期刊> 《小型微型计算机系统》 >基于强化学习的超参数优化方法

基于强化学习的超参数优化方法

开具论文收录证明 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

近年来,机器学习算法广泛应用于多个领域.超参数的选择直接影响了算法模型的性能,然而超参数优化过程往往依赖于专业知识和长期经验的积累.为了解决上述问题,本文提出了一种基于强化学习的自动超参数优化方法.该方法将超参数优化问题作为序列决策问题并建模为马尔科夫决策过程,通过使用一个强化学习智能体（agent）,自动为机器学习算法选择超参数.该智能体以最大化待优化模型在验证数据集上的准确率为目标,将模型在验证数据集上的准确率作为奖赏值（reward）,通过策略梯度算法训练智能体.为了减小训练过程中的方差,我们设计了数据引导池模块.实验将随机森林和XGBoost算法作为优化对象,在五个数据集上与随机搜索、贝叶斯优化、TPE、CM-AES和SMAC五种优化方法进行了对比.实验结果显示,本文所提出的方法在90%的优化任务上表现出更优的性能.同时,我们通过执行一系列消融实验验证了agent结构和数据引导池的有效性.

著录项

来源
《小型微型计算机系统》 |2020年第4期|679-684|共6页
作者
陈森朋; 吴佳; 陈修云;
展开▼
作者单位

电子科技大学信息与软件工程学院;

展开▼
原文格式 PDF
正文语种 chi
中图分类自动推理、机器学习;
关键词
机器学习; 超参数优化; 长短时记忆神经网络; 强化学习;

相似文献

中文文献
外文文献
专利

1. 一种基于深度强化学习的Spark Streaming参数优化方法 [J] . 刘露 ,申国伟 ,郭春 . 计算机与现代化 . 2021,第010期
2. 基于强化学习的模型选择和超参数优化 [J] . 吴佳 ,陈森朋 ,陈修云 . 电子科技大学学报 . 2020,第002期
3. 基于相对概率变化比的CNN超参数优化方法 [J] . 李慧 ,周溪召 ,施柏州 . 上海理工大学学报 . 2021,第003期
4. 基于TPE的SpaRC算法超参数优化方法 [J] . 邓丽 ,武金达 ,李科学 . 计算机科学 . 2021,第002期
5. 基于改进粒子群算法的深度学习超参数优化方法 [J] . 李玉娟 . 信息通信 . 2020,第001期
6. 基于强化学习的转台控制参数自整定方法研究 [C] . ZHANG Qi-chen ,张祺深 ,YE Ming . 第十五届中国航空测控技术年会 . 2018
7. 基于群体的深度强化学习超参数自适应方法研究 [A] . 周银达 . 2019

基于强化学习的超参数优化方法

摘要

著录项

相似文献

相关主题

期刊订阅