• 主题
高级搜索  >
历史搜索 清空历史
首页> 外文学位 >Automatic step-size adaptation in incremental supervised learning.
【24h】

Automatic step-size adaptation in incremental supervised learning.

机译：在逐步监督学习中自动调整步长。

获取原文
获取原文并翻译 | 示例
页面导航
  • 摘要
  • 著录项
  • 相似文献
  • 相关主题

摘要

Performance and stability of many iterative algorithms such as stochastic gradient descent largely depend on a fixed and scalar step-size parameter. Use of a fixed and scalar step-size value may lead to limited performance in many problems. We study several existing step-size adaptation algorithms in nonstationary, supervised learning problems using simulated and real-world data. We discover that effectiveness of the existing step-size adaptation algorithms requires tuning of a meta parameter across problems. We introduce a new algorithm---Autostep---by combining several new techniques with an existing algorithm, and demonstrate that it can effectively adapt a vector step-size parameter on all of our training and test problems without tuning its meta parameter across them. Autostep is the first step-size adaptation algorithm that can be used in widely different problems with the same setting of all of its parameters.
机译：许多迭代算法（例如随机梯度下降）的性能和稳定性在很大程度上取决于固定和标量步长参数。在许多问题中，使用固定的标量步长值可能会导致性能受限。我们使用模拟和现实数据研究了几种非平稳监督学习问题中现有的步长自适应算法。我们发现，现有步长自适应算法的有效性需要跨问题调整元参数。通过将几种新技术与现有算法相结合，我们引入了一种新算法-Autostep-，并证明了该算法可以有效地将矢量步长参数调整为我们所有的训练和测试问题，而无需在它们之间调整其元参数。 Autostep是第一种步长大小自适应算法，可通过对所有参数进行相同设置来解决广泛不同的问题。

著录项

  • 作者

    Mahmood, Ashique.;

  • 作者单位

    University of Alberta (Canada).;

  • 授予单位 University of Alberta (Canada).;
  • 学科 Computer science.
  • 学位 M.S.
  • 年度 2010
  • 页码 100 p.
  • 总页数 100
  • 原文格式 PDF
  • 正文语种 eng
  • 中图分类 老年病学;
  • 关键词

相似文献

  • 外文文献
  • 中文文献
  • 专利
获取原文

客服邮箱：kefu@zhangqiaokeyan.com

京公网安备：11010802029741号 ICP备案号：京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有

  • 客服微信

  • 服务号