首页> 中文学位 >精确增量式支持向量机的研究与应用
【6h】

精确增量式支持向量机的研究与应用

代理获取

摘要

自20世纪90年代中期由Vapnik等人提出支持向量机(SVMs),由于其具有通用性、鲁棒性以及良好推广性等特点,已经成为解决分类、回归等统计学习问题一种流行的技术,并广泛应用于数据挖掘、模式识别以及生物信息学等领域。然而在实际应用中,数据通常是在线环境下增量提供的(例如信息检索、协同过滤、航班延误预警等),这时批处理算法由于不具有实时性而通常会失效,增量式算法为解决该类问题提供了一种可行的途径。
   2001年,Cauwenberghs和Poggio首次提出了一个精确有效的增量式支持向量机算法(C&P算法),本文将以C&P算法为研究对象展开深入的研究,致力于完善C&P算法在理论分析与算法扩展方面(v支持向量机,排列支持向量机)的工作,并应用C&P算法思想解决v支持向量回归机的解路径问题。本文取得的创新研究成果如下:
   (1)对于标准的C&P算法,探讨了算法每次迭代的可行性,并证明了经过有限步迭代后该算法必将收敛于最优解。
   (2)对于标准的v支持向量分类机,首先给出了一种修改了的问题表示形式,在此基础上,提出一种新的增量式算法。在标准数据集上的实验说明了该算法能够尽量避开不可行的更新路径,并且在有限步迭代后成功地收敛到最优解,在高斯核上获得更快的收敛速度,比批处理算法效率更高。
   (3)在根据最大化间隔原则得出的一个排列问题表达形式的基础上,提出了一个新的增量式算法。该增量式算法包括两个步骤:第一步为松弛的绝缘增量调整;第二步为严格的恢复调整。理论分析可以证明通过这两个步骤,该增量式算法尽可能地避开不可行更新路径,并且在有限步后收敛到问题的最优解。在标准数据集上的实验也说明了本文提出的问题表达形式和由Shashua和Levin提出的两个问题表达形式有相似的预测精度,而该增量式算法在高斯核上有较快的收敛速度。
   (4)对于标准的v支持向量回归机,首先给出了一种修改了的问题表示形式,在此基础上,提出了一种新的v解路径算法,该算法能针对参数v刻画出所有对应的解。实验和理论分析说明了该算法能尽可能地避开不可更新路径,并在有限步内拟合出所有的v解路径。

著录项

相似文献

  • 中文文献
  • 外文文献
  • 专利
代理获取

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号