神经网络模型中灾难性遗忘研究的综述

韩纪东; 李玉鑑

首页> 中文期刊> 《北京工业大学学报》 >神经网络模型中灾难性遗忘研究的综述

神经网络模型中灾难性遗忘研究的综述

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

近年来,神经网络模型在图像分割、目标识别、自然语言处理等诸多领域都取得了巨大的成功.但是,神经网络模型仍有很多关键性的问题尚未得到解决,其中就包括灾难性遗忘问题.人类在学习新知识后不会对旧知识发生灾难性遗忘,神经网络模型则与之相反.神经网络模型在适应新任务之后,几乎完全忘记之前学习过的任务.为了解决这一问题,很多相应的减缓神经网络模型灾难性遗忘的方法被提出.对这些方法进行了归纳总结,以促进对该问题的进一步研究.主要贡献包括3个方面:对现有的减缓神经网络模型灾难性遗忘的方法进行了详细的介绍,并将不同方法分为4类,即基于样本的方法、基于模型参数的方法、基于知识蒸馏的方法和其他方法.介绍了不同的评估方案,以评估不同方法对减缓神经网络模型灾难性遗忘的效果.对神经网络模型中的灾难性遗忘问题进行了开放性的讨论,并给出了一些研究建议.

著录项

来源
《北京工业大学学报》 |2021年第5期|551-564|共14页
作者
韩纪东; 李玉鑑;
展开▼
作者单位

北京工业大学信息学部北京 100124;

北京工业大学信息学部北京 100124;

桂林电子科技大学人工智能学院广西桂林 541004;

展开▼
原文格式 PDF
正文语种 chi
中图分类人工神经网络计算机;
关键词
神经网络模型; 灾难性遗忘; 样例; 模型参数; 知识蒸馏; 增量学习;

相似文献

中文文献
外文文献
专利

1. 克服小样本学习中灾难性遗忘方法研究 [J] . 李文煜 ,帅仁俊 ,郭汉 . 计算机应用与软件 . 2020,第007期
2. 财务困境预测中BP神经网络模型应用综述 [J] . 许静 ,李晓静 . 中国管理信息化 . 2009,第021期
3. 紧凑的神经网络模型设计研究综述 [J] . 郎磊 ,夏应清 . 计算机科学与探索 . 2020,第009期
4. 基于神经网络模型的文本分类研究综述 [J] . 孙嘉琪 ,王晓晔 ,周晓雯 . 天津理工大学学报 . 2019,第005期
5. 混沌神经网络模型及其应用研究综述 [J] . 王耀南 ,余群明 ,袁小芳 . 控制与决策 . 2006,第2期
6. 浅议记者在灾难性事件报道中的道德伦理——以汶川地震采访报道为例 [C] . . 第六届亚太地区媒体与科技和社会发展研讨会 . 2008
7. 从遗忘中透视米兰·昆德拉的存在之思——“遗忘三部曲”的主题研究 [A] . 马佳 . 2009

神经网络模型中灾难性遗忘研究的综述

摘要

著录项

相似文献

相关主题

期刊订阅