面向语言模型的神经元连接自动学习方法

姜雨帆; 李北; 林野; 李垠桥; 肖桐; 朱靖波

首页> 中文期刊> 《厦门大学学报：自然科学版》 >面向语言模型的神经元连接自动学习方法

面向语言模型的神经元连接自动学习方法

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

在自然语言处理中,由于神经网络的结构需要人工设计,容易导致复杂的神经网络结构中存在大量冗余.为了减少冗余,人们常采用剪枝等模型压缩方法,但是这类方法通过一些与训练过程无关的指标直接对模型进行裁剪时往往造成性能损失.因此探索了一种神经网络中神经元连接的自动学习方法,通过在训练中对神经元连接进行动态生长和删除的方法,可以更好地对网络连接进行动态操作,从而得到更紧凑、高效的网络结构.使用该方法在神经语言模型上进行自动生长和消去,在保证网络性能不变的前提下,网络规模可缩小49%.

著录项

来源
《厦门大学学报：自然科学版》 |2019年第2期|225-230|共6页
作者
姜雨帆; 李北; 林野; 李垠桥; 肖桐; 朱靖波;
展开▼
作者单位

东北大学计算机科学与工程学院自然语言处理实验室;

展开▼
原文格式 PDF
正文语种 chi
中图分类信息处理（信息加工）;
关键词
语言模型; 神经元连接; 剪枝;

相似文献

中文文献
外文文献
专利

1. 一种面向用户的语言模型及其机器学习方法 [J] . 刘秉权 ,王晓龙 . 哈尔滨工业大学学报 . 2004,第002期
2. 面向口语统计语言模型建模的自动语料生成算法 [J] . 司玉景 ,肖业鸣 ,徐及 . 自动化学报 . 2014,第012期
3. 一种面向海量咨询语句的文法自动学习方法 [J] . 方文英 ,童林 ,朱俊武 . 江苏科技大学学报（自然科学版） . 2016,第001期
4. 新型面向连接以太无源网络自动保护设计 [J] . 张华 ,姚嘉鑫 . 光通信技术 . 2014,第006期
5. 面向更小应用的自动连接系统 [J] . . 今日电子 . 2001,第12期
6. 面向信息检索的近邻语言模型 [C] . 韩中元 ,李生 ,杨沐昀 . 第六届全国信息检索学术会议 . 2010
7. 面向自动化构建知识图谱的多任务强化学习方法研究 [A] . 陈国飞 . 2020

面向语言模型的神经元连接自动学习方法

摘要

著录项

相似文献

相关主题

期刊订阅