基于局部注意力机制的弱监督长文档分类

马雯琦; 何跃

首页> 中文期刊> 《计算机系统应用》 >基于局部注意力机制的弱监督长文档分类

基于局部注意力机制的弱监督长文档分类

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

自然语言处理中的文档分类任务需要模型从低层级词向量中抽取高层级特征.通常,深度神经网络的特征抽取会利用文档中所有词语,这种做法不能很好适应内容较长的文档.此外,训练深度神经网络需要大量标记数据,在弱监督情况下往往不能取得良好效果.为迎接这些挑战,本研究提出应对弱监督长文档分类的方法.一方面,利用少量种子信息生成伪文档以增强训练数据,应对缺乏标记数据造成的精度难以提升的局面.另一方面,使用循环局部注意力学习,仅基于若干文档片段抽取出摘要特征,就足以支撑后续类别预测,提高模型的速度和精度.实验表明,本研究提出的伪文档生成模型确实能够增强训练数据,对预测精度的提升在弱监督情况下尤为显著;同时,基于局部注意力机制的长文档分类模型在预测精度上显著高于基准模型,处理速度也表现优异,具有实际应用价值.

著录项

来源
《计算机系统应用》 |2021年第11期|54-62|共9页
作者
马雯琦; 何跃;
展开▼
作者单位

中国科学技术大学管理学院合肥230026;

四川大学商学院成都610065;

展开▼
原文格式 PDF
正文语种 chi
中图分类
关键词
文档分类; 深度学习; 弱监督学习; 伪文档; 局部注意力机制;

相似文献

中文文献
外文文献
专利

1. 基于注意力机制的弱监督细粒度图像分类 [J] . 李文书 ,王志骁 ,李绅皓 . 计算机系统应用 . 2021,第010期
2. 基于结构化局部边缘模式的文档图像分类 [J] . 石蒙蒙 ,李绍滋 ,曹冬林 . 厦门大学学报（自然科学版） . 2013,第003期
3. 基于局部敏感哈希算法的语音文档主题分类 [J] . 何学文 ,张磊 . 大众科技 . 2012,第003期
4. 基于局部-全局一致性学习的弱监督人手分割 [J] . 谢志坚 ,李寅霖 ,郑碎武 . 计算机应用与软件 . 2019,第001期
5. 一种基于Tri-training的半监督多标记学习文档分类算法 [J] . 高嘉伟 ,梁吉业 ,刘杨磊 . 中文信息学报 . 2015,第001期
6. 一种基于模糊分类的多分类文档查找方法 [C] . 徐斌 ,顾宏斌 . 第三届全国信息检索与内容安全学术会议 . 2007
7. 基于自注意力机制的弱监督和半监督语义分割 [A] . 姚祺 . 2020

基于局部注意力机制的弱监督长文档分类

摘要

著录项

相似文献

相关主题

期刊订阅