基于交叉注意力机制的多视图项目文本分类方法

方正云; 杨政; 李丽敏; 李天骄

首页> 中文期刊> 《中文信息学报》 >基于交叉注意力机制的多视图项目文本分类方法

基于交叉注意力机制的多视图项目文本分类方法

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

科研项目文本的分类往往需要耗费巨大的人力、物力,因此采用智能方法实现对项目文本分类意义重大。文本分类方法的核心在于文本语义特征的提取,高效的特征提取方法有助于准确构建文本到类别之间的映射。已有的文本分类方法往往基于整个文本或者一部分文本作为分类依据,可能出现信息的冗余或缺失。该文针对结构化的项目文本,在BERT等预训练网络的基础上,创新性地提出基于单交叉注意力机制的两视图项目文本分类学习方法(Two-View Cross Attention,TVCA)和基于双交叉注意力机制的多视图项目文本分类学习方法(Multi-View Cross Attention,MVCA)。MVCA方法基于项目文本的一个主要视图(项目摘要)和两个辅助视图(研究内容、目的和意义),通过两个交叉注意力机制提取包含更丰富语义信息的特征向量,进一步改善分类模型的性能。我们将TVCA和MVCA方法应用于英文论文数据Web of Science Meta-data和南方电网科技项目文本的分类任务中,实验结果验证了TVCA和MVCA方法无论从分类效果还是收敛速度上,都明显优于已有的比较方法。

著录项

来源
《中文信息学报》 |2022年第7期|123-131|共9页
作者
方正云; 杨政; 李丽敏; 李天骄;
展开▼
作者单位

昆明理工大学国土资源工程学院;

云南电网有限责任公司;

云南电网有限责任公司电力科学研究院;

西安交通大学数学与统计学院;

展开▼
原文格式 PDF
正文语种 chi
中图分类信息处理（信息加工）;
关键词
多视图分类; 交叉注意力机制; 文本分类;

相似文献

中文文献
外文文献
专利

1. 基于Word2Vec和改进注意力机制AlexNet-2的文本分类方法 [J] . 钟桂凤 ,庞雄文 ,隋栋 . 计算机科学 . 2022,第4期
2. 基于多层异构注意力机制和深度学习的短文本分类方法 [J] . 武渊 ,徐逸卿 . 中北大学学报（自然科学版） . 2021,第005期
3. 一种基于嵌入式注意力机制的文本分类方法 [J] . 熊宽 . 软件 . 2020,第6期
4. 基于用户-项目交叉注意力机制的迁移推荐模型 [J] . 单荣杰 ,马文明 ,祁明明 . 计算机应用与软件 . 2022,第1期
5. 基于注意力机制的三维模型多视图分类算法研究 [J] . 金妍君 ,万旺根 . 工业控制计算机 . 2020,第006期
6. 基于多维文本分类的海外矿业投资项目动态风险评价方法 [C] . 胡东滨 ,徐丽华 . 第十三届中国管理科学学术年会 . 2011
7. 基于注意力机制的中文文本分类方法及鲁棒性研究 [A] . 王从超 . 2021

基于交叉注意力机制的多视图项目文本分类方法

摘要

著录项

相似文献

相关主题

期刊订阅