基于多头自注意力和并行混合模型的文本情感分析

李辉; 黄钰杰

首页> 中文期刊> 《河南理工大学学报（自然科学版）》 >基于多头自注意力和并行混合模型的文本情感分析

基于多头自注意力和并行混合模型的文本情感分析

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

针对以往研究大多使用单一模型进行文本情感分析,导致无法很好地捕捉相关文本的情感特征,从而造成情感分析效果不理想的问题,提出一种基于多头自注意力和并行混合模型的文本情感分析方法.首先,利用Word2vec模型捕捉单词的语义特征,训练词向量;其次,借助双层多头自注意力机制(double layer multi-head self-attention,DLMA)学习文本内部的词依赖关系,捕获其内部结构特征;再次,使用并行的双向门限循环神经网络(bi-directional gated re-current nnit,BiGRU)获取文本的序列特征;最后,借助改进的并行卷积神经网络(convolutional neural network,CNN)提取深层次特征信息.将该模型分别在2个数据集上进行实验验证,其准确率分别达到92.71％和91.08％.结果表明,该方法比其他模型具有更好的学习能力.

著录项

来源
《河南理工大学学报（自然科学版）》 |2021年第1期|125-132|共8页
作者
李辉; 黄钰杰;
展开▼
作者单位

河南理工大学物理与电子信息学院河南焦作454000;

河南理工大学电气工程与自动化学院河南焦作454000;

展开▼
原文格式 PDF
正文语种 chi
中图分类文字信息处理;
关键词
多头自注意力; 双向门限循环神经网络; 卷积神经网络; 文本情感分析;

相似文献

中文文献
外文文献
专利

1. 基于多头注意力机制的BiGRU-CNN文本情感分析 [J] . 郝星跃 . 计算机科学与应用 . 2022,第1期
2. 基于并行混合神经网络模型的短文本情感分析 [J] . 陈洁 ,邵志清 ,张欢欢 . 计算机应用 . 2019,第008期
3. 基于混合多头注意力和胶囊网络的特定目标情感分析 [J] . 王家乾 ,龚子寒 ,薛云 . 中文信息学报 . 2020,第005期
4. 基于并行混合网络融入注意力机制的情感分析 [J] . 孙敏 ,李旸 ,庄正飞 . 计算机应用 . 2020,第009期
5. 基于视觉方面注意力的图像文本情感分析模型 [J] . 袁景凌 ,丁远远 ,盛德明 . 计算机科学 . 2022,第1期
6. 基于混合多头注意力和胶囊网络的特定目标情感分析 [C] . Jiaqian Wang ,王家乾 ,Zihan Gong . 第十八届中国计算语言学大会暨中国中文信息学会2019学术年会 . 2018
7. 基于混合神经网络引入注意力机制的情感分析模型研究 [A] . 李婧 . 2020

基于多头自注意力和并行混合模型的文本情感分析

摘要

著录项

相似文献

相关主题

期刊订阅