结合BERT和BiSRU-AT的中文文本情感分类

黄泽民; 吴晓鸰; 吴迎岗; 凌捷

首页> 中文期刊> 《计算机工程与科学》 >结合BERT和BiSRU-AT的中文文本情感分类

结合BERT和BiSRU-AT的中文文本情感分类

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

针对传统语言模型的词向量表示无法解决多义词表征的问题,以及现有情感分析模型不能充分捕获长距离语义信息的问题,提出了一种结合BERT和BiSRU-A T的文本情感分类模型BERT-BiSRU-A T.首先用预训练模型BERT获取融合文本语境的词向量表征;然后利用双向简单循环单元(BiSRU)二次提取语义特征和上下文信息;再利用注意力机制对BiSRU层的输出分配权重以突出重点信息;最后使用Softmax激励函数得出句子级别的情感概率分布.实验采用中文版本的推特数据集和酒店评论数据集.实验结果表明,结合BERT和BiSRU-A T的文本情感分析模型能够获得更高的准确率,双向简单循环模型和注意力机制的引入能有效提高模型的整体性能,有较大的实用价值.

著录项

来源
《计算机工程与科学》 |2021年第9期|1668-1675|共8页
作者
黄泽民; 吴晓鸰; 吴迎岗; 凌捷;
展开▼
作者单位

广东工业大学计算机学院广东广州510006;

广东工业大学计算机学院广东广州510006;

广东工业大学计算机学院广东广州510006;

广东工业大学计算机学院广东广州510006;

展开▼
原文格式 PDF
正文语种 chi
中图分类信息处理（信息加工）;
关键词
文本情感分析; 语义特征; 注意力机制; 双向简单循环单元; 双向解码器;

相似文献

中文文献
外文文献
专利

1. 结合RNN和CNN层次化网络的中文文本情感分类 [J] . 罗帆 ,王厚峰 . 北京大学学报：自然科学版 . 2018,第3期
2. 基于改进BERT模型的时政微博评论情感分类 [J] . 赵柳杨 ,杜彦辉 ,王腾飞 . 中国人民公安大学学报（自然科学版） . 2021,第001期
3. 基于BERT的不完全数据情感分类 [J] . 罗俊 ,陈黎飞 . 计算机应用 . 2021,第001期
4. 基于BERT和BiGRU的在线评论文本情感分类研究 [J] . 姚妮 ,高政源 ,娄坤 . 郑州轻工业学院学报（自然科学版） . 2020,第005期
5. 基于BERT和双通道注意力的文本情感分类模型 [J] . 谢润忠 ,李烨 . 数据采集与处理 . 2020,第004期
6. 贝叶斯与语言模型相结合的中文文本分类方法的研究 [C] . 闫涛 ,高光来 . 2008年全国模式识别学术会议 . 2008
7. 增强BERT知识蒸馏与情感分类研究 [A] . 韦舒勇 . 2021

结合BERT和BiSRU-AT的中文文本情感分类

摘要

著录项

相似文献

相关主题

期刊订阅