基于ERNIE-RCNN模型的中文短文本分类

王浩畅; 孙铭泽

首页> 中文期刊> 《计算机技术与发展》 >基于ERNIE-RCNN模型的中文短文本分类

基于ERNIE-RCNN模型的中文短文本分类

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

由于中文短文本存在特征词少、规范性差、数据规模量大等难点,ERNIE预训练模型占用内存大,进行短文本分类时会造成向量空间稀疏、文本预训练不准确、时间复杂度高等问题。针对以上短文本分类存在的问题,提出基于ERNIE-RCNN模型的中文短文本分类。模型运用ERNIE模型作为词向量,对实体和词语义单元掩码,后连接Transformer的编码层,对ERNIE层输出的词嵌入向量进行编码,优化模型过拟合问题,增强泛化能力,RCNN模型对ERNIE输入的词向量进行特征提取,卷积层利用大小不同的卷积核提取大小不同的特征值,池化层进行映射处理,最后通过softmax进行分类。将该模型与七种深度学习文本分类模型在中文新闻数据集上进行训练实验,得到了模型在准确率、精准率、召回率、F1值、迭代次数、运行时间上的对比结果,表明ERNIE-RCNN模型能够很好地提取文本中的特征信息,减少了训练时间,有效解决了中文短文本分类的难点,具有很好的分类效果。

著录项

来源
《计算机技术与发展》 |2022年第6期|28-33|共6页
作者
王浩畅; 孙铭泽;
展开▼
作者单位

东北石油大学计算机与信息技术学院;

展开▼
原文格式 PDF
正文语种 chi
中图分类信息处理（信息加工）;
关键词
中文短文本分类; ERNIE模型; ERNIE-RCNN模型; 词向量; 特征提取; 深度学习;

相似文献

中文文献
外文文献
专利

1. 基于ERNIE_BiGRU模型的中文医疗文本分类 [J] . 常俊豪 ,武钰智 . 电脑知识与技术:学术版 . 2022,第1期
2. 基于BERT模型的中文短文本分类算法 [J] . 段丹丹 ,唐加山 ,温勇 . 计算机工程 . 2021,第1期
3. 基于LOTClass模型的弱监督中文短文本分类算法 [J] . 刘硕 ,王庚润 ,任玉媛 . 信息工程大学学报 . 2021,第005期
4. 基于ERNIE模型的中文文本分类研究 [J] . 毕云杉 ,钱亚冠 ,张超华 . 浙江科技学院学报 . 2021,第6期
5. 基于改进TF-IDF和ABLCNN的中文文本分类模型 [J] . 景丽 ,何婷婷 . 计算机科学 . 2021,第0z2期
6. 基于语言模型的中文文本分类系统 [C] . 杜鲁燕 ,苗振江 . 第十届全国人机语音通讯学术会议 . 2009
7. 基于CNN混合模型的中文新闻文本分类方法研究 [A] . 刘亚培 . 2021

基于ERNIE-RCNN模型的中文短文本分类

摘要

著录项

相似文献

相关主题

期刊订阅