结合Bert与Bi-LSTM的英文文本分类模型

张卫娜

首页> 中文期刊> 《计算机测量与控制》 >结合Bert与Bi-LSTM的英文文本分类模型

结合Bert与Bi-LSTM的英文文本分类模型

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

作为自然语言处理技术中的底层任务之一,文本分类任务对于上游任务有非常重要的辅助价值;最近几年,深度学习广泛应用于NLP中的上下游任务的趋势,深度学习在下游任务文本分类中性能不错;但是目前的基于深层学习网络的模型在捕捉文本序列的长距离型上下文语义信息进行建模方面仍有不足,同时也没有引入语言信息来辅助分类器进行分类;针对这些问题,提出了一种新颖的结合Bert与Bi-LSTM的英文文本分类模;该模型不仅能够通过Bert预训练语言模型引入语言信息提升分类的准确性,还能基于Bi-LSTM网络去捕捉双向的上下文语义依赖信息对文本进行显示建模;具体而言,该模型主要有输入层、Bert预训练语言模型层、Bi-LSTM层以及分类器层搭建而成;实验结果表明,与现有的分类模型相比较,所提出的Bert-Bi-LSTM模型在MR数据集、SST-2数据集以及CoLA数据集测试中达到了最高的分类准确率,分别为86.2%、91.5%与83.2%,大大提升了英文文本分类模型的性能。

著录项

来源
《计算机测量与控制》 |2023年第4期|213-218|共7页
作者
张卫娜;
展开▼
作者单位

西安思源学院;

展开▼
原文格式 PDF
正文语种 chi
中图分类无线电电子学的应用;信息处理（信息加工）;
关键词
文本分类; 深度学习; 上下文语义信息; Bert; Bi-LSTM;

相似文献

中文文献
外文文献
专利

1. 结合SS-GAN和BERT的文本分类模型 [J] . 宛艳萍 ,闫思聪 ,于海阔 . 计算机技术与发展 . 2023,第2期
2. 基于CNN与Bi-LSTM混合模型的中文文本分类方法 [J] . 王佳慧 . 软件导刊 . 2023,第1期
3. 结合BERT和特征投影网络的新闻主题文本分类方法 [J] . 张海丰 ,曾诚 ,潘列 . 计算机应用 . 2022,第4期
4. 结合BERT词嵌入和双向循环卷积神经网络的新闻文本分类研究 [J] . 任鹏 ,李文杰 ,舒宇杰 . 信息记录材料 . 2022,第6期
5. 结合Bert字向量和卷积神经网络的新闻文本分类方法 [J] . 刘凯洋 . 电脑知识与技术 . 2020,第001期
6. 贝叶斯与语言模型相结合的中文文本分类方法的研究 [C] . 闫涛 ,高光来 . 2008年全国模式识别学术会议 . 2008
7. 字符特征和主题特征相结合的文本分类模型的研究及应用 [A] . 司玮辰 . 2019

结合Bert与Bi-LSTM的英文文本分类模型

摘要

著录项

相似文献

相关主题

期刊订阅