命名实体识别

摘要： 中文文本实体识别,是自然语言处理的关键问题.传统的语言处理模型无法有效表示文本中的上下文语义信息,无法处理一词多义的不同语境,影响实体识别效果.提出了一种BERT-BiLSTM-CRF的实体识别模型,BERT预处理语言模型生成表征上下文语义信息的词向量,通过双向长短期记忆网络对生成的向量进行特征提取,自注意力机制能够有效获取文本语句中的长距离依赖,最后通过CRF进行解码生成实体标签序列.实验结果表明,该模型在微软亚洲研究院MSRA语料库和人民日报语料库上都取得了优异成绩,F1分别达到96.12％和95.88％.

摘要： 针对现有命名实体识别存在数据处理效率低的问题,该文提出了一种并行化Block-BAC模型。提出了前处理中的数据分块优化算法,并基于Hadoop实现并行化的运作机制;采用局部注意力优化机制,有效减少模型的隐层节点。与已有的BERT-BAC模型相比,在确保较高F;值(精确率和召回率的调和平均数)的情况下,该模型训练时间和实体识别时间分别缩短60.36%、39.43%,具有更广泛的实用性。

摘要： 近年来,在大规模标注语料上训练的神经网络模型大大提升了命名实体识别任务的性能。但是,新领域人工标注数据获取代价高昂,如何快速、低成本地进行领域迁移就显得非常重要。在目标领域仅给定无标注数据的情况下,该文尝试自动构建目标领域的弱标注语料并对其建模。首先,采用两种不同的方法对无标注数据进行自动标注;然后,采用留“同”去“异”的方式,尽量减少错误标注,自动生成局部标注的语料;最终,该文提出一种新的基于局部标注学习的实体识别模型,该模型可以在弱标注数据上进行训练。新闻领域到社交领域和金融领域的迁移实验结果证明,该文方法能有效提升命名实体识别模型的领域自适应性能,并且迁移代价较低。在加入预训练语言模型BERT的条件下,该方法也表现出较好的性能。

摘要： 命名实体识别是指从文本中提取出专有名词或特定命名实体的识别任务,作为信息抽取中非结构化数据转化为结构化数据的关键步骤,在机器翻译、情感分析、信息检索等领域有广泛应用,是自然语言处理的热点问题。文章就现有的命名实体识别技术方法进行了详细地梳理,重点阐述了基于深度学习的命名实体识别方法及其实现过程,进而分析了具有代表性的典型算法的优缺点,并对命名实体识别技术在电力系统中的应用前景进行了展望。

摘要： 命名实体识别是自然语言处理的一项重要技术,也是问答系统、句法分析、机器翻译等下游工作的基本任务。煤矿事故案例命名实体识别是构建煤矿安全生产知识图谱的关键环节,其效率和准确率直接影响后期知识图谱的质量。针对传统命名实体识别方法训练时间长、识别率低的问题及煤矿事故案例的描述特点,以自构的标注语料集CoalMineCorpus为研究对象,基于深度学习算法,该文提出了一种结合ALBERT和迭代扩张卷积的命名实体识别方法。首先引入ALBERT预训练语言模型生成字向量,提升传统字向量的文本表示能力;然后将字向量序列输入改进的卷积神经网络中,其中卷积层采用四个三层结构的迭代扩张卷积模块完成特征抽取,采用RELU激活函数,取消池化层避免特征损失,使用Dropout和自适应矩估计对模型进行优化;最后使用条件随机场对标签序列结果进行合法性约束。实验结果表明,该模型在较大提升准确率、召回率和F值的同时可以有效缩短训练时间,可用于煤矿事故领域的命名实体识别工作。

摘要： 命名实体识别作为自然语言处理领域的基础问题一直备受关注。中文命名实体特别是组合命名实体,由于其内部结构复杂,故长度可以很长,已有的研究还存在以下两个问题:一是字和词之间的关联信息未能充分挖掘,无法将组合实体和简单实体做统一处理;二是组合实体加大了实体序列长短的差异,文本自身信息的捕获不充分。针对问题一,该文借助融合了双向注意力机制的高速网络来充分挖掘字与词之间的关联关系,通过抽取词内部多种有效的字的组合来丰富词的表征;针对问题二,通过自注意力机制从多层次、多视角捕获文本信息,并借助高速网络进行信息的有效桥接。在OntoNotes V 4.0公开语料上的实验结果表明了该文方案的有效性,在不使用大型预训练语言模型的情况下,该文提出的基于两段高速网络的模型取得了目前最好的性能。

摘要： 针对民航旅客机上接打电话、扰乱其他乘客等各种不循规行为,提出了一种Tag+Bi-LSTM+CRF神经网络模型,可识别出不文明旅客实体信息。考虑到民航文本记录中一条语句中有多个实体,实体出现在句子中的模式可能包含有用的语义信息,将命名实体识别任务中的字符通过BIOES标记方法标记后与词嵌入、位置嵌入串联,以丰富输入表示。首先,利用Yedda工具对民航旅客随机记录文本中的实体进行标注,结合词嵌入、位置嵌入作为模型输入,其次,采用双向长短时记忆网络(Bi-LSTM,bi-directional long short-term memory)模型获取序列文本的上下文特征,然后,通过条件随机场(CRF,conditional random field)模型获得序列标注结果,最后,分别在输入层和Bi-LSTM层添加dropout层,防止数据过拟合。实验结果表明,该模型在民航不文明旅客实体识别中精确率、召回率和F1均高达96%以上,能有效获取不文明旅客行为、等级、处罚、期限等信息。

摘要： 面向工艺文本中的命名实体,该文提出一种融入领域知识的神经网络命名实体识别方法,旨在对零件、工程图纸、参考标准、属性等12类命名实体进行识别。该方法针对工艺实体的特点,利用领域词典及规则预识别出部分实体,形成预识别实体特征,将预识别实体特征加入CNN-BiLSTM-CRF神经网络模型,指导训练与预测。实验结果表明,该方法在工艺文本中能较好地完成命名实体识别任务,在提高词典及规则覆盖的实体识别效果的同时,还能够提高其他类实体的识别效果,通过加入预识别实体特征,使得F_(1)值从90.99%提升到93.03%,验证了该文方法的有效性。

摘要： 试题分割的准确性直接影响着试题库建设的质量。受限于试题文档的类型和编写规范,当前试题自动分割方法在复杂类型和包含富文本信息的试题文档上的准确率仍有待提高。通过将试题中的标题、题号、选项号、答案、解析等关键词抽象为实体,提出了一种基于命名实体识别的试题自动分割方法。将标注的实体作为分割点,实现试题的自动拆分。自建试题语料作为训练数据,并设定了文档预处理规则,对试题中的图表、字体样式等关键信息进行特定标记。构建了多个实体识别模型进行实验,结果表明:基于BERT+双向长短时记忆(Bi-LSTM)+条件随机场(CRF)的实体识别模型F1值相对于Bi-LSTM+CRF模型和CRF模型分别提升了3.31%和13.17%。

摘要： 在传统中文电子病历的命名实体识别任务中,针对医疗实体边界不清、实体嵌套、语句成分缺失、高度依赖人工提取特征等问题,提出基于词嵌入结合BiLSTM-CRF模型的中文电子病历命名实体识别模型。将电子病历文本数据集进行脱敏处理及序列标注等数据预处理,结合词嵌入匹配病历文本序列进行词向量化表示,利用BiLSTM神经网络对前后向病历文本进行空间语义建模,获取文本序列的语义特征,然后利用CRF预测实体标签输出。实验结果表明,改进后的BiLSTM-CRF模型显著提高了病历实体识别的准确率和召回率。

摘要： 命名实体识别作为信息抽取的一项子任务,能够在大量的数据中迅速识别出目标实体并进行分类.政治学作为社会科学领域的重要学科之一,其文本中包含的实体信息亦可被识别研究.本文利用深度学习的方法,通过建立基于BiLSTM-CRF的命名实体识别模型,针对政治学文本进行人名、地名与机构名的识别分类,并通过Python构建词云图进行信息可视化.由此帮助分析文本中的实体相关信息,也为政治学科的数据挖掘提供研究思路.

摘要： 相比较于现有命名实体识别方法,本文通过引入医学文本语言和文档类别特征,构建了一个基于深度学习的电子病历命名实体识别系统,识别的实体包括身体部位、症状和体征、疾病和诊断、检查和检验以及治疗五大类.基于模型识别的结果,将其应用在基于共现的临床知识发现中.实验结果表明,本文设计的命名实体识别系统的准确率为93.29％,召回率为93.53％,F1值为93.41％.医学语言特征的引入能够进一步提高基于深度学习的医学实体识别系统的效果,实体识别的结果也可以作为电子病历知识发现的基础.

摘要： 近年来,基于RNN的模型架构在命名实体识别任务中被广泛采用,但其循环特性导致无法GPU的并行计算能力无法被充分利用.普通一维卷积虽可以并行处理输入文本,显著缩短模型训练时长,但为对长距离依赖获得良好的建模效果,处理长文本时往往需要堆叠多个卷积层,进而增加梯度消失的风险.针对以上问题,本文采用可通过参数调节感受野范围的空洞卷积,并引入了带有残差连接的门控机制,以强化有效信息、降低无效信息的影响,同时改善梯度消失问题;针对字向量表示能力有限的问题,本文还将字向量与其所属词的位置信息融合,以丰富文本特征.为验证本文所提出方法的有效性,在MSRA数据集以及Sina Resume数据集上进行了实验,F1值分别达到了92.97％与94.98％.与传统基于Bi-LSTM-CRF的命名实体识别模型相比,模型训练速度提升5～6倍,且表现优于一般的RNN架构.

摘要： 该文主要研究针对中文金融文本领域的命名实体识别.从汉字自身特点出发,设计了结合字形特征、迭代学习以及双向长短时记忆网络和条件随机场的神经网络模型.该模型完全端到端且不涉及任何特征工程,它将汉字的五笔表示进行编码以进行信息增强,同时利用迭代学习的策略不断对模型整体预测结果不断进行改进.由于现有的命名实体识别研究在金融领域缺乏高质量的有标注的语料库资源,对此,本文构建了一个大规模的金融领域命名实体语料库HITSZ-Finance,共计31210个文本句,包含4类实体.在语料库HITSZ-Finance进行一系列实验,实验结果均表明模型的有效性.

摘要： 针对中文社交媒体命名实体识别的结果远不如传统领域的识别效果,以及近年来中文社交媒体命名实体识别研究逐渐倾向于使用外部知识与联合训练,而忽视了进一步提取文本中的特征,该文提出了一种基于深度学习、结合双向长短时记忆和自注意力机制的命名实体识方法.在Weibo NER公开语料上的对比实验表明了所提出方案的有效性,实验表明在不使用外部资源和联合训练的情况下,F1值为58.76％.

摘要： 现有的维吾尔文命名实体识别主要采用基于条件随机场的统计学习方法,但依赖于人工提取的特征工程和领域知识.针对该问题,该文提出了一种基于深度神经网络的学习方法,并引入不同的特征向量表示.首先利用大规模未标注语料训练的词向量模型获取每个单词具有语义信息的词向量;其次,利用Bi-LSTM提取单词的字符级向量;然后,利用直接串联法或注意力机制处理词向量和字符级向量,进一步获取联合向量表示;然后Bi-LSTM-CRF深度神经网络模型进行命名实体标注.实验结果表明,以基于注意力机制的联合向量表示作为输入的Bi-LSTM-CRF方法在维吾尔文命名实体识别上F值达到90.13％.

摘要： 基于深度学习的端到端的命名实体识别以及关系抽取，利用多任务方式同时提高命名实体识别以及关系抽取的精度，技术方法包括神经网络、知识图谱、人工知识等。

摘要： 本文建立了手机电磁兼容管理系统,并利用支持向量机(SVM)对管理系统中的命名实体进行了识别.该系统结合了知识图谱和机器学习方法实现对手机电磁兼容的智能管理.在知识图谱的架构中,存储了手机实体和实体之间关系的三元组.当进行电磁兼容设计时,通过向系统提问,系统从问题中抽取出实体和知识库进行实体链接.系统根据实体之间相关函数关系式进行计算,判断是否存在电磁干扰,进而提出消除电磁干扰的方案.实验结果表明,本文建立的模型对实体识别的准确率达到90％,提高了电磁兼容自动化管理系统的性能.

摘要： 本文从网络视频资源的侵权识别问题出发,结合NER和XGBoost机器学习分类算法,提出了一种基于网络资源文本描述信息的侵权识别模型.

摘要： 本文从网络视频资源的侵权识别问题出发,结合NER和XGBoost机器学习分类算法,提出了一种基于网络资源文本描述信息的侵权识别模型.

摘要： 本公开提供一种命名实体识别方法和命名实体识别装置。所述命名实体识别方法适用于嵌套命名实体与非嵌套命名实体，包括：获取自然语言文本数据；基于预先训练的处理模型，获取所述自然语言文本数据中的每个字符的特征向量，将每个字符的特征向量映射为二元互斥标记，并将所有二元互斥标记组合为二维矩阵，其中，每个特征向量的元素的数量基于命名实体的类别的数量来确定；基于所述二维矩阵，识别所述自然语言文本数据中的各个命名实体。

摘要： 公开了一种命名实体识别方法、命名实体识别装置、命名实体识别设备及介质，包括：采集特定场景下的语音信号；提取语音信号中的语音特征向量；基于语音信号进行语音识别后的文字结果，提取所述文字结果中的文字特征向量；将语音特征向量与文字特征向量进行拼接，得到所述语音信号中每个字的复合特征向量；将语音信号中每个字的所述复合特征向量通过深度学习模型进行处理，得到命名实体的识别结果。

摘要： 本说明书实施例提供命名实体识别模型训练方法及命名实体识别方法，其中所述命名实体识别模型训练方法包括：获取第一训练集、第二训练集和预训练的资源模型；利用第一训练集，对第二预设语言模型进行训练，得到目标模型；从第二训练集中提取任一第二资源词条，将该第二资源词条分别输入资源模型和目标模型，得到该第二资源词条的第一资源类别和第二资源类别；根据第一资源类别和第二资源类别调整目标模型的模型参数，返回执行从第二训练集中提取任一第二资源词条的步骤，在达到第一预设训练停止条件的情况下，确定训练后的目标模型作为命名实体识别模型。提高了命名实体识别模型的可靠性，提高基于命名实体识别模型进行命名实体识别的准确度。

摘要： 本公开提供一种命名实体识别模型建立方法，其包括：获取目标领域的训练文本集；基于所述目标领域的领域特征构建命名实体种类集以及文本段落类别集；基于所述文本段落类别集以及所述命名实体种类集构建“文本段落类别‑命名实体种类”映射字典；使用所述“文本段落类别‑命名实体种类”映射字典对所述训练文本集中的所有训练文本进行标注，获得每个训练文本的标注序列集；以及至少基于所述训练文本集的所有训练文本的标注序列集进行命名实体识别模型训练，获得命名实体识别模型。本公开还提供一种命名实体识别方法、实体识别模型建立装置、命名实体识别装置、电子设备及存储介质。

摘要： 本申请公开了一种命名实体识别方法和命名实体识别装置。所述命名实体识别方法，包括：解析所述输入文本，获得所述输入文本对应的多个候选依存树结构；从所获得的多个候选依存树结构中利用推断的方式获得所述输入文本对应的目标依存树结构；将所述输入文本和所述输入文本对应的目标依存树结构输入命名实体识别模型，获得所述输入文本对应的命名实体序列。

摘要： 本说明书实施例提供命名实体识别模型训练方法及命名实体识别方法，其中所述命名实体识别模型训练方法包括：获取第一训练集、第二训练集和预训练的资源模型；利用第一训练集，对第二预设语言模型进行训练，得到目标模型；从第二训练集中提取任一第二资源词条，将该第二资源词条分别输入资源模型和目标模型，得到该第二资源词条的第一资源类别和第二资源类别；根据第一资源类别和第二资源类别调整目标模型的模型参数，返回执行从第二训练集中提取任一第二资源词条的步骤，在达到第一预设训练停止条件的情况下，确定训练后的目标模型作为命名实体识别模型。提高了命名实体识别模型的可靠性，提高基于命名实体识别模型进行命名实体识别的准确度。

摘要： 本发明提供一种命名实体识别模型的训练方法和命名实体的识别方法，其中，命名实体识别模型的训练方法，包括：获取训练数据，其中，所述训练数据包括训练文本和标识信息，所述训练文本包括第一命名实体和第一指示信息，所述第一指示信息与所述第一命名实体相关联，所述标识信息用于指示所述第一命名实体与所述第一指示信息在所述训练文本中的位置；将所述训练数据输入预先构建的学习模型进行训练，得到所述命名实体识别模型。本发明实施例提供的方案至少可以解决现有的命名实体的识别方法存在识别的准确性较差的问题。

摘要： 本申请涉及一种命名实体识别模型的训练方法和装置、命名实体识别方法和装置、计算机设备、存储介质和计算机程序产品，涉及人工智能技术领域，可用于金融科技领域或其他领域。所述方法包括：获取多个待标注标签的训练语料；基于预设知识库对训练语料进行实体标注，得到目标类别序列；将训练语料输入至命名实体识别模型进行实体识别，得到预测结果；基于第一类型损失函数和第二类型损失函数构建目标损失函数，基于预测结果、目标类别序列、目标损失函数，计算损失值；基于损失值和预设模型更新算法，对命名实体识别模型进行更新，基于更新后的命名实体识别模型确定目标命名实体识别模型。采用本方法能够提高命名实体识别模型的识别准确度。

摘要： 本公开提供一种命名实体识别模型建立方法，其包括：获取目标领域的训练文本集；基于目标领域的领域特征构建命名实体种类集以及文本段落类别集；基于文本段落类别集以及命名实体种类集构建“文本段落类别‑命名实体种类”映射字典；使用“文本段落类别‑命名实体种类”映射字典对训练文本集中的所有训练文本进行标注，获得每个训练文本的标注序列集，对每个训练文本的标注序列集进行修正，获得修正后的标注序列集；以及至少基于训练文本集的所有训练文本的修正后的标注序列集进行命名实体识别模型训练，获得命名实体识别模型。本公开还提供一种命名实体识别方法、实体识别模型建立装置、命名实体识别装置、电子设备及存储介质。

摘要： 本公开公开了命名实体识别模型获取及命名实体识别方法、装置及介质，涉及自然语言处理、深度学习及计算机视觉等人工智能领域，其中的模型获取方法可包括：对训练文本进行分词处理，利用各分词结果组成第一序列；将第一序列中至少包括两个单字且为非高频词的分词结果拆分为单字；将进行拆分处理后的所述第一序列中的单字对应的字嵌入向量及至少包括两个单字的高频词对应的词嵌入向量作为命名实体识别模型的输入，训练命名实体识别模型。应用本公开所述方案，可提升模型训练效果及模型性能，并可相应地提升基于模型得到的命名实体识别结果的准确性等。