弱监督学习

摘要： 弱监督时序动作定位旨在于仅在视频级标签的监督下,定位未剪辑视频中的动作时间边界,并识别定位结果所对应的动作类别.由于缺少动作在时间上的标注信息,目前大多数弱监督时序动作定位方法通过聚合具有高激活值的显著动作特征来优化分类损失函数的方式训练动作定位网络,这会导致网络过度关注动作片段的关键部分,忽视了视频中部分难以分类的模糊动作片段,难以保证定位结果的完整性.基于上述问题,提出了一种具有多分支注意力机制的网络框架,分别对视频中的显著动作片段、显著背景片段和难以分类的模糊动作片段进行建模.同时,基于上述的多分支注意力权重,构建了3个相应的时域类激活序列优化动作分类损失函数,使网络能够分离视频中的显著动作特征与显著背景特征.为了使网络捕获更加完整的动作片段,基于对比学习设计了模糊动作对比损失函数,在显著特征的引导下细化视频中的模糊动作特征,使网络能够感知精确的动作时间边界,以避免完整动作的截断现象发生.所提方法在2个主流的弱监督时序动作定位数据集THUMOS-14和ActivityNet-1.2上的定位性能均超过了之前的方法.具体而言,所提方法的定位性能相比于之前的方法在上述两个数据集中分别提升了1.6%和1.3%,充分体现了所提方法的有效性.

摘要： 引入网络图像是提升弱监督语义分割性能的有效方法,为了鲁棒地利用外部数据实现知识迁移,提出双域协作自提升的鲁棒迁移学习方法.首先通过网络域和目标域双域级联决策实现网络域到目标域数据的知识迁移,提升弱监督语义分割决策的鲁棒性;然后利用双域协作学习减少噪声图像,改善标注质量,提升网络域知识的可靠性.在通用数据集PASCAL VOC 2012验证集和测试集上, mIoU分别达到65.4%和65.9%,性能优于当前大多数弱监督语义分割方法,证明了所提方法的有效性.

摘要： 针对细粒度图像类间差距小、类内差距大的问题,文中提出以弱监督学习的方式使用多分支注意力增强卷积网络,从而实现细粒度图像分类。文中采用Inception-V3网络提取图像的基础特征,从中获取多个局部响应区域并进行特征融合,在此基础上采用注意力机制对图像关键区域进行自约束的局部裁剪和局部擦除,避免仅提取目标单个部位的特征,促使网络更加关注目标物体不同部位的细节特征,同时也提升了目标区域的定位精度。此外,文中提出中心正则化损失函数来约束训练过程中获取的注意力区域,以进一步提升目标定位精度和扩大图像特征的类间差距。在3个公开数据集上进行了实验,结果表明,所提方法取得了比当前最优方法更好的结果。

摘要： 针对现有深度监督图像哈希表示学习方法依赖于图像的类别信息,难以在现实中被广泛应用问题,利用与图像相关的标签信息作为监督信息,提出上下文感知的深度弱监督图像哈希表示学习方法。该方法一方面通过自适应捕获图像区域特征的相关上下文来增强它们的表示能力,另一方面通过引入判别损失来提高学习到的哈希码表示的判别性。在现有两个公开数据集上的大量实验结果证明了该方法的有效性。

摘要： 针对人群图像中尺度变化大及现有密度估计网络泛化性能差的问题,提出一种基于视觉注意力机制的人群密度估计方法。该网络模型基于VGG-16网络,由空间注意力模块(Spatial Attention Module, SAM)、全局注意力模块(Global Attention Module, GAM)及融合模块(Fusion Module, FM)等几个模块组成,通过在网络不同层级中引入注意力机制来选择性地增强网络的功能,提高多尺度级联的有效性。设计一个弱监督学习来扩展提出的密度估计网络,使人群密度估计模型可以适应不同的场景和数据集。实验结果表明,该方法对不同尺度、不同场景下的人群密度图像都有很好的适用性和准确性,算法性能也优于现有的人群密度估计算法。

摘要： 地裂缝需要被持续监测,但是地裂缝探测仍需人工实地勘探,因此自动地裂缝提取具有重要意义。为此,该文提出一种深度学习模型,利用无人机影像自动提取地裂缝,该模型针对地裂缝相对其他地物具有细长结构的特征,设计了地裂缝提取网络;针对人工准确标注地裂缝蜿蜒曲折的形态费时费力等特点,设计了一种弱监督的方法对人工标签进行优化,改善人工标签不准确的情况。利用朔州市平鲁区无人机影像验证方法有效性,实验结果表明:地裂缝能被有效提取,召回率达91.4%,并利用提取的地裂缝生成了地图产品,可用于辅助区域内地裂缝风险警示和成因分析。

摘要： 行人重识别主要研究在不同摄像机拍摄的图形中检索目标行人的任务,是计算机视觉领域一个极具挑战性的研究课题。传统依赖手工特征的行人重识别方法性能低且鲁棒性差,不能适应数据爆炸增长的信息时代。近年来,随着大规模行人数据集的出现和深度学习的迅速发展,行人重识别研究取得了许多突出成果。梳理了性能接近饱和的有监督学习研究方法,并探讨近几年研究热度较高的弱监督学习、跨模态数据和端到端的行人重识别现状;对不同类型行人重识别方法比较分析,列举了常用数据集,并将部分经典算法在Market-1501、DukeMTMC-ReID等数据集上进行性能比较;对行人重识别的未来研究方向进行了展望。

摘要： 近年来,随着学术界与工业界在机器学习和人工智能领域越来越多的投入和关注,相关技术获得飞速发展,机器学习已经被应用到社会生活的方方面面,并产生巨大社会价值.机器学习模型主要依赖大量高质量数据的封闭训练,随着机器学习模型付诸于开放场景,例如,数据分布的变化、数据特征的变化、数据标记的偏差、任务目标的变化、恶意样本的攻击、设备能力的受限等,其往往面临模型失效、性能不佳等风险隐患.基于此,研究人员亟需探索开放场景下的鲁棒机器学习模型.具体而言,包括分布变化的机器学习、弱监督学习、模型复用、表示学习、强化学习、对抗学习、迁移学习以及更多实际领域问题中的应用等.为此,我们组织了面向开放场景的的鲁棒机器学习专刊.

摘要： 为提升针对医学图像的弱监督语义分割性能,本文从种子线索的生成出发,在CAM网络训练中引入多空洞卷积率的空洞卷积,以从图像级别的标注中产生密集位置预测,扩大响应范围。实验证明本文提出的分割模型在CAMELYON16数据集上能得到10个百分点的提升,并通过实验结果图证明本文模型可在仅有图像及标签已知的情况下为医生的诊断提供参考。

摘要： 细粒度图像分类是计算机视觉领域一个具有挑战性的任务,在实际场景中具有很高的应用价值。其中不同子类别的物体整体轮廓差异较小,微小的判别性局部区域是分类的关键。然而,这些重要的局部区域的尺度可能不同,不能用单一的标准去衡量它们。为了解决这个问题,本文提出了多粒度空间混乱模块来帮助神经网络学习如何寻找到不同尺度的判别性细节。该模块首先将图片划分为不同粒度的局部区域,然后随机打乱并重组构成新的输入图片。经过处理的图片具有区域无关性,从而迫使网络更好地在不同粒度层次下寻找有判别力的局部区域并从中学习特征。在3个广泛使用的细粒度图像分类数据集上的实验证明本文提出的模块可以有效地帮助网络寻找判别性局部区域从而提升了准确率并且网络不需要图片的任何部位标注信息。

摘要： 在大数据时代,对于海量网络数据的信息抽取与应用已成为自然语言处理和信息检索技术发展的重要主题。其中，基于弱监督的关系抽取方法，因为具有不需要过多人工参与、适应性强的特点,受到了广泛的关注.目前针对它的研究主要集中在英语资源上,主要使用传统的词法和句法特征。然而,词法特征有严重的稀疏性问题,句法特征则对一些语言分析工具的性能有较强的依赖性.提出利用n-gram特征来缓解传统词法特征稀疏性的问题。特别地，这种特征还可以弥补传统句法特征在其他语言上不可靠的情况,对于关系抽取的跨语言应用有重要作用.在此基础上,针对弱监督学习中标注数据不完全可靠的情况,提出基于bootstrapping思想的协同训练方法来对弱监督关系抽取模型进行强化,并且对预测关系时的协同策略进行了详细分析。在大规模的中文和英文数据上进行实验的结果显示，把传统特征与n-gram特征相结合并进行协同训练，在中文和英文数据集上均可以提升弱监督关系抽取的效果，可以适应多语言的关系抽取需求。

摘要： 词汇的表示问题是自然语言处理的基础研究内容.目前单语词汇分布表示已经在一些自然语言处理问题上取得很好的应用效果.然而在跨语言词汇的分布表示上国内外研究很少,本文针对这个问题,利用两种语言名词、动词分布的相似性,通过弱监督学习扩展等方式在中文语料中嵌入泰语的互译词、同类词、上义词等,学习出泰语词在汉泰跨语言环境下的分布.实验基于学习到的跨语言词汇分布表示应用于双语文本相似度计算和汉泰混合语料集文本分类,均取得较好效果.

摘要： 目标识别作为计算机视觉领域的基础研究问题之一,近年来其随着海量的互联网图片和标注数据获取得到了飞速的发展.在本文中,以目标识别领域中最新同时也是最有挑战性的问题之一——细粒度目标识别问题为研究对象,详细探寻其在实际应用中需要考虑的多种问题,如识别准确率、问题普适性、实际运行速度和模型可解释性等,循序渐进地提出了多阶段的解决方案,并依此建立了统一的算法应用体系.该解决方案中覆盖了弱监督、半监督和强监督等不同问题设定形式,在领域常用测试数据集上获得了提出当时最优的识别结果.同时,其更重要的意义在于可以作为实际应用时的模型与行动方针提供指导意见.

摘要： 目标识别作为计算机视觉领域的基础研究问题之一,近年来其随着海量的互联网图片和标注数据获取得到了飞速的发展.在本文中,以目标识别领域中最新同时也是最有挑战性的问题之一——细粒度目标识别问题为研究对象,详细探寻其在实际应用中需要考虑的多种问题,如识别准确率、问题普适性、实际运行速度和模型可解释性等,循序渐进地提出了多阶段的解决方案,并依此建立了统一的算法应用体系.该解决方案中覆盖了弱监督、半监督和强监督等不同问题设定形式,在领域常用测试数据集上获得了提出当时最优的识别结果.同时,其更重要的意义在于可以作为实际应用时的模型与行动方针提供指导意见.

摘要： 目标识别作为计算机视觉领域的基础研究问题之一,近年来其随着海量的互联网图片和标注数据获取得到了飞速的发展.在本文中,以目标识别领域中最新同时也是最有挑战性的问题之一——细粒度目标识别问题为研究对象,详细探寻其在实际应用中需要考虑的多种问题,如识别准确率、问题普适性、实际运行速度和模型可解释性等,循序渐进地提出了多阶段的解决方案,并依此建立了统一的算法应用体系.该解决方案中覆盖了弱监督、半监督和强监督等不同问题设定形式,在领域常用测试数据集上获得了提出当时最优的识别结果.同时,其更重要的意义在于可以作为实际应用时的模型与行动方针提供指导意见.

摘要： 目标识别作为计算机视觉领域的基础研究问题之一,近年来其随着海量的互联网图片和标注数据获取得到了飞速的发展.在本文中,以目标识别领域中最新同时也是最有挑战性的问题之一——细粒度目标识别问题为研究对象,详细探寻其在实际应用中需要考虑的多种问题,如识别准确率、问题普适性、实际运行速度和模型可解释性等,循序渐进地提出了多阶段的解决方案,并依此建立了统一的算法应用体系.该解决方案中覆盖了弱监督、半监督和强监督等不同问题设定形式,在领域常用测试数据集上获得了提出当时最优的识别结果.同时,其更重要的意义在于可以作为实际应用时的模型与行动方针提供指导意见.

摘要： 本发明公开了一种基于有监督学习和无监督学习的反欺诈方法，具体步骤如下：数据预处理，数据转换，创建高斯混合模型，期望最大化算法，有监督学习，无监督学习，预测，该基于有监督学习和无监督学习的反欺诈方法使用有监督学习和无监督学习结合的方法来建立反欺诈模型，有监督学习模型和无监督学习模型被包含在一个大的模型中，这个大的模型将达到集成模型的效果，预测的结果将会优于单独考虑有监督学习或无监督学习时的效果，而且有监督学习和无监督学习是互补的，两种学习方式结合将可以检测出已知的欺诈模式和未知的欺诈模式。

摘要： 本发明公开的一种基于监督学习和半监督学习双重信息的迭代式标签噪声识别算法，属于机器学习和数据挖掘领域。本发明将监督和半监督学习结合起来，对于监督学习部分，通过软多重投票方式，产生监督学习噪声识别结果；对于半监督学习部分，基于监督学习产生的纯净数据训练的分类模型，对无标签数据集进行标记，标记后的无标签数据作为训练集，用加权KNN方法对标签数据集进行检测产生噪声识别结果；最终将噪声识别结果结合起来产生最终识别结果。本发明算法还采取迭代方式，每次迭代输入的待测样本为上次迭代时过滤掉噪声后的剩余样本。同传统噪声识别算法比，该发明结合了更多互补信息，同时辅以迭代方式，能更好促进噪声识别准确性。

摘要： 本公开提出一种自监督学习方法和自监督学习装置，涉及计算机领域。本公开通过每个原始图片的每个增广图片的特征到所述每个原始图片的所有增广图片的特征均值的距离度量信息，能够有效监测到语义出现偏差的增广图片样本，通过减小相应的权重，语义出现偏差的增广图片样本带来的训练噪声能够被有效地抑制，很好地平衡了数据增广分布的方差与偏差，提升了学习模型在下游的计算机视觉任务上的性能。

摘要： 本发明提供了一种监督学习与非监督学习结合的因子提取气候特征方法，包括：获取因子的历史数据；所述因子的历史数据包括物理量场因子的历史数据和预报对象的历史数据；对因子的历史数据进行标准化，得到标准化后的数据；对标准化后的数据采用监督学习回归类作分析，提取其均方误差场；对标准化后的数据采用相关系数类作分析，提取其相关系数场；获取均方误差场的预报因子集；获取相关系数场的预报因子集；将均方误差场的预报因子集和相关系数场的预报因子集合并，得到多因子序列。本发明的有益效果：避免了大范围提取因子时，总体高相关和高影响的区域会掩盖掉较低影响区域的信息；避免过多丢弃了与整体场要素模态不一致的低信号信息。

摘要： 本发明涉及一种半监督学习系统和一种半监督学习方法，半监督学习方法包括：取得一或多个源域的源域数据及一目标域的目标域数据；使用该源域数据及该目标域数据以训练一特征萃取模型；利用一域判别模型、一任务模型及一半监督学习机制以分别计算该特征萃取模型的域判别损失函数、任务损失函数及半监督损失函数；依据该域判别损失函数、该任务损失函数及该半监督损失函数以计算一总损失函数，并依据该总损失函数以更新该特征萃取模型、任务模型与域判别模型的权重；以及因应于整体模型满足模型收敛条件，结束整体模型的训练过程。

摘要： 本发明涉及一种联合自监督学习和半监督学习的地外图片分割方法和系统。该方法对于地外图片通过掩码图片建模的方式进行自监督预训练，使得模型学习到多样鲁棒的特征空间表示，然后通过半监督方式来微调模型，充分利用地外数据中未标注部分的信息，使得模型在下游任务即语义分割上能有更好的表现。本发明通过自监督学习预训练使得网络可以在无标签数据中学习到良好的特征表示，并且提高了半监督方式下微调阶段的伪标签预测质量，同时微调阶段通过产生伪标签来利用未标注区域的监督信息，使得模型输出的预测结果更准确。本发明能够显著提升图片分割性能。

摘要： 本发明公开了一种融合无监督学习和自监督学习的中文拼写纠错方法，首先，利用混淆集对模型进行预训练，在预训练时不再替换为随机的字，而是替换为混淆集中的字使模型学到字音和字形相关信息；在训练时利用无监督学习和自监督学习对中文拼写错误进行检测和纠正，并利用混淆集进行候选字的选取；最后在中文拼写纠错领域的测试集上测试模型在字级层面和句级层面的纠错性能。本发明融合无监督学习和自监督学习提高模型中文拼写纠错性能的方法所训练的模型能够使模型更好的学习到字音和字形信息，使得模型在中文拼写纠错领域的性能得到提高。

摘要： 一种自监督学习辅助下的半监督学习方法，包括以下步骤：将训练样本划分为若干个批次，每个批次包括标注数据或无标注数据；将当前批次的数据随机翻转，再与原数据进行合并，作为当前输入数据；用特征提取网络提取当前输入数据的特征，得到抽象特征；以及把提取的抽象特征送入到图像类别分类网络或者图像角度翻转分类网络进行图像类别和图像角度翻转判断，若输入数据为标注数据，则将抽象特征同时送入图像类别分类网络和图像角度翻转分类网络进行图像类别和图像角度翻转判断，若输入数据为无标注数据，则只将抽象特征送入图像角度翻转分类网络，进行图像角度翻转判断。本发明方法提升了半监督学习的图像类别分类性能。

摘要： 本发明提供了一种半监督学习方法，该方法包括：利用有标签数据对神经网络模型进行初始训练；获得待标定的无标签数据的增强数据；利用初始训练好的神经网络模型标定待标定的无标签数据及其增强数据的伪标签；利用有标签数据以及待标定的伪标签数据重新训练神经网络模型；其中，用于半监督学习的神经网络模型包括：输入层，用于接收输入数据；第一隐藏层，用于提取输入数据的低层语义信息；语义层，用于基于低层语义信息确定输入数据的低层语义标签；第二隐藏层，用于基于输入数据及其低层语义标签提取输入数据的高层语义信息；以及输出层，用于基于输入数据的高层语义信息确定其高层语义标签，并作为最终标签输出。

摘要： 本发明公开了一种基于有监督学习和无监督学习的反欺诈方法，具体步骤如下：数据预处理，数据转换，创建高斯混合模型，期望最大化算法，有监督学习，无监督学习，预测，该基于有监督学习和无监督学习的反欺诈方法使用有监督学习和无监督学习结合的方法来建立反欺诈模型，有监督学习模型和无监督学习模型被包含在一个大的模型中，这个大的模型将达到集成模型的效果，预测的结果将会优于单独考虑有监督学习或无监督学习时的效果，而且有监督学习和无监督学习是互补的，两种学习方式结合将可以检测出已知的欺诈模式和未知的欺诈模式。