泛化能力

摘要： 针对遥感影像卷积神经网络(CNN)分类会导致特征信息丢失及泛化能力差的问题,提出一种基于通道注意力和混合注意力改进的胶囊神经网络分类模型。首先,为了胶囊神经网络能够适应于大尺寸输入图像,在特征提取模块中使用2个最大池化层;其次,为了提高分类精度,分别将SENet注意力和CBAM注意力加在特征提取模块的最后一层去改进特征提取模块;最后,将样本集随机地划分为训练集、验证集和测试集,进一步使用训练集和验证集训练模型,测试集测试模型,使用AID数据集对模型分类的泛化能力进行验证。实验结果表明:基于SENet网络改进的胶囊神经网络的准确率与Kappa系数要高于其他模型,泛化能力也优于其他模型,本文提出的模型的总体分类精度和泛化能力有了显著性提升,从而验证了本文方法的可行性和使用性。

摘要： 泛化能力是机器学习的重要评价指标,由于现实中的工业应用中外部环境十分复杂,在旋转机械工作时,其负载是不断变化的。如何使用一种负载下训练好的网络模型对另一种负载的数据集进行故障诊断是目前众多学者的研究重点。针对网络模型训练与测试时的数据特征分布不同来进行网络泛化性能的改进研究,通过改进网络模型的首层卷积核尺寸与随机失活来加强网络特征提取能力,采用AdaBN优化算法使得网络模型在训练与测试时的参数进行调整,提高网络的泛化能力。

摘要： 目前DECA模型在人脸重建方面取得了比较好的成果,但是对于光线影响较大的室外人脸图进行训练时,效率不高且总体性能一般,针对此问题,提出了一种基于DECA的改进算法。首先将原来的SGD优化方法改进为Adam优化器;其次加入正则化损失,提高重建后的效果,并以此来达到避免过度拟合等情况,提升算法的泛化能力。实验结果表明,改进后的DECA相比于原基础上效率平均提升了5%,并且重建效果得到了很大的改善,在一定程度上改善了性能与效率不足的问题。

摘要： 为避免网络环境遭到异常数据流的攻击,实现对常规信息参量的准确捕获,设计基于强化学习理论的网络数据流异常检测数学模型。分析PLVF-TD学习框架的组成形式,借助分段线性值函数,对局部节点的泛化能力展开研究,完成网络数据流信息的强化特性学习。在此基础上,搭建Storm流式处理平台,通过选取网络数据流特征的方式,确定异常数据信息的检测属性量条件,实现网络数据流异常检测数学模型的顺利应用。对比实验结果表明,与KNN估算型检测模型相比,搭载异常检测数学建模的应用主机能够较好地屏蔽异常信息流对数据节点造成的攻击,在准确捕获常规信息参量的同时,实现对网络数据流传输环境的有效保护。

摘要： 深度学习模型凭借其良好的性能被引入到电力系统的暂态稳定性评估中,但进行在线应用时,须关注模型的抗噪能力和泛化能力。文中提出一种基于堆叠稀疏降噪自编码器(SSDAE)的暂态稳定性评估模型,首先对原始输入数据加入噪声得到受损数据样本,然后对受损数据样本进行高阶特征提取,最后将提取的高阶特征重构成未受损的数据,这一训练过程大大提高了模型的抗噪能力。同时,在对输入特征进行重构的过程中,对隐藏层神经元权重和激活程度进行抑制,实现模型的稀疏化,以此提高模型的泛化能力。仿真结果表明,相对于其他机器学习算法,SSDAE模型具有良好的抗噪能力和泛化能力。

摘要： 目前日志异常检测领域存在数据量大、故障和攻击威胁隐蔽性高、传统方法特征工程复杂等困难,研究卷积神经网络(CNN)、循环神经网络等迅速发展的深度学习技术,能够为解决这些问题提供新的思路。提出结合CNN和双向长短时记忆循环神经网络(Bi-LSTM)优势的CNN-BiLSTM深度学习模型,在考虑日志键显著时间序列特征基础上,兼顾日志参数的空间位置特征,通过拼接映射方法进行最大程度避免特征淹没的融合处理。在此基础上,分析模型复杂度,同时在Hadoop日志HDFS数据集上进行实验,对比支持向量机(SVM)、CNN和Bi-LSTM验证CNN-BiLSTM模型的分类效果。分析和实验结果表明,CNN-BiLSTM达到平均91%的日志异常检测准确度,并在WC98_day网络日志数据集上达到94%检测准确度,验证了模型良好的泛化能力,与SVM CNN和Bi-LSTM相比具有更优的检测性能。此外,通过消融实验表明,词嵌入和全连接层结构对于提升模型准确率具有重要作用。

摘要： 为了预测复杂电磁环境下接收机的非线性效应,文中基于实数时延径向基函数神经网络,构建了具有记忆效应的接收机非线性神经网络模型。分别采用K-均值聚类算法和正交最小二乘法对模型的隐含层中心和权值进行选取和学习,并用接收机的输入输出实测数据对模型进行训练。通过宽带信号的同相和正交两个分量对模型进行验证。模型仿真结果与实测数据相吻合,模型的归一化均方误差可达-41.88 dB。该结果表明,所构建的神经网络模型具有较快的收敛速度、良好的建模精度和泛化能力。

摘要： 人工智能方法被广泛地用于预测钻井过程中的机械钻速,虽预测精度都能超过80%,但以前的算法大多仅选取一口井或一个开次的数据进行预测和检验,缺乏对邻井或整个区块推广和预测的研究,泛化能力有待检验。针对上述问题,讨论了相关性分析在机械钻速预测中对钻井参数选取的影响以及训练数据选取对人工智能模型泛用能力问题。引入地层参数、钻头参数及钻井参数作为输入参数,选取四川盆地某区块的实际钻井数据进行训练,评价了随机森林、支持向量机、梯度提升树、人工神经网络4种人工智能算法对整个区块机械钻速预测的精度。结果显示,随机森林算法对区块内各单井数据的预测精度能达到90%,对整个区块数据预测的准确度能达到88%,且使用区块数据训练的随机森林模型具有较好的泛化能力,认为该方法能够推广至整个区块,有利于指导该区块的钻井工程技术优化。

摘要： 爆破地震危害是矿山开采过程中最为显著的负面效应之一,准确预测质点峰值振动速度(PPV)对于有效预防爆破振动引发的建(构)筑物失稳破坏具有极大的工程实际意义。设计并开展了露天矿山开挖爆破现场监测试验,采用灰色关联分析法对PPV影响因素进行敏感性分析,确定各影响因素之间的主次关系。在此基础上,建立最小二乘支持向量机(LS-SVM)模型对PPV进行预测,并通过粒子群算法(PSO)局部寻优确定LS-SVM模型中正则化参数和核函数宽度系数的最佳参数组合,最后将PSO-LSSVM模型预测结果与BP神经网络模型、LS-SVM模型及传统萨道夫斯基公式的预测结果进行了对比分析。结果表明:PSO-LSSVM模型对PPV预测的拟合相关系数(R^(2))、均方根误差(RMSE)、平均相对误差(MRE)及纳什系数(NSE)分别为97.38%、2.68%、1.36%和99.98%,PSO-LSSVM模型预测精度更高,且具有更好的泛化能力,用于多因素影响下的矿山爆破PPV预测切实可行。

摘要： 针对传统数据驱动方法在用于电力系统暂态稳定评估时,由于未考虑到系统的时空变化特性而导致泛化能力不强的问题,提出了一种引入注意力机制的残差时空图神经网络方法。将电力系统的网络拓扑结构与电力系统量测数据相结合,引入时间注意力和空间注意力机制,从而提高了模型的泛化能力。为了解决训练过程中存在的梯度消失问题,引入残差结构,同时加快了训练速度。以10机39节点系统为算例进行仿真验证,结果表明,该模型能在部分节点未配置同步相量测量单元的情况下获得较好的评估结果;通过适当选取故障时刻采样数据,可以进一步提高模型的评估性能。

摘要： 针对油电混合公交车辆的尾气排放特性,通过采集的逐秒排放数据以及车辆运行状态数据,基于机动车比功率(VSP)分别建立三次多项式回归模型以及循环神经网络模型进行预测分析.预测结果表明,两种模型对于CO2、HC和NOX质量排放率的预测效果较好,对应的拟合优度R2均能达到0.70.而多项式拟合方法对于CO质量排放率的预测效果很差,与之相比,循环神经网络对于CO预测的R2可达到0.65,精度超过了1倍以上.此外,为防止“过拟合”的现象,采用十折交叉验证的方法对两个回归模型进行了效果验证,结果表明,在调整相关参数的情况下,两个回归模型均具有较好的泛化能力.

摘要： 拱坝坝肩抗力体是坝体的重要受力部位,建立有效的监测模型意义重大.本文尝试用结合逐步回归分析方法的BP神经网络建立变形监测模型,以提高BP神经网络的泛化能力从而提高模型的预测准度和精度.成功完成了预测,且传统模型预测数据的残差平方和大于改进后的.实例分析表明,使用BP神经网络建立抗力体变形的监测模型是可行的,使用逐步回归-BP神经网络是有效的.同时由于模型的相通性,该逐步回归-BP模型也可用于大坝其他方面变形的预测.

摘要： 针对现有跌倒检测算法由于缺乏真实老人跌倒样本以及使用年轻人仿真跌倒样本规模较小导致的过拟合和适应性不足等问题,提出了基于随机森林的跌倒检测算法.该算法采用滑动窗口机制,对窗口内的加速度数据进行时间域和变换域处理,提取时间域和变换域特征参数后,在所有样本集中进行有放回的Bootstrap随机抽样和属性随机选择,构建多个基于最佳属性分割的支持向量机(SVM)基本分类器.在线跌倒检测阶段,对多个SVM基本分类器的分类结果采用少数服从多数的原则,给出最终判定结果.实验表明,随机森林跌倒检测算法可获得95.2％的准确率、90.6％的敏感度和93.5％的特异性,明显优于基于SVM和反向传播(BP)神经网络跌倒检测算法,反映出随机森林跌倒检测算法能更准确地检测跌倒行为,具有较强的泛化能力和鲁棒性.

摘要： 从股票投资预测的技术发展方向来看,不同人工智能学习算法之间的组合学习日益得到关注.基于组合学习的思想,提出了股票投资短期预测的多模匹配识别算法(MPMA).算法通过迭代计算数据采样频率、聚类分组、模式匹配将股价预测和涨跌预测纳入到一个统一的学习框架中,建立起不同人工智能学习算法之间的组合学习模型.实验结果表明,所提算法具有较好的预报和泛化能力.

摘要： 人脸性别识别是传统模式识别领域里的最富挑战性的难题之一,在本文中,提出了一种联合学习人脸的高层特征和低层特征的深层网络模型来解决这一难题.本文中的深层网络利用卷积层和下采样层交替处理输入的入脸图像以提取人脸的高层特征,这样提取到的特征具有抽象性,能够很好地表示人脸的局部关联性.同时,网络会同步地利用扁平化处理单元和重建层重建输入的人脸图像,以捕获人脸的低层特征.低层特征具有全局性,且包含有对性别分类有效的信息,可很好地作为高层特征的补充.网络联合两类特征形成一种多特征的结构,同时在低层特征中加入了一个可训练的权重进行调节,然后利用这种通过深层网络学习到的分层次、全方位的人脸特征进行最终的性别判决.实验结果表明,当在混合人脸数据集上测试时,我们的方法取得了超过传统人脸性别识别方法的最高准确率.进一步地,在另外三个公共人脸数据集上进行的泛化能力测试中,我们的方法在三个公共人脸数据集上的平均准确率与局部二值模式特征(LBP)结合支持向量机分类器算法(SVM)的这种传统方法相比,提高了5个百分点;与人脸像素特征结合支持向量机分类器算法这种传统方法相比,提高了近1个百分点.这证明我们的方法在学习能力和泛化能力上都有着超过传统人脸性别识别方法的优秀性能.

摘要： 收敛速度和泛化能力是制约迭代学习控制理论发展的两个重要因素.针对这两个因素提出一种基于a-LMS 算法的启发式迭代学习控制,将基于FIR 滤波器的a-LMS 算法与启发式迭代学习结合起来,在不知道被控系统的具体模型的情况下,把这种方法应用到其跟踪控制当中.最后,通过一个非线性系统的控制仿真,验证了此方法在解决以上两个因素上的优良特性.

摘要： 设计满足特定目标并近似于自然形态的多孔隙结构是一项具有挑战性的任务.本文提出了一种基于样本学习的多孔隙结构设计方法.首先选用孔隙率和连通性作为评估指标;然后以6邻接体素结构建立参数化设计单元,通过手工标记方式建立设计单元样本库.并通过随机决策树森林学习结构样本与设计目标的关联模型;最后关联模型被集成于一个可扩展的多孔隙建模框架中.实验表明,随机森林的泛化能力能够对样本库之外的结构进行正确的判定,可以在满足设计目标的同时得到更加自然的多孔隙结构.

摘要： 为了建立精确实用的电力系统综合负荷模型，以表征负荷的动态特性，本文提出了一种基于径向基神经网络的综合负荷建模方法。与传统BP网络相比，该神经网络具有结构自适应确定、收敛快速的优点，并且其表现出的泛化能力也优于BP网络。基于WEPRI8机36节点系统的仿真结果证明了该模型对电力系统综合负荷模型辨识的有效性和准确性。

摘要： 支持向量机(SVM)是基于结构风险最小化的分类判别方法,对于非线性不可分的二分类样本,需要在最大间隔和错误分类之间做出折中选择.为了使SVM具有很好的泛化能力,本文提出了一种改进的基于不可分样本风险决策规则的SVM分类方法.先将SVM的输出转化为属于不同类的后验概率,对于落在两个支持向量面之间的点,利用经验风险最小化的风险决策规则进行分类预测.仿真结果显示,改进的SVM方法在两类比较容易分离的情况下,显著优于传统的SVM,在其他情况下,其分类效果不比传统的SVM差.

摘要： 建立“家庭教育”系统理论,关键在于对“家庭”的解构,以往的视野,限制了我们对“家庭”的认识.如果对家庭这个社会的“细胞”认识有偏颇,整个学科也将随之偏颇. “家庭教育”受了目前教育观的影响,其实务过程仅被限制于学校教育的下位概念之下.只有打破“教育仅能被学校承载”的观念, “家庭教育”才能真正形成完整的学科及其相对独立的操作体系.

摘要： 本发明提出了一种可以自动提高系统泛化能力、提高系统召回能力的方法，通过使用相似词和相似问题自动生成技术，从词和句子两个粒度来改善问答系统中的检索与排序，提高系统召回率，增强系统泛化能力，尽可能避免人工参与，极大的提高了系统的易用性。

摘要： 本发明公开了一种提升数字图像分类模型泛化能力的方法及系统，属于计算机视觉与迁移学习技术领域中的适用于数字图像的分类模型及泛化方法，其目的在于解决现有技术中没有在领域泛化中对数字图像使用基于混合样本的数据增强的问题，其通过不同分类器的梯度信息获取数据样本图像的类别相关信息和域相关信息，将数据样本图像的类别信息和其他数据样本图像的域信息相结合，生成新的数据增强样本加入模型训练。该方法将基于混合样本的数据增强运用到了领域泛化任务中，通过混合不同样本的类别信息与域信息生成数据增强样本，生成的数据样本直观并且可解释性高，从而有益于提高模型的鲁棒性和泛化能力。

摘要： 本申请涉及一种高泛化能力的交互车辆驾驶意图预测方法和装置。所述方法包括：通过获取本车与交互车辆间的航向关系信息、参考路线信息和道路结构信息的交互场景信息，确定交互场景类型；采用特征提取算法根据不同的交互场景类型对交互场景信息进行特征提取，输入到预先设计的基于动态贝叶斯网络的交互车辆驾驶意图预测模型中，通过预先构建的训练数据对交互车辆驾驶意图预测模型进行训练，得到训练好的交互车辆驾驶意图预测模型；通过训练好的交互车辆驾驶意图预测模型进行交互车辆驾驶意图预测，并将预测结果通过人机交互的方式进行呈现。

摘要： 本发明公开了一种情绪识别系统泛化能力的提高方法，包括以下步骤：步骤一、脑电信号的采集：采集脑电信号，制成310维的向量样本；步骤二、建立情绪识别模型：先将310维的脑电特征映射为256维，再映射为128维，分别输入四个分支：情绪分类分支、年龄回归分支、性别分类分支和编号分类分支；步骤三、模型训练：输入训练者的性别、年龄及其编号信息，通过外部刺激诱发情绪反应，并采集脑电信号输入模型，得到性别、年龄及其编号信息，将所得信息与输入的训练者信息进行配对训练；步骤四、将待测样本输入模型，模型输出对应的情绪、年龄、性别和编号。其优点是：能够在不进行预实验的前提下提高模型的跨被试者适应能力，能够有效提高模型的泛化能力。

摘要： 本发明题为“用于改善机器学习模型泛化能力的合成训练数据生成”。本发明提供了促进合成训练数据生成以实现改善的机器学习泛化能力的系统和技术。在各种实施方案中，元素增强部件可基于带注释的源图像生成一组带注释的初步训练图像。在各个方面，可通过将至少一个感兴趣元素或至少一个背景元素插入到带注释的源图像中来形成带注释的初步训练图像。在各种情况下，模态增强部件可基于该组带注释的初步训练图像生成一组带注释的中间训练图像。在各种情况下，可通过改变带注释的初步训练图像的至少一个基于模态的特性来形成带注释的中间训练图像。在各个方面，几何增强部件可基于该组带注释的中间训练图像生成一组带注释的可部署训练图像。在各种情况下，可通过改变带注释的中间训练图像的至少一个几何特性来形成带注释的可部署训练图像。在各种实施方案中，训练部件可在该组带注释的可部署训练图像上训练机器学习模型。

摘要： 本说明书实施例提供提高文本分析模型泛化能力的训练方法及装置，其中所述提高文本分析模型泛化能力的训练方法包括：获取训练样本集，其中，所述训练样本集合中包括训练文本；基于所述训练样本集和预设环境分类信息生成目标环境矩阵，其中，所述目标环境矩阵中包括每个训练文本对应的环境标签；根据所述训练文本和所述训练文本对应的环境标签训练文本分析模型，其中，所述文本分析模型包括与所述预设环境分类信息对应的分类器。通过本方法，使得文本分析模型在预测阶段的预测分布与训练阶段的训练分布存在分布差异的情况下，提升了文本分析模型的预测准确率。

摘要： 本发明公开了一种提升数字图像分类模型泛化能力的方法及系统，属于计算机视觉与迁移学习技术领域中的适用于数字图像的分类模型及泛化方法，其目的在于解决现有技术中没有在领域泛化中对数字图像使用基于混合样本的数据增强的问题，其通过不同分类器的梯度信息获取数据样本图像的类别相关信息和域相关信息，将数据样本图像的类别信息和其他数据样本图像的域信息相结合，生成新的数据增强样本加入模型训练。该方法将基于混合样本的数据增强运用到了领域泛化任务中，通过混合不同样本的类别信息与域信息生成数据增强样本，生成的数据样本直观并且可解释性高，从而有益于提高模型的鲁棒性和泛化能力。

摘要： 本发明公开了一种用于评估深度超分辨率网络泛化能力的方法。该方法包括：针对超分辨率模型，选取参考数据集，该超分辨率模型在参考数据集上的性能已知；将参考数据集和待测的目标数据集分别输入到超分辨率模型，获得对应的参考深度统计特征和目标深度统计特征；对获得的参考深度统计特征和目标深度统计特征进行降维；将降维后的参考深度统计特征和目标深度统计特征分别拟合到设定分布上，得到反映数据分布特征的分布参数；计算参考数据集对应分布和目标数据集对应分布之间的距离，以评估所述超分辨率模型的泛化性。本发明通过网络本身内部的深度统计特征，将图像内容和退化进行了解耦，提供非参数化、解释性强且非学习的泛化性评估指标。

摘要： 本发明提供了一种基于不同场景下图像识别模型泛化能力增强方法、系统及计算机可读存储介质，所述方法包括：根据场景对训练图片样本进行分类；根据训练图片样本的场景类别对所述图像识别模型中与所述场景类别对应的特征层进行训练。采用本发明的技术方案，可以增强图像识别模型的泛化能力。

摘要： 本发明公开了一种基于鉴别器森林提高生成对抗网络泛化能力的方法，包括：构建由一个生成器和鉴别器森林组成的生成对抗网络模型；生成训练样本，基于训练样本对鉴别器森林进行训练；通过生成器得到第一生成样本，将第一生成样本输入到训练过的鉴别器森林中的每个鉴别器中，得到鉴别器的损失值，以得到训练梯度，并更新生成器的训练参数，再以最小化的方式对生成器进行训练，得到更新的生成器；基于更新的生成器，重新执行生成训练样本的步骤，以对鉴别器进行下一次迭代训练。本发明提出由鉴别器森林和一个生成器组成的生成对抗网络模型，能够通过鉴别器数量的增加，降低泛化误差上界，提高生成样本的质量和多样性，增强模型的隐私保护能力。