• 主题
高级搜索  >
历史搜索 清空历史
首页> 中文期刊> 《软件学报》 >针对黑盒智能语音软件的对抗样本生成方法

针对黑盒智能语音软件的对抗样本生成方法

         
页面导航
  • 摘要
  • 著录项
  • 相似文献
  • 相关主题

摘要

随着深度学习技术的成熟,智能语音识别软件获得了广泛的应用,存在于智能软件内部的各种深度神经网络发挥了关键性的作用.然而,最近的研究表明:含有微小扰动的对抗样本会对深度神经网络的安全性和鲁棒性构成极大威胁.研究人员通常将生成的对抗样本作为测试用例输入到智能语音识别软件中,观察对抗样本是否会让软件产生错误判断,从而采取防御方法来提高智能软件安全性和鲁棒性.在对抗样本的生成中,黑盒智能语音软件在生活中较为常见,具有实际的研究价值,而现有的生成方法却存在一定的局限性.为此,针对黑盒智能语音软件,提出了一种基于萤火虫算法和梯度评估方法的目标对抗样本生成方法,即萤火虫-梯度对抗样本生成方法.针对设定的目标文本,在原始的音频样本中不断加入干扰,根据当前对抗样本的文本内容与目标文本之间的编辑距离,选择使用萤火虫算法或梯度评估方法来优化对抗样本,最终生成目标对抗样本.为了验证方法的效果,在常用的语音识别软件上,使用公共语音数据集、谷歌命令数据集和LibriSpeech数据集这3种不同类型的语音数据集进行了实验评估,并寻找志愿者进行对抗样本的质量评估.实验表明,提出的方法能有效提高目标对抗样本生成的成功率,例如针对DeepSpeech语音识别软件,在公共语音数据集上生成对抗样本的成功率相比对比方法提升了13%.

著录项

相似文献

  • 中文文献
  • 外文文献
  • 专利
获取原文

客服邮箱：kefu@zhangqiaokeyan.com

京公网安备：11010802029741号 ICP备案号：京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有

  • 客服微信

  • 服务号