• 主题
高级搜索  >
历史搜索 清空历史
首页> 中国专利> 一种愚弄深度神经网络可解释算法的攻击判断方法

一种愚弄深度神经网络可解释算法的攻击判断方法

页面导航
  • 摘要
  • 著录项
  • 法律信息
  • 相似文献

摘要

本发明公开了一种愚弄深度神经网络可解释性的攻击方法。幅输入图像在某区域内加噪声后生成扰动图像；利用扰动图像构造损失函数项。在保持生成的扰动图像分类结果和原始图像分类结果相同的前提下，用可解释性算法对分类结果进行解释，并将解释的突出区域定位于扰动区域内；利用Adam优化算法逐步将噪声进行限制直到视觉上感知不出扰动存在，使扰动不明显，最后生成使解释发生错误的扰动图像。本发明将攻击与可解释性任务结合起来，能够有效攻击五种深度神经网络可解释方法，且攻击区域的大小和位置可以任意改变，可以衡量解释在攻击下的鲁棒性能。

著录项

  • 公开/公告号CN112270700A

    专利类型发明专利

  • 公开/公告日2021-01-26

    原文格式PDF

  • 申请/专利权人 浙江大学;

    申请/专利号CN202011185396.3

  • 发明设计人 孔祥维;宋倩倩;

    申请日2020-10-30

  • 分类号G06T7/55(20170101);G06N3/04(20060101);G06N3/08(20060101);

  • 代理机构33200 杭州求是专利事务所有限公司;

  • 代理人林超

  • 地址 310058 浙江省杭州市西湖区余杭塘路866号

  • 入库时间 2023-06-19 09:41:38

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2022-06-28

    授权

    发明专利权授予

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱：kefu@zhangqiaokeyan.com

京公网安备：11010802029741号 ICP备案号：京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有

  • 客服微信

  • 服务号