首页> 中文期刊> 《软件学报》 >可信机器学习的公平性综述

可信机器学习的公平性综述

         

摘要

人工智能在与人类生活息息相关的场景中自主决策时,正逐渐面临法律或伦理的问题或风险.可信机器学习是建立安全人工智能系统的核心技术,是人工智能领域的热门研究方向,而公平性是可信机器学习的重要考量.公平性旨在研究机器学习算法决策对个人或群体不存在因其固有或后天属性所引起的偏见或偏爱.从公平表征、公平建模和公平决策这3个角度出发,以典型案例中不公平问题及其危害为驱动,分析数据和算法中造成不公平的潜在原因,建立机器学习中的公平性抽象定义及其分类体系,进一步研究用于消除不公平的机制.可信机器学习中的公平性研究在人工智能多个领域中处于起步阶段,如计算机视觉、自然语言处理、推荐系统、多智能体系统和联邦学习等.建立具备公平决策能力的人工智能算法,是加速推广人工智能落地的必要条件,且极具理论意义和应用价值.

著录项

  • 来源
    《软件学报》 |2021年第5期|1404-1426|共23页
  • 作者单位

    华东师范大学软件工程学院 上海 200062;

    华东师范大学计算机科学与技术学院 上海 200062;

    华东师范大学计算机科学与技术学院 上海 200062;

    上海自主智能无人系统科学中心可信人工智能研究所 上海 200092;

    华东师范大学计算机科学与技术学院 上海 200062;

    上海自主智能无人系统科学中心可信人工智能研究所 上海 200092;

    华东师范大学计算机科学与技术学院 上海 200062;

    华东师范大学计算机科学与技术学院 上海 200062;

    上海自主智能无人系统科学中心可信人工智能研究所 上海 200092;

    华东师范大学计算机科学与技术学院 上海 200062;

    上海自主智能无人系统科学中心可信人工智能研究所 上海 200092;

    华东师范大学软件工程学院 上海 200062;

    上海自主智能无人系统科学中心可信人工智能研究所 上海 200092;

  • 原文格式 PDF
  • 正文语种 chi
  • 中图分类 人工智能理论;
  • 关键词

    可信人工智能; 可信机器学习; 公平性; 统计公平; 因果公平; 公平表征; 公平建模; 公平决策;

相似文献

  • 中文文献
  • 外文文献
  • 专利
获取原文

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号