陈晋音 陈奕芃 陈一鸣 郑海斌 纪守领 时 杰 程 瑶

1(浙江工业大学网络空间安全研究院 杭州 310023)2(浙江工业大学信息工程学院 杭州 310023)3(浙江大学计算机科学与技术学院 杭州 310058)4(华为国际有限公司新加坡研究院 新加坡 138589)(chenjinyin@zjut.edu.cn)

目前，深度学习算法已经取得了巨大的进步，并且越来越多地用于影响个人生活的决策应用中，包括图像分类[1]、欺诈检测[2]、情绪分析[3]、面部识别[4]、语音理解[5]、自动驾驶[6]、医学诊断[7]等，深度学习在这些复杂任务上的性能已经达到甚至超过了人类决策的水平，能够实现比机器学习更高的准确率.然而，深度学习在基于种族、年龄、性别等敏感属性上的应用仍然具有不公平性，这种基于数据的学习方法会过度关联敏感属性，可能会对受保护群体表现出歧视行为，从而对个人和社会产生潜在的负面影响.例如，美国法院使用COMPAS作为刑事司法系统中的风险评估工具，用来衡量每一个被告再次犯罪的概率.然而，对此工具的调查发现COMPAS对于种族这一敏感属性存在不公平性，非裔美国人被告再次犯罪的风险估计平均高于白人被告[8].在医学领域，年龄作为一种潜在的敏感属性，会影响基于深度学习诊断系统的评估结果.例如，来自UCI机器学习知识库的Heart Dataset包含了906名不同年龄段患者的14个处理过的特征[9].这个数据集的目标是准确地预测一个人是否患有心脏病，而研究发现系统对年龄的偏见可能会导致不必要的医疗护理.在某些简历筛选工……