王禄生

内容摘要：在人工智能的视域下，情感计算是感知、识别、模拟、影响人类情感状态的各类智能技术的统称。尽管该技术已经在医疗、教育、商业、就业、执法等领域获得应用，但仍然面临法律、伦理与技术的多维困境。从法律上看，情感计算的应用可能与个人信息权、隐私权、人身自由权等形成冲突;从伦理上看，情感计算的终极目标与道德哲学领域对情感自主性的强调不相兼容;从技术上看，情感计算仍然面临着基础理论与实际成效的质疑。为了推动情感计算应用的良性发展，需要从两方面展开法律规制：一是以“轻推”为限度，调和情感自主性与情感计算终极目标之间的张力;二是以风险为基础，按照比例原则对不可接受、高风险、中风险和低风险四类应用实施从完全禁止到行业自律的不同规制。

关键词：情感计算 情绪识别 情绪智能 人工智能 比例原则 法律规制

中图分类号：DF0  文献标识码：A  文章编号：1674-4039-（2021）04-0049-60

近年来，情感计算技术越来越多地走进公众的日常生活。商店使用情感计算来感知客户的情绪与兴趣、学校使用情感计算衡量学生在课堂的快乐程度与参与程度，雇主使用情感计算评估求职者的情绪反应并监控员工在工作时的面部表情。随着情感计算应用的日益扩展，公众对情感计算的态度开始悄然转变。大致以2019年为转折点，域外在伦理、技术和法律层面对情感计算的批评以及要求强化治理的呼声日益高涨。同年召开的情感计算会议ACII首次增加了关于情感计算技术滥用的专题研讨。……