李锡荣

中国人民大学 1数据工程与知识工程教育部重点实验室 2信息学院人工智能与媒体计算实验室，北京 100872 3北京致远慧图科技有限公司人工智能实验室，北京 100872

以深度学习为代表的新一代人工智能(artificial intelligence, AI)技术对各行各业的影响是前所未有的。例如美国科学家利用AI辅助新型冠状病毒疫苗研发[1]，训练深度卷积网络根据咳嗽声音筛查新型冠状病毒肺炎患者[2]；日本农民利用深度学习模型根据黄瓜品相对其进行自动分类[3]，等等。这种影响的形成，与深度学习自身的技术特点密不可分。

深度学习是一种以深层人工神经网络为架构，以原始数据为输入，以目标任务为输出，具备端到端(end-to-end)学习能力的机器学习算法[4- 5]。相比传统机器学习算法，深度学习具有强学习能力和高易用性的特殊优势。以图像分类任务为例，传统方法分为特征提取(feature extraction)和分类器训练(classifier training)两个阶段。前者负责从原始图像样本中提取与当前指定任务相关的向量化的视觉特征，而后者基于视觉特征和样本所对应的类别标签，寻找最优分类决策边界。这两个阶段之间并不存在反馈机制。分类器训练只能在既定特征空间进行，即使不同类别的样本在该特征空间缺乏区分性。与之相反，深度学习将特征提取和分类器训练纳入一个神经网络框架中，输入数据经过多层神经网络，逐次提取表达能力更强的视觉特征，最后经任务层给出分类结果。任务层获得的错分信息经后向传播(back propagation)反馈给特征层，使其不断调整、优化特征提取过程，从而实现特征提取和分类器训练的联合优化。……