孙 宇，魏本征，刘 川，张魁星，丛金玉,3

1.山东中医药大学 智能与信息工程学院，济南 250355

2.山东中医药大学 医学人工智能研究中心，山东 青岛 266122

3.山东中医药大学 青岛中医药科学院，山东 青岛 266122

自动编码器是深度学习中重要的无监督算法之一，其以神经网络为支撑，能从大量无标记数据中自动提取特征，同时具有结构简单、无监督等优点[1-2]。目前被广泛应用在数据分类[3-4]、异常检测[5-6]、模式识别[7-8]及数据生成[9-10]等领域。

近年来，诸多研究者从特征提取方式、隐含层特征表达和重构误差损失等方面对传统自动编码器进行了诸多改进。在特征提取方面，卷积自动编码器（convolutional auto-encoders，CAE）[11]、卷积降噪自动编码器（convolutional denoising auto-encoder，CDAE）[12]和张量自动编码器（tensor auto-encoder，TAE）[13]等被提出。其中CAE 使用卷积和池化的方式替代原有全连接（fully connection，FN）特征提取，以避免在二维信号特征提取过程中的空间信息损失；CDAE 通过对输入信号增添一定噪声形成受损信号，通过对受损信号的特征学习以提升对不同信号的特征提取能力；TAE 是在大数据特征学习过程中使用张量对特征进行表示，以解决大数据特征学习过程中向量无法建模等问题。在隐含层特征表达方面，饱和自动编码器（saturating auto-encoders，SAE）[14]、变分自动编码器（variational auto-encoders，VAE）[15]和大边缘自动编码器（large margin auto-encoders，LMAE）[16]等被提出。其中SAE 是在隐含层特征表达中增加一个正则项，以使得所提取特征处于激活函数的饱和区域；VAE 在对输入数据特征进行学习的同时也对所提取特征的概率分布进行学习，再利用所学特征分布来产生与原始输入类似的数据。……