孟恒宇，李元祥

（上海交通大学航空航天学院，上海 200240）

0 概述

异常检测是时序数据分析最成熟的应用之一，定义为从正常的时间序列中识别不正常的事件或行为的过程［1］。有效的异常检测被广泛用于现实世界的多个领域，如量化交易、网络安全检测［2］、汽车自动驾驶［3］和大型工业设备的日常维护等。以在轨航天器为例，由于航天器昂贵且系统复杂，不能及时检测到危险可能导致严重甚至无法弥补的损害，异常随时可能发展为严重故障。因此，准确、及时地检测出异常能够帮助航天工程师在第一时间给出应对措施。

基于重建的异常检测是目前时序数据异常检测的主流方法。文献［4］将深度学习用于异常检测任务中，使用基于长短期记忆（Long-Short Term Memory，LSTM）网络的自动编码器（Auto-Encoder，AE）来检测时序数据异常，该方法被成功应用于许多工业领域［5-7］。基于重建的异常检测算法首先使用正常数据训练自动编码器来重建序列，然后通过相同的模型重建异常序列，获得重建误差序列，最后利用阈值或其他方法分割出异常发生的子序列。

然而，LSTM序列式传播的特点导致检测算法难以实现并行化，大幅增加了计算耗时，尤其是随着数据量指数级增长，过多的训练耗时会影响模型的及时更新［8-9］。此外，LSTM等深度学习的“黑箱”特点使得提取到的特征很难有对应的物理含义，如在记录人为操作的故障数据集中，需要找出人为指令与异常的对应关系，此关系难以体现在LSTM模型中［10］。

近年来，Transformer模型成为完成自然语言处理（Nature Language Processing，NLP）任务的主要方法。……