唐奔宵, 王丽娜, 汪 润, 赵 磊, 陈青松

(武汉大学 国家网络安全学院,湖北 武汉 430072)

移动互联网、智能终端、位置服务等新技术的融合催生了移动应用和服务(简称APP)的空前发展.借助于智能终端中的多样化传感器,面向个性化定制的移动应用更是为用户带来了丰富且便捷的生活体验.这其中,以加速度传感器、陀螺仪、方向传感器等为代表的运动传感器在APP 中得到广泛应用.然而,移动服务的个性化定制依赖于个性化的数据采集,单个传感器或者多个传感器的组合可被攻击者用来区分用户的个体差异,进而带来隐私问题.现有研究表明:运动传感器能够作为媒介被利用构建侧信道攻击[1],窃取用户的敏感输入[2,3]、获得用户的运动状态[4,5]、识别并追踪特点设备[6−9].更重要的是,基于运动传感器的侧信道攻击易于实现,并且隐蔽性极强.与通话、GPS 等模块不同,当前智能终端架构并没有对运动传感器赋予高等级安全的权限,APP 不需要任何权限即可访问运动传感器[10].恶意程序也可以通过Web 浏览器[11],或者利用系统漏洞绕过沙盒机制获取传感器数据[12].因此,如何对抗运动传感器的侧信道攻击,是一个非常严重且至关重要的课题.

针对运动传感器侧信道攻击的防护应该同时考虑运动传感器的应用广泛性和侧信道攻击的低门槛特点,需满足可用性、普适性、和灵活性等需求.

1) 可用性:从应用角度来看,运动传感器广泛应用于多样化的APP,针对侧信道攻击的防御方案不能影响用户使用APP 时的正常工作流程,不能以牺牲用户体验的方式防御侧信道攻击.

2) 普适性:侧信道攻击的手段和目的多样化,包括泄露敏感输入、特殊用户识别等,防御方案在攻击手段面前应具有普适性.

3) 灵活性:智能终端的硬件和软件定制化程度很高,进而产生很多差异化的操作系统版本,防御方案应该能够尽可能地减少对APP 和操作系统的修改,同时,应能够在各种操作系统和硬件设备下进行迁移,不应受到实施环境的约束.

尽管研究者提出了很多防御方案[13],现有的防御机制均不能同时满足上述需求.已知防御方案可以分为以下4 类.

1) 抑制传感器性能.通过降低传感器的采样频率,甚至禁止APP 访问传感器[14,15]是最直接的对抗侧信道攻击的防御方案,但由于难以区分数据访问的目的,限制传感器性能的解决方案会严重影响APP 的正常运行,牺牲用户体验,不满足可用性需求.

2) 传感器访问控制.通过APP 数据流的上下文信息判断是否允许其访问传感器数据[16],但是访问控制无法防御伪装成合法APP 的恶意攻击,因此普适性存在欠缺.

3) 随机化方案.以最具代表性的系统键盘随机化方案[17]为例,它通过随机化虚拟键盘的布局,破坏传感器数据与用户输入行为之间的映射关系.但是该方案对于以追踪为目的的侧信道攻击无能为力,修改用户已经非常熟悉的键盘布局对于用户体验而言也十分不友好,无法满足可用性和普适性.

4) 传感器数据破坏.文献[18]提出,通过嗅探程序向用户进行敏感操作过程中产生的传感器数据中注入大量噪声,破坏传感器数据可用性.然而注入行为本身破坏了Android 的安全机制[19],依赖于对特定系统的修改,不具备灵活性需求.

针对上述研究问题,本文提出基于差分隐私Laplace 机制[20]的传感器信号混淆方案,能同时满足可用性[21]、普适性和灵活性的需求.我们对传感器原始读数进行混淆,设计了运动传感器侧信道防御方案.随后,本文提出了侧信道攻击的理论分析框架,通过分别分析信号混淆对于特征数值、特征分布以及学习模型的干扰过程,论述了本方案的防御原理,论证了本方案对现有环境中几乎所有运动传感器侧信道均具有防御能力.最后,基于11种典型侧信道攻击建立防御实验,验证了该防御方案对抗实际攻击的效果.

本文研究的主要贡献如下.

(1) 针对运动传感器侧信道防御不足的问题,揭示了运动传感器侧信道构建的通用模型.同时,提出了一种基于差分隐私的传感器信号混淆防御方案,该方案对攻击者和用户完全透明,在可用性、普适性、与灵活性上均具有突出表现.

(2) 建立了抗侧信道攻击的防御干扰理论分析框架,结合具体运动传感器侧信道,详细地分析了防御方案干扰侧信道攻击的各种因素以及干扰原理,论证了本文提出的运动传感器侧信道防御方案能够有效对抗符合通用模型的各种类型侧信道攻击.

(3) 对8 种典型的输入侧信道和3 种追踪侧信道进行系统的防御实验,验证了本文提出的运动传感器侧信道防御方案在应对实际攻击时的有效性,并对实验现象进行了合理的讨论与分析.

本文第1 节讨论运动传感器侧信道的通用模型.第2 节介绍防御方案中的信号混淆方法.第3 节与第4 节分别从特征分布、特征数值和学习模型的角度讨论信号混淆对侧信道构建的干扰原理.典型传感器侧信道的防御实验和结果分析在第5 节中呈现.第6 节介绍相关工作.第7 节对本文工作进行总结.

1 运动传感器侧信道模型分析

用户使用移动设备时,设备的空间状态会产生与用户行为相关的改变.例如:当点击手机屏幕某个位置时,手机会受外力的作用而转动,移动设备中的运动传感器能够感应到运动状态的改变,并以不同的形式(加速度、角速度、空间角度等)响应,攻击者能够利用“运动传感器-运动状态-用户行为”之间的映射关系构建侧信道,窃取用户隐私信息.我们把以点击位置为目的的运动传感器侧信道称为“输入侧信道”,以用户运动行为[4,5]为目的的侧信道称为“状态侧信道”.其中,输入侧信道常被用于泄露用户的PIN(personal identification number)、支付密码、实时聊天内容等隐私信息,具有更强的危害性.

运动传感器还被用于构建“追踪侧信道”.研究结果表明:由于生产厂商、使用年限、物理损坏等因素影响,手机中的传感器具有独特的缺陷,导致实际测量的数据与真实值之间存在符合线性仿射变换的误差,利用该特性能够实现对特定设备的追踪.通过对各种类型侧信道的构建原理和实施过程进行分析,我们发现基于运动传感器的侧信道攻击可以通过相同的模型描述,如图1 所示.

Fig.1 Common pattern of motion sensor-based side-channel attacks图1 运动传感器侧信道攻击通用模型

图1 中,映射系统表示侧信道的利用对象,包含了传感器数据与特定行为或设备之间的映射关系.定义基于传感器读数的特征空间χ⊆Rn为n维向量的集合,向量的维度n依赖于具体侧信道实施方案.用户行为空间由类标记集合Y={c1,c2,…,cK}表示,cK表示可能的行为,例如点击屏幕的某个位置或者某台具体设备.X是定义在传感器特征空间χ上的随机变量,Y是定义在用户行为空间Y上的随机变量,则运动传感器侧信道可以看做是用户行为Y与传感器特征向量X的联合概率分布P(X,Y),构建侧信道实际上是学习条件概率分布P(Y|X)的过程.运动传感器侧信道的构建包含了数据预处理、特征提取和分类器学习等3 个阶段,根据侧信道针对的具体目标和实施场景,侧信道选择的传感器类型、特征属性、分类器模型等存在差异.

由上述分析可得:无论哪种类型的运动传感器侧信道,其关键都在于用户行为与传感器之间映射关系P(X,Y)的学习过程[22].因此,可以通过干扰侧信道的学习阶段实现防御.对抗机器学习[23,24]领域中,研究者分别通过干扰学习模型的训练阶段和预测阶段,有效地降低了机器学习的预测效果.然而,已有的对抗机器学习方法并不适用于运动传感器侧信道防御,主要原因在于:实际环境下,防御框架无法准确区分出侧信道攻击的不同阶段.

针对上述问题,本文结合差分隐私的思想,设计了一种基于传感器读数混淆的防御方案,无差别地向传感器读数中注入少量噪声,具体信号混淆方法将在第2.2 节介绍.

2 防御机制实施方案

2.1 差分隐私技术

差分隐私是对通过算法消除个人隐私的数学定义,用于在保证一定统计数据精度的情况下,有效确保高度的隐私性.设ε为正实数,A为一随机算法,A将数据集作为输入.数据集D1和D2为非单一元素数据集,且2 个数据集仅相差1 个元素,若A的所有可能输出的子集S满足公式(1),则称算法A是ε-差分隐私:

其中,概率取决于算法的随机性.差分隐私中,某个查询函数f的敏感度s由f在2 个相邻数据集D1和D2上的最大差异|f(D1)−f(D2)|决定.

Laplace 机制是最常用的差分隐私机制,通过向查询结果中添加受控噪音降低查询结果的准确度.Laplace噪声的概率密度函数为noise(x)∝exp(−|x|/β),x为概率密度函数中的自变量.在Laplace 机制下,满足ε-差分隐私的A输出副本可以表示为f(x)+Lap(s/ε).

差分隐私具有严格的数学证明,能够在最大化攻击者能力的前提下,保证用户的隐私安全.这与侧信道防御场景相似,即假设攻击方能够获得尽可能丰富的用户信息.另一方面,混淆方案的首要前提是尽可能地减少对用户体验的影响,需要随机函数以较高的概率产生低值噪声,例如负指数分布.然而,负指数分布产生的噪声均为正值,进行噪声注入后,所有的特征将向同一个方向进行平移,并不能最大化各类特征区间之间覆盖.因此,由两个不同方向的指数分布背靠背拼接在一起所构成的双指数分布,即Laplace 分布,更适合进行侧信道学习过程的干扰.通过注入服从Laplace 分布的随机噪声,某些维度上的统计特征可以近似地看成向正负方向同时进行平移,当各类特征区间接近时,特征样本的覆盖程度将被最大化,更大程度地降低了特征精度.详细的防御原理将在后续两节进行阐述.

此外,相比于相似对称性的高斯分布等常见分布,Laplace 分布具有尖峰的特点.根据我们的研究,少量的噪声足以对侧信道造成显著干扰,为保证数据的可用性和实时性,我们希望得到更多的低值噪声.图2 展示了相同尺度参数下高斯分布与Laplace 分布的概率密度函数,由图中能够看出,在输出范围内,Laplace 分布能够以较高的概率输出低值噪声.虽然噪声的数值越高在干扰模型学习能力上越具有优势,但也降低了传感器数据的可用性.而且经实验发现,注入服从高斯分布的噪声会对用户体验产生明显的负面影响.综合考虑差分隐私技术与防御场景需求,本文选择以拉普拉斯分布产生随机噪声.

Fig.2 Probability density function图2 概率密度函数

将统计特征提取步骤近似地看做查询操作,为运动传感器的每一维(Android 下运动传感器通常包含3 个维度)的读数实时添加符合Laplace 分布的随机噪声noise～Lap(0,βd)进行信号混淆,其中,

sd为当前维度d的敏感度,其值等于窗口范围内传感器读数的最大值与最小值的差值.混淆因子ε表示信号混淆程度,由Laplace 的概率分布函数可知:ε越大,概率密度的尺度参数越小,产生高值噪声的概率越大.

2.2 信号混淆方案

相比于合法APP 中传感器的相关功能,传感器侧信道对数据的精度更加敏感,鲁棒性更低.本文提出的运动传感器侧信道防御方案通过差分隐私中的Laplace 机制,以随机概率向传感器的当前信号x(n)注入随机噪声noise(n):

其中,xo(n)表示混淆后的传感器读数.我们将该方案称之为“平移混淆”,对传感器的响应时间也以相同方式进行混淆.为实现对用户和侧信道攻击方的完全透明,对框架层中的android_hardware_SensorManager模块进行修改.APP 在应用层实例化SensorManager对象,重写回调函数onSensorChanged,当传感器检测到设备状态变化时,传感器数据将经由android_hardware_SensorManager模块向应用层的回调函数反馈.我们在框架层中添加一个缓存对象用于存放底层响应的传感器数据,并实时注入符合Laplace 分布的受控随机噪声,若随机噪声高于当前读数一定比例,则重新产生随机噪声.信号混淆具体方法可参考我们先前的研究[21].

为了保证合法应用程序中传感器相关功能的正常使用,将噪声的程度控制在一定范围内.然而,运动传感器侧信道对输入数据中的噪声(例如环境中的白噪声)具有一定的鲁棒性,过少的噪声可能难以有效降低侧信道攻击的成功率.此外,由于具体实现方案和攻击场景的差异,基于信号混淆的防御机制能否普适地对抗侧信道攻击有待验证.因此,后续两节中我们将结合具体的输入侧信道和追踪侧信道攻击,分析噪声注入对攻击的干扰原理和影响因素,论证防御机制有效性.

参与研究分析的设备见表1,其中包含了当前市场上主流手机生产厂商的多种型号设备以及操作系统版本.实验与分析过程中,所有设备的采样频率均为50HZ.

Table 1 List of devices表1 研究设备列表

近年来,虽然指纹、人脸识别等生物认证的研究趋于成熟,但是字符密码、图像密码等依靠用户输入的传统身份认证机制仍然在市场中占主要地位[25].我们筛选出研究领域中具有较大影响力的8 输入侧信道做为案例进行研究,各个输入侧信道的详细信息见表2.

参与研究的追踪侧信道见表3.

Table 2 List of input side channels表2 输入侧信道列表

Table 3 List of tracking side channels表3 追踪侧信道列表

3 特征影响分析

不同于机器学习中的噪声(标签噪声和输入噪声),直接在传感器读数中注入的混淆噪声具有全局性,即干扰行为同时存在于侧信道的学习和攻击过程.为了验证防御方法在不利环境下的防御性能,假设样本同时具有正确性.由于干扰的全局性特点,侧信道的训练集和预测集中的样本分布会发生同步改变,因此,传统机器学习中的噪声干扰原理在当前场景下并不适用.本节中,我们首先验证数据集的样本分布情况,然后对特征数值受噪声注入的影响状况进行分析.

3.1 特征分布分析

运动传感器侧信道的核心是从已有的数据中学习用户行为与传感器数据之间的映射规律,并对未知的行为做出决策.因此,训练集中的数据应具有较好的总体代表性,即假设训练集与预测集独立同分布.因为噪声的全局性,对于传感器读数的混淆行为并不会对数据集的同分布假设造成影响.

重新定义X为原始传感器特征空间中任意维度上的随机变量,Y为引入噪声后的改变量,Z为添加噪声后的特征随机变量,易得X,Y独立分布.添加噪声可以看做在当前特征维度引入1 个或多个独立Laplace 分布的随机变量,而注入行为可以分解为“加、减、乘、除”这4 种基本操作.

对于加法操作,若(X,Y)的概率密度为f(x,y),则Z=X+Y的分布函数为

所以,Z的概率密度fz(z)为

通过加法添加噪声后,训练集与预测集之间保持相同分布,分布函数由噪声分布和原始特征分布共同决定.同理可得,减法操作Z=X−Y的概率密度函数为

对于乘法操作,Z=XY的分布函数可以表示为

新的特征随机变量Z的概率密度fz(z)为

同理,以除法形式添加噪声的新特征变量Z=X/Y的分布函数可以表示为

除法操作后,特征随机变量Z的概率密度为

因此可知:混淆后的新特征集服从与随机噪声相关的概率分布,侧信道训练集和测试集之间仍然满足独立同分布的假设.

3.2 特征数值分析

由第1 节可知,运动传感器侧信道的学习阶段需要从传感器读数中提取统计特征构造特征向量.特征值受到噪声信号的具体影响依赖于统计方法以及特征的空间分布.以时域和频域下典型特征为例,讨论噪声对于特征数值的影响.

首先,随机噪声符合期望为0 的Laplace 分布,当传感器读数的长度足够时,平移混淆方法对于平局值、均差等特征产生很小的影响.设当前传感器的某个维度上的信号序列长度为n:{Xi}:=x1,x2,…,xn,则时域中均值M特征值描述为

设传感器读数xi处以平移混淆方式注入随机噪声,则混淆后的样本平均值可以表示为

由公式(12)得,平移混淆并不会影响侧信道的平均值特征.类似地,经过混淆后的时域均差D特征为

考虑噪声数值的符号,上式可以表示为

在混淆程度较小的情况下,小数值噪声的出现概率更大,噪声的均值更小,均差特征受到噪声的影响有限;随着混淆程度增大,均差特征被干扰的程度随之增加.注入噪声对于非线性统计的特征具有更明显的影响.以时域下标准差σ与均方根R为例,经平移混淆后,传感器读数序列的标准差特征σo表示为

经平移混淆后的均方差属性Ro为

由公式(15)和公式(16)得:平移混淆会对标准差、均方根等非线性统计特征产生较大影响,影响程度依赖于传感器读数序列以及随机噪声强度.在实际数据集中,通过对已知传感器侧信道中时域特征进行统计得出:平移混淆下,特征随混淆因子增大而呈现非下降趋势(上升或保持),其中包括了极值、方差等常用特征,以及偏斜度、峰度、相关系数等非常用特征.以平均值、标准差和均差特征为例,图3 展示了3 种特征受平移混淆的影响差异,特征提取自线性加速度x方向.图中横坐标表示对传感器信号的混淆程度,纵坐标表示特征的数值.可以看出,与上述分析结果一致:均值特征基本不受添加噪声的影响;均差的影响随混淆影子的增加而呈现线性增长;受到混淆影响最大的为均方差特征,干扰呈现指数型上升.

Fig.3 Value changes of time domain features of linear acceleration in x direction under different levels of translating obfuscation图3 不同程度平移混淆下线性加速度x 方向上时域特征数值变化

某些输入侧信道[31]和追踪侧信道[7]会提取频域特征作为时域特征的扩充,攻击者将传感器产生的信号序列作为离散的信号,并通过离散傅里叶变换得到信号的频域表示{Xk}:=X0,X1,…XN−1,其中,

设传感器读数序列的离散傅里叶变换为X(ω),噪声序列noise(n)的离散傅里叶变换为Noise(ω),其中,ω=ej2π/N,则根据离散傅里叶变换的线性特性可得:

由公式(18)可知,平移混淆对传感器数据频域的影响仅与引入的时域噪声相关.时域噪声信号在时间轴上服从随机分布,因此,频域噪声信号的分布与时域噪声分布无直接关系.当混淆程度较小时,时域上的噪声难以改变原始信号的变化趋势,平移混淆在信号频域上的干扰主要体现在高频部分;随着混淆因子的增大,信号的低频部分也会出现明显的干扰.图4 显示了频域中,点击按键“1”时产生的x维度上加速度信号受混淆因子ε=5 平移混淆的影响情况,图中横坐标表示频率,纵坐标表示幅度.

可以看出,由于Noise(ω)≥0,信号幅度在所有频率上均会产生非零增长.因此,基于频域提取的绝大部分特征都会受到信号混淆的影响.

以标准差特征为例,设样本在频域的标准差为σs,进行平移混淆后,频域标准差改变为

由公式(19)得:频域标准差特征的改变程度与原始信号及噪声信号相关,噪声信号的高频干扰对于频域标准差特征的影响更大.

Fig.4 Impact on frequency signal of acceleration in x direction with obfuscation level ε=5图4 混淆程度ε=5 的平移混淆对于加速度x 维度上频域信号影响

考察K-不规则性特征IKs:

K-不规则性的改变量仅与噪声在频域的分布有关.图5 直观地展现了平移混淆对于频域标准差和K-不规则性特征的影响情况,其中,混淆因子ε∈{0,1,5,9},特征提取自点击按键“1”,“3”,“7”,“9”,“0”这5 类事件对应的加速度x维度上的信号.

Fig.5 Impact on frequency features K-regularity and std deviation with obfuscation level ε∈{0,1,5,9}图5 混淆程度ε∈{0,1,5,9}的平移混淆对频域K-不规则性与标准差影响情况

图5 中,横坐标表示样本的频域标准差特征,纵坐标表示K-不规则性特征.混淆因子较小时(图5(b)),平移混淆对于传感器信号频域的干扰有限,标准差和K-不规则性没有出现明显的变化;混淆因子增大后,2 类特征的改变程度逐渐增强(图5(c)、图5(d)).此外,由于噪声信号在时间上具有随机性,频域特征的改变没有稳定趋势.

综上所述,传感器读数有限的情况下,平移混淆会导致绝大部分统计特征产生改变,各类特征由于提取方法的差异,受平移混淆的影响程度存在明显差异.混淆行为对时域特征的影响与噪声的概率分布相关,但在频域特征上的影响无明显规律性.根据机器学习原理,特征对于学习的贡献能力各异,因此,上述结果必然影响模型的预测.

4 模型干扰分析

本节将从学习模型的角度分析信号混淆对抗运动传感器侧信道可能存在的影响因素.信号混淆对于输入侧信道和追踪侧信道的物理意义不同,且攻击场景存在很大差异,因此分别讨论输入侧信道和追踪侧信道下的模型受影响情况.

4.1 输入侧信道模型干扰分析

研究[33]表明:当点击手机屏幕时,用户具有独特的行为习惯(敲击力度、时间间隔等),输入侧信道中,待预测类别之间仅存在由于点击位置不同而产生的微弱行为差异.同时,手机屏幕的尺寸进一步限制了行为差异,这些因素反应在特征空间上表现为各个类别之间的边界模糊.

4.1.1 特征区分度分析

信号混淆可以被近似地看作对传感器数据进行平移,根据第3 节中的分析结果,混淆操作对特征的影响差异性可能导致类别之间的混叠程度增加,降低各类别的区分度,使得类别之间的边界变得更加模糊.

我们通过互信息(mutual information,简称MI)[34]描述各维度上特征在特征空间中的区分度,互信息定义为

其中,U,V分别表示k-means 聚类和真实聚类,|⋅|表示当前类别中的样本数量.首先记录传感器在用户输入过程中产生的加速度a、角速度g、方向角度o和磁强m信号,根据数字键盘布局分为10 个类别,分别提取已知输入侧信道中共同的典型时域和频域特征,对各个维度的特征计算互信息,结果如图6(a)所示,其中,横坐标表示具体特征类型,纵坐标表示对应特征的互信息值.

Fig.6 Mutual information of typical time and frequency features of 4 motion sensors’ readings图6 4 类运动传感器数据的典型时域和频域特征互信息

从图6(a)中可以看出,不同传感器下的特征之间互信息分布存在明显差异,说明各种类型的运动传感器对于输入行为具有特殊的映射形式.此外,相同传感器下的不同特征之间的区分度差异较大,例如,时域上最大值(Max)的互信息约为0.76,而最小值(Min)的互信息值只有0.18 左右.对传感器信号进行混淆因子ε=5 的信号混淆,再次计算每个特征维度的互信息,结果如图6(b)所示.比较图6 子图,信号混淆后的数据集中,部分特征的互信息降低,表明特征在对应维度上的混叠程度增加.

特征区分度的改变会影响逻辑回归、决策树等学习模型,这些模型通过寻找最优决策边界的方式,构建空间判别类域.根据对已有侧信道研究的统计,决策树与逻辑回归模型都属于运动传感器侧信道的最佳学习模型,因此,类别之间区分度的降低是信号混淆能够抵抗输入侧信道的可能原因之一.

以决策树模型为例,讨论区分度对输入侧信道的影响过程.决策树以重要性描述特征之间的相对区分度.设当前样本集合D中具有y类样本,pk(k=1,2,…,y)为集合中第k类样本所占的比例,集合D进行决策的信息熵表示为

以信息增益作为节点划分准则,设特征向量中的连续属性a有n个可能取值,并按大小排序{a1,a2,…,an},t为属性a的划分点,D可以被划分为tD−与tD+,将相邻区间[ai,ai+1)的中位点作为候选划分点,考察包含n−1 个元素的候选划分点集合Ta={(ai+ai+1)/2|1≤i≤n−1},则连续属性a对样本集D进行划分所获得的信息增益为

Gain(D,a,t)是D基于划分点t二分后的信息增益,信息增益越大,a确定的情况下对于当前剩余样本分类的重要性越强.由于节点使用连续属性划分后,后续节点依然可以使用相同属性进行划分,因此,相对重要性更强的关键特征将会主导模型的学习预测走向[35].若决策树中相对重要性高的特征的实际区分度降低,则模型的整体预测能力差.Accessory 侧信道利用决策树模型学习传感器信号特征,提取加速度3 个维度上加速度传感器数据和欧几里得级数的时间域统计特征,构建输入侧信道.混淆因子ε∈{0,1,5,9}时,决策树训练阶段各个特征的重要性变化过程如图7 所示.

Fig.7 Impact on translating obfuscation on feature importance of decision tree model图7 平移混淆对决策树模型的特征重要性影响

图7(a)～图7(c)中显示了不同混淆因子下各类特征的相对重要性,横坐标表示侧信道中的特征类型,纵坐标表示相对重要性.平移混淆对于不同特征重要性的影响情况各异:原始特征向量中相对重要性较小的特征在注入噪声后的数据集中依旧保持低区分度;传感器3 个维度上的均方根RMS和最大值Max 受到平移混淆的影响较为明显,其中,均方根的相对重要性随混淆程度增加而增强,最大值呈现相反趋势.图7(d)中显示了传感器x方向上均方根和最大值的互信息变化情况,2 类特征在对应维度上的区分度均随混淆程度的增大而降低.最大值特征在模型中的相对重要性降低,同时区分度也降低,因此,该特征不会为模型做出有利贡献;均方根特征逐渐主导模型预测,但是该特征的互信息呈下降趋势,各混淆程度下的区分度均低于原始数据集中最大值的区分度,最终导致侧信道攻击准确率下降.

我们分别随机抽取了训练集和测试集中部分样本特征,比较信号混淆前后的实际分布情况,如图8 所示.对比图8(a)和图8(c),平移混淆使得样本在对应维度上的混叠程度增加,同类样本点之间的分布分散.原始数据集下最大值特征的相对重要性较高,因此决策边界垂直于纵坐标方向;经过平移混淆后(图8(c))最大值特征的区分度急剧下降,均方根获得了相对更高的重要性,决策边界垂直于均方根所在的横坐标方向.然而,此时均方根的区分度不及原始数据中最大值的区分度,新决策边界两侧出现了更多的错误类别.

Fig.8 Distribution of maximum and root mean squre in training set and prediction set with obfuscation level ε∈{0,9}图8 混淆程度ε∈{0,9}平移混淆下训练集与预测集中最大值和均方根分布情况

定义样本“1”正例,样本“9”反例,上述侧信道的分类结果的混淆矩阵见表4.其中,TP,FP,TN,FN分别表示真正例、假正例、真反例、假反例的样例数.正例的查准率Pp和反例的查准率Pn表示为

由于主导决策边界的特征区分度变低,预测集中(后文图10(d))中的假正例FP和假反例FN增加,真正例TP和真反例TN数量减少,即ΔFP,ΔTN≤0,经混淆后的查准率改变为

Table 4 Confusion matrix of prediction result表4 预测结果混淆矩阵

我们在频域特征中进行同样的实验,并得到了相似的结果.由上述实验分析可以得:平移混淆能够通过降低特征之间区分度的方式,对抗基于空间判别类域的输入侧信道攻击.综上所述,各维度上特征之间区分度的降低是信号混淆方案抑制输入侧信道攻击的原因之一.

4.1.2 特征值域分析

研究过程中发现:当使用t-SNE(t-distributed stochastic neighbor embedding)算法[36,37]对特征样本进行降维后,未经信号混淆的原始数据中,各个类别之间无法从视觉上进行区分.然而对所有特征进行归一化后再进行降维,各个类别之间出现了明显的边界.因此可以猜测:原始特征向量中可能存在的数值值域较大但区分度低的属性,进而导致降维后各个类别之间难以划分.

因同样以特征间距离描述相似性,k-NN 等模型的分类效果也会受到特征值域影响.不同于决策树等模型,k-NN 不具备伸缩不变性.根据第3.2 节和第4.1.1 节,添加噪声导致某些特征的值域扩大,并且降低特征的区分度,因此,信号混淆可能通过增大低区分度特征的值域方式,主导侧信道偏向错误预测方向.我们对经平移混淆的数据集进行离差归一化(min-max normalization),重新通过k-NN 构建Accessory 侧信道,实验结果如图9 所示.

Fig.9 Impact of normalization on prediction accuracy of single tap position of Accessory side channel图9 归一化对于Accessory 侧信道单次点击预测准确率的影响

图9 中,圆点表示Accessory 侧信道在归一化后的混淆数据集中预测准确率,三角形表示侧信道在未归一化数据集中结果.相同混淆程度下,归一化能够有效提高Accessory 侧信道攻击准确率,说明特征向量中始终存在具有大值域、低区分度的特征.随着混淆因子的增大,归一化的效果逐渐降低,混淆因子ε=0 时,归一化提高了Accessory 单点预测准确率约18 个百分点;混淆因子ε=9 时,提升的准确率只有约7 个百分点.高混淆程度下,注入大数值噪声的概率增加,归一化导致特征精度丢失.假设归一化能够完全去除特征数值范围的影响,那么归一化后提高的准确率近似地等于特征值域对侧信道的影响能力,因此可以得出结论:平移混淆导致特征值域改变并不是侧信道攻击受到抑制的原因.

我们在其他输入侧信道的验证中得到了相似的结果.综上所述,输入侧信道的特征向量中,存在具有较大值域且区分度低的特征,引导k-NN 等不具备伸缩不变性的模型的预测方向.然而,特征值域的影响在平移混淆中随混淆程度的增长而降低,所以信号混淆虽然会导致特征的值域改变,但并不是输入侧信道攻击受到抑制的主要原因.

4.2 追踪侧信道模型干扰分析

追踪侧信道基于传感器存在独特误差的背景,运动传感器由硬件缺陷产生的误差服从一次线性仿射变换,平移混淆可以理解为干扰传感器读数的偏移误差.图10 描述了平移混淆方案对传感器读数的影响意义.图10中,横坐标轴表示传感器某一方向的真实信号,纵坐标轴表示该方向上的读取信号,红色实线与蓝色实线分别表示设备1 与设备2 的传感器线性误差关系.假设初始环境下,传感器读数完全符合误差假设,2 台设备只有在极小范围内(图10 中圆圈范围)无法通过误差关系进行区分,我们称该范围“设备盲区”.通过平移混淆注入随机噪声后,真实值与读数之间的线性误差关系在纵坐标方向上发生了平移,误差关系在图10 中虚线区域内波动,设备盲区扩大到图中阴影部分.

Fig.10 Interference principle of data obfuscation for tracking side channel图10 数据混淆对追踪侧信道的干扰原理

4.2.1 特征区分度分析

误差特征是追踪侧信道的基础,因此,误差的区分度在一定程度上决定了追踪侧信道的攻击效果.追踪侧信道攻击场景中,设备与设备之间传感器硬件差异明显,通常情况下,不同设备传感器的偏移特征和增益特征具有很高的辨识度.FingerPrint[38]侧信道通过偏移特征与增益特征构建2 维特征向量,实现对设备的识别.从表1 实验设备中随机选择4 台设备,计算加速度传感器在z方向的增益特征和偏移特征,重力加速度g=9.7936 为实验地点的重力加速度,二维特征空间分布如图11(a)所示.

Fig.11 Impact on hardware error of accelerometer by data obfuscation with ε=1图11 ε=1 数据混淆对加速计硬件误差影响情况

从图11(a)中能够看出,不同设备的线性误差在增益特征与偏移特征维度上均具备良好的区分度,特征向量在2 维特征空间中分布清晰,仅从视觉上就能够精确地识别设备类型.对数据集分别进行混淆因子ε=1 的平移混淆后,特征分布如图11(b)所示.平移混淆导致设备误差关系的盲区变大,不同设备样本之间在特征空间中出现了重叠,区分度下降.理论上,干扰传感器间的误差关系的行为将直接影响从传感器读数中提取的其他特征.

我们在实验数据集中加速度(包含重力影响)和线性加速度中提取了表3 中3 类追踪侧信道所涉及的共240类特征计算互信息,结果如图12(a)所示.追踪侧信道中设备之间的差异性明显,大部分特征具有很高的分区度.对上述实验数据集进行混淆因子ε=1 的平移混淆后,再次计算各特征的互信息,结果如图12(b).除极个别特征以外,信号混淆使得追踪侧信道中大部分特征的区分度降低,高区分度特征的数量有所下降.总体而言,特征的平均区分度远低于未混淆数据集特征下区分度.

Fig.12 Impact on mutual information of typical tracking side channels’ features by data obfuscation with ε=1图12 典型追踪侧信道特征互信息受ε=1 数据混淆影响

追踪侧信道的重要性实验结果与输入侧信道重要性实验相似,不再重复讨论.综上所述,信号混淆行为通过破坏传感器读数误差关系,影响基于传感器读数的各类特征区分度,进而实现对追踪侧信道攻击的防御.

4.2.2 特征值域分析

本节中讨论特征值域改变对于追踪侧信道的影响情况.与输入侧信道特征向量类似,追踪侧信道的特征向量中同样存在低区分度、大数值的属性.通过对特征样本进行归一化处理,能够使得进行t-SNE 降维后的各类别之间辨识度提高,不同设备之间将会呈现清晰的聚类结果.

为了探究平移混淆对特征值域以及不具备伸缩不变性学习模型的影响,我们拆分3 种输入侧信道特征向量中的时域特征和频域特征,枚举所有可能的特征组合,并通过k-NN 进行学习.实验发现:当其他特征与偏斜度等个别特征组合时,模型的预测能力随信号混淆的引入出现明显波动.偏斜度是对传感器数据分布偏斜方向及程度的度量,由于追踪侧信道的攻击场景中所有传感器数据均在设备静止平放时收集,导致偏斜度接近.进一步分析发现:在未经混淆的特征中,偏斜度具有远超其他特征的值域,能够主导模型的预测结果.偏斜度与均差在平移混淆下的分布情况如图13 所示.

图13(a)为原始数据集中偏斜度和均差特征的分布情况,均差特征维度上(y方向),不同设备之间区分度明显;而偏斜度特征维度上(水平方向),各类样本重叠率非常高.观察特征的值域,均差虽然具有较高的区分度,但其值域仅为[0,0.05],远远低于偏斜度的值域[−3,3],因此,模型的表现受到偏斜度特征的主导.对数据集进行混淆因子ε=1 的平移混淆后(图13(b)),偏斜度的值域并没有受到信号混淆的影响,然而均差的值域改变为[0,20],模型的主导特征由偏斜度转变为具有较高区分度的均差,侧信道的预测准确率反而提升.

将偏斜度这一类具有大值域且区分度低的特征归一化后,以k-NN 构建的 MobileTracking,Tracking Exploring 和AccelPrint 侧信道在原始数据集中准确率分别提高至98.4%,97.1%,98.9%.考虑实际侧信道攻击时,攻击者如果通过归一化提高侧信道攻击能力,则帮助消除了特征值域的影响,信号混淆能够有效抵抗追踪侧信道,若攻击者未进行数据预处理,则侧信道的攻击能力较差,即便信号混淆可能导致攻击准确率出现略微提高,但仍然不足以造成威胁.

Fig.13 Impact on the distributions of skewness and average deviation by translating obfuscation图13 平移混淆对偏斜度特征和均差特征的分布影响

根据以上原理分析可以得出:基于信号混淆的防御方案在对抗输入侧信道和追踪侧信道时,主要通过降低特征之间区分度、增加混叠程度的方式实现侧信道防御.理论上,由于传感器侧信道攻击中需要识别的类别之间边界接近,因此即使低程度的信号混淆也能够影响攻击的成功率,并且该防御方法对于符合运动传感器侧信道通用模型的攻击均有效.

5 运动传感器侧信道防御验证

5.1 输入侧信道防御验证

本节对表2 中8 种输入侧信道进行传感器信号混淆防御实验.实验数据收集于15 位参与者,分别覆盖了多个年龄段与性别.实验中,因为数据集改变后实际最优分类器可能与文献中使用的建议分类器不符,所以首先通过不同的机器学习模型构建侧信道,找出上述侧信道在当前数据集下最合适的分类器模型.各输入侧信道在本文数据集下的分类器模型比较结果见表5.

Table 5 Impact of learning model on experimental input side channels (%)表5 实验环境下学习模型对输入侧信道的影响 (%)

表5 中,除Practicality 侧信道外,准确率均表示侧信道预测10 类点击位置(数字键0～9)的单次预测情况.Practicality 侧信道攻击的对象为完整的输入序列,因此准确率表示对10 种6 位长度输入序列的单次预测结果.在当前数据集下,逻辑回归模型与随机森林模型的表现情况相对较好,部分输入侧信道使用k-NN 模型也能达到较高的预测准确率.

下一步,利用平移混淆对传感器原始数据集进行信号混淆,从中随机选取训练集与测试集进行50 次重复实验,取实验结果的均值作为最终结果.为避免学习模型干扰,我们选取上述6 种学习模型中表现最好的4 类模型分别构造8 种输入侧信道.表6 为各输入侧信道分别在混淆因子ε∈{0,1,2,3,4,5,6,7,8,9,10}的平移混淆下单次点击预测准确率分布情况.

Table 6 Results of defense experiment against input side channel by translating obfuscation (%)表6 平移混淆对抗输入侧信道实验结果 (%)

由表6 中的实验结果可看出,由于噪声的注入降低了各点击位置对应特征之间的区分度,所以在任意模型下,通过对传感器读数进行平移混淆均能够有效地降低所有8 种输入侧信道的攻击准确率.随着混淆程度的增大,防御效果越发明显,各侧信道最优模型下混淆程度ε=1 时,准确率平均下降约1 个～9 个百分点;当混淆程度增加至ε=10 后,预测准确率平均下降约13 个～27 个百分点.此外,侧信道的初始预测准确率越高,信号混淆导致的准确率下降幅度越明显.

输入侧信道的单次点击预测误差会随着预测序列长度的增加而累积,以攻击效果最优的Textlogger 侧信道为例,攻击长度为4 的PIN 时,未进行信号混淆情况下,侧信道的平均成功率约为32%,即有约9 成的概率在6 次尝试之内攻破PIN.进行了混淆程度为ε=1 的平移混淆后,Textlogger 攻击PIN 的平均成功率为21.5%,达到相同的破解概率需要10 次尝试.当混淆因子增加到10 后,尝试次数至少需要45 次,但是大多数智能设备在自动锁屏前仅允许5～10 次失败,因此,由平移混淆实现的侧信道防御方案能够有效抑制输入侧信道攻击.

5.2 追踪侧信道防御验证

虽然追踪侧信道的相关研究在运动传感器侧信道领域的比重较小,但是由于追踪侧信道实施的前提假设更少,且不同类型设备的传感器硬件误差存在明显差异,追踪侧信道的威胁同样不容忽视.本节中,我们对表3 中的3 种追踪侧信道进行实际攻防实验.将表1 中的10 台设备正面朝上水平放置,以5s～7s 内的加速度传感器、陀螺仪和方向传感器信号做为独立初始样本,识别对应设备.

与输入侧信道实验一致,为验证数据集的可用性以及数据集对于学习模型的影响,首先使用多种机器学习模型实现上述追踪侧信道攻击.通过不同学习模型实现的追踪侧信道在原始数据下的攻击结果见表7.

Table 7 Impact of learning model on experimental tracking side channels (%)表7 实验环境下学习模型对于追踪侧信道的影响 (%)

表7 中的结果表明:在本文数据集中,随机森林模型更适合构建TrackingExploring 侧信道与AccelPrint 侧信道,决策树模型更适合于构建MobileTracking 侧信道.下一步,通过平移混淆对传感器数据添加随机噪声,混淆因子ε∈{0,1,2,3,4,5,6,7,8,9},分别使用随机森林、决策树和k-NN 模型构建3 种追踪侧信道,实验结果见表8.

Table 8 Results of defense experiment against tracking side channels (%)表8 追踪侧信道对抗实验结果 (%)

根据表8 中的实验结果,信号混淆对于追踪侧信道的干扰主要呈现于两个方面.

· 首先,防御机制应对不同学习模型时存在差异,信号混淆能够显著抑制基于决策树和随机森林模型构建的追踪侧信道攻击的准确率,但在对抗由k-NN 模型构建的追踪侧信道时反而产生反作用.该现象与第4.2.2 节中的分析结果一致,构建侧信道所提取的特征当中存在数值较大且区分度低,但不易受噪声影响的属性,因此进行噪声注入后反而导致攻击准确率上升.然而,该情况并不会阻碍实际防御效果,因为侧信道预处理过程中的归一化能够消除值域的干扰,即使未进行归一化处理,提升后的攻击准确率仍然远低于其他模型下构建的侧信道.

· 其次,混淆程度对于追踪侧信道防御效果的影响无关,虽然噪声注入能够立刻较大程度地抑制攻击准确率,但是增加混淆程度并不能明显增强对于追踪侧信道的防御效果,其原因在于设备之间硬件差异较大,导致对应样本类别间的边界比较清晰.

上述结果有利于决定实际防御过程中的传感器信号混淆程度范围,仅需考虑合法应用中传感器相关功能对于噪声的承受能力.

下一步讨论待识别设备数量对侧信道防御的影响情况.我们从表1 中随机筛选5 台设备样本进行攻击实验,实验中的追踪侧信道均由最优模型构建,实验结果见表9.

Table 9 Impact of number of device on defense against tracking side channels (%)表9 追踪侧信道对抗效果受设备数量影响情况 (%)

比较表8 与表9 中的实验结果,信号混淆方案的防御效果与设备数量成正比例关系,追踪侧信道待识别的设备数量越多,则防御效果越好.实际的攻击场景中,待识别的设备数量可能远远多于10 台,因而基于信号混淆的侧信道防御机制能够在实际应用中产生更加优异的对抗效果.

本节中,我们从应用方面验证了本文所提出的运动传感器侧信道防御方案能够有效干扰各种类型侧信道攻击,通过注入少量噪声,即能够在不影响用户体验的前提下实现无差别的运动传感器侧信道防御.该方案与侧信道类型、侧信道构建模型和特征无关,具有非常良好的普适性与防御能力.

6 相关工作

6.1 运动传感器侧信道

6.1.1 输入侧信道

运动传感器被广泛应用于构建侧信道攻击,攻击者通过学习传感器数据与点击行为之间的映射关系,推测用户的输入信息[2,3].加速度传感器、方向传感器、陀螺仪等运动传感器都可以作为侧信道媒介[39].Cai 等人[40]利用陀螺仪和方向传感器构建了TouchLogger 侧信道攻击,首次指出按键产生的设备震动与键位之间存在高相关性,该理论成为了输入侧信道的最重要理论之一.TapLogger[30]侧信道由陀螺仪和加速度传感器实现,作者提出,通过加速度信号的波形区分点击事件的发生.文献[28]通过合理的特征处理,利用加速度传感器与陀螺仪实现了对长序列文本输入的有效攻击.Noor 等人[41]的研究指出,相邻点击事件之间的手势改变同样能够用于推测点击位置;Negulescu 等人[42]在此基础上实现了侧信道的构建.除了Android 系统,Marquardt 等人[43]在iOS 下实现了输入侧信道,作者通过放置在键盘附近的iPhone 收集用户敲击键盘时产生的桌面震动信息,推测点击行为.某些智能穿戴设备同样能够被用于构建运动传感器侧信道攻击[14].

上述输入侧信道的实际攻击目标均为用户点击触屏的位置,因此在攻击连续的输入序列时会产生累计误差.Aviv 等人[32]将侧信道的攻击对象改变为完整的输入序列,通过拟合用户输入完整PIN 时产生的加速度信号,提取统计特征,识别特定的输入序列.这类输入侧信道与基于行为特征的身份认证[44,45]方法非常相似.除字符密码外,攻击也适用于图形密码[46,47].然而,仅4 位长度的PIN 就存在104种排列组合,如何构建完整可靠的训练集,是这类输入侧信道有待解决的首要问题.

6.1.2 追踪侧信道

追踪侧信道通过传感器的硬件误差,提取指纹信息作为识别设备的唯一标识.Bojinov 等人[38]通过提取加速度传感器线性误差关系中的增益误差与偏移误差,构建了追踪侧信道攻击.当用户使用移动设备访问网站时,攻击者可以在服务器端通过浏览器获得加速度信息用于识别匿名用户.除此之外,该研究还指出,麦克风等非运动传感器同样能够帮助进行用户识别.Das 等人[6]同样通过Web 浏览器获取加速度传感器读数,构建侧信道进行用户追踪.不同的是,该侧信道并没有直接使用增益误差和偏移误差作为设备特征,而是提取其他统计特征用来反映传感器的硬件标识.研究者分析了在实际的攻击场景下追踪侧信道的表现情况[7],为提高侧信道攻击准确率,作者们新增了线性加速度传感器和陀螺仪,并实施更合理的特征工程方案.Dey 等人[8]利用移动设备加速度传感器的独有特征构建追踪侧信道,在实验环境和实际环境中均取得非常优异的表现.

6.2 传感器侧信道防御

针对移动设备键盘恶意按键推理攻击的可行性已经被多个研究工作所证实,但是在保护方面研究较少.对传感器进行访问控制是一种可行的侧信道防御方案.Conti 等人[16]提出了一种基于上下文的访问控制机制,该机制可以将用户从人工设置访问权限中释放出来,但是他们所实现的机制需要对已有的操作系统进行复杂的修改,而本文提出的方法只需要在框架层中嵌入少量程序.此外,限制访问控制机制实际应用的最大问题在于无法防御来自具有合法权限的APP 所进行的侧信道攻击,相比之下,本文方法对应用层程序实现无差别防御.文献[14]和文献[15]提出,通过强制降低传感器采样频率或禁止传感器运行的方式防御传感器侧信道攻击.然而,这种行为对于非恶意应用的影响非常严重,许多APP,例如射击游戏等,需要较高的采样频率以达到用户满意的运行效果.我们的防御方案能够在进行有效防御的同时,保证合法应用的正常运行.

Shrestha 等人[18]在用户输入敏感信息的过程中向传感器读数中注入强烈噪声的方式完全破坏传感器读数,然而该方案不但可能造成正常应用程序的失效,还可能由于突破Android 的沙盒机制而被判定为恶意行为.此外,该方案容易被攻击者利用注入有利于构建侧信道的信息[23,24].由于无法准确判断用户何时进行敏感信息输入,该方案仍然依赖于安全意识普遍较低的用户决策.与之相比,我们的防御过程实施于系统框架层,不会被恶意攻击者绕过或利用,此外,由于完全透明于应用,防御将不会有用户行为的干扰.

输入侧信道的基本假设是攻击者知道目标用户使用的键盘尺寸和布局,Young 等人[17]首次提出随机改变目标键盘的布局是针对输入侧信道攻击的有效保护策略.在此基础上,Maiti 等人[48]对默认布局中的按键大小、排序等采取不同程度随机化,一定程度上平衡了随机键盘策略的易用性和安全性.通过改变键盘布局的防御方法具有明显的局限性:首先,改变广泛使用且用户已经非常熟悉的默认键盘对于绝大部分用户而言是不友好的,而且除了系统的默认键盘外,很多APP(微信,支付宝等)自带键盘,难以将键盘布局随机化策略应用到所有APP中;其次,布局随机化策略无法防御同样利用运动传感器的追踪侧信道攻击.

已有的工作在以下两个方面存在缺陷:首先,已有研究无法有效平衡用户体验与防御能力,要么牺牲用户体验来提高防御效果,要么保证了用户体验而防御能力较差;其次,已有的研究无法做到对各种类型侧信道的普适防御.本文提出的防御方法有效地解决了上述问题:通过在系统框架层进行信号混淆,能够对各种类型侧信道的构建过程进行干扰,实现了该防御方案的有效性和灵活性.此外,我们在先前的工作[21]中分析了合法应用程序与侧信道对于传感器数据精度的差异,讨论了各种类型运动传感器相关功能的噪声承受上界,提出了各类合法功能的建议混淆范围,进而保证防御方法的可用性.与其他研究相比,该防御方案实现了防御能力与用户体验的平衡,具有优异的应用价值.

7 总结

本文针对移动设备运动传感器侧信道攻击,提出了基于Laplace 机制的传感器信号混淆防御方案,并对防御原理进行了详细和全面的理论分析.本文的防御方案中,通过平移混淆方式向传感器读数中无差别地注入服从Laplace 分布的少量随机噪声,在保证APP 正常运行的前提下,有效降低各种类型的运动传感器侧信道攻击成功率.该防御方案部署在系统框架层,对于攻击者和用户完全透明,不会破坏系统原有安全机制,具有良好的可用性、普适性和灵活性.首先,对运动传感器侧信道的构建过程进行了分析,讨论运动传感器侧信道通用模型;然后,从理论层面分析了信号混淆干扰运动传感器侧信道学习阶段的原理,进而证明本文提出的信号混淆方案对于符合模型的传感器侧信道均有效;最后,对8 种典型的输入侧信道以及3 种追踪侧信道进行防御测试,验证防御方案在应对实际攻击时的有效性,其中,混淆程度ε=10 时,平移混淆降低输入侧信道单次预测准确率平均约19个百分点,降低追踪侧信道单次设备识别准确率平均约13 个百分点.本文的研究不仅能够在侧信道防御的实际应用中发挥积极作用,对后续运动传感器侧信道相关工作也具有重要的参考价值.