张田勘

隔墙有耳

使用苹果手机或苹果产品的人，都知道西瑞（Siri），她（姑且用“她”，因为是女音）是一位智能语音助手，能和用户进行智能对话。不过，现在她的一种做法让人惊出冷汗：西瑞被意外激活时，会记录下来一些声音，并在用户不知情的情况下，发送给苹果公司“评分员”进行人工评估。

毫无疑问，这是人工智能产生和触发的伦理问题，直指人工智能的要害，即人工智能产品是否安全，以及能否保护公众的个人隐私。

苹果公司马上进行了解释。一是西瑞偷偷录音并传给第三者即“评分员”，是为了更好地改善西瑞的功能。二是录音只是小部分西瑞被自动激活后的结果，而且这些录音也只有1%被用于评级。三是被偷录下来的音频传送给的第三者只是审核者（评分员），所有审核者都有义务遵守苹果公司严格的保密要求。而且，这些偷录的音频时间也很短，通常只有几秒钟。也就是说，即便西瑞被激活偷偷录音并传给他人，也是可以保密的。

不过，事情并非那么简单，现有的很多情况表明，西瑞偷录用户的声音隐藏着极大的不安全性。一是西瑞很敏感很兴奋，简直就是一位躁动不安的怀春少女，尤其是手表中的西瑞，只要叫一声西瑞或出现与西瑞发音相似的语音，她就会及时应答和被激活。2018年英国国防大臣加文·威廉森在议会发言中说到叙利亚（Syria）时，就激活了西瑞。

另外，西瑞偷录下的音频也并非如苹果公司所称的只有几秒钟，而是30秒之久，这个时长的录音足以让人准确分析出谈话内容。……