马靖

摘要：信息化、智能化、大数据时代的快速到来，使得人们还没有做好充足的准备就已经身处其中，智能手机、智能可穿戴设备、自动驾驶汽车、基于大数据的个性化服务让人们应接不暇。公共部门作为公共秩序的维护者与公共服务的提供者，必须具有足够强的警觉性，在各国将人工智能列为国家发展的重大战略的同时，同样要先考虑好人工智能时代到来后可能出现的治理困境。为了合理地使用人工智能促进人类社会的发展，人们有必要提前思考公共治理可能面对的一列困境：伦理问题，个人隐私将告终结;法律问题，人工智能决策的可信度与责任归属;秩序问题，失业与社会稳定等等各方面，人类必须防患未然。

关键词：人工智能;困境思考;建议

英国著名物理学家史蒂芬·霍金（Stephen Hawking）2016年10月在剑桥大学演讲中指出：“人工智能有可能是人类文化的终结者。它既可能成为人类至今发生过的最好的事，也可能成为最糟糕的事。”任何一项事物都有两面性，人工智能自然也如此。在人工智能服务于人类社会的同时，我们也看到，智能化时代的东西没有一样是可以凭借一个人来完成设计、生产、了解其运作原理的，人们无法依靠自己的知识去单独去了解、掌握、监督与自己生活息息相关的每一个智能化产品或服务。管理的数据和信息的来源及分析已经无法依靠人脑来单独完成。现阶段人工智能的发展水平还处于起步阶段，将来的超级人工智能又是否会像电影中所展示的那样具有独立的意识，威胁到人类文明，现在无从得知，我们只就现阶段水平下，人工智能已经显露或有些预兆的问题加以总结思考。

一、人工智能对隐私空间的破坏

随着信息化、大数据、人工智能时代的到来，人们对于隐私的保护意识越来越强，但实际上人们的隐私空间越来越狭窄。仅仅在十几年前的上世纪，人们还在在意在公共场合被拍照片会侵犯自己的隐私权，而现在，这种关于人的相貌、行为、动向等诸多方面信息的采集早已遍布大街小巷，无处不在的摄像头无需其监控范围内任何人的同意，便可以无时无刻、悄无声息地获取各种隐私信息。一个人一天之内从出门到回家，所有的动向都被捕捉在大数据网络之内，一方面所有的犯罪行为、犯罪分子都无所遁形，另一方面，所有的人行为动向都记录在大数据网络之中，等待某一刻被需要使用的人使用。隐私权作为公民基本的人身权利之一，公民不愿将自己的行踪举止毫无预告地被实时获取，至少应该享有决定是否让这些隐私数据化的权力。

除了在现实世界的空间位置、行为动向、容貌表情等信息被几乎是实时获取之外，更重要的隐私空间的破坏是在虚拟世界，也就是公民在网络上活动，这已经涉及到了人们的精神生活层面。几乎所有的网络活动都会留下痕迹，这些痕迹也都能够被人工智能获取并分析，同时这些虚拟世界的痕迹和现实世界紧密结合，通过虚拟世界的痕迹搜集及分析可以十分精确地预测人们下一步的行为动向。智能手机常伴身边，数据连接、无线网无处不在，我们所使用的浏览器、购物软件、支付软件、社交软件等等，无时无刻不在记录我们的个人信息：地理位置、浏览偏好、购买意图、常用联系人……一系列生活信息无所不包，这些信息经过日积月累的收集整理汇集成大数据，不同软件获取的大数据在一定程度上的整合、匹配能够发现出乎意料的信息，包括“预测未来”。人工智能又通过反馈，将一些符合你的品位、价值判断的信息推送给你，以至使你生活在一个被预设好的圈子里，并且你對这个“圈子”里的东西深感满意，身处在这样的“圈子”里，你甚至没有意识到需要“反抗”，从而人工智能在一定层面上“控制了我们”，消除了个体行为的诸多不确定因素。

二、人工智能运算程序的安全性和可控性难以保证

如何保证人工智能按照既定的算法运行，不会出现程序上的错误甚至功能上的改变，现如今人工智能算法越来越复杂，还没有一个制度化的、可靠的方式能够确保每一个人工智能程序的安全性。近年来特别火的一个关于人工智能的词汇就是“深度学习”，深度学习的概念由Hinton等人于2006年提出。基于深度置信网络（DBN）提出非监督贪心逐层训练算法，为解决深层结构相关的优化难题带来希望。人工智能已经从起初的监督学习（即庞大的数据经验总结）发展到了“深度学习”，这已经达到了“质”改变了，即从归纳、模仿到自我学习、自我发现规则。以阿尔法狗为例，2016年3月，阿尔法狗与围棋世界冠军李世石进行围棋对战，以4比1总分获胜。经过升级之后，2017年5月，阿尔法狗与世界排名第一的围棋冠军柯洁对战，以3比0总分获胜。如果说李世石与第一代阿尔法狗的对弈还有一次获胜的机会的话，那么柯洁与使用深度学习算法的第二代阿尔法狗对弈是毫无胜算，一场也赢不了。升级版的阿尔法狗——AlphaGoZero使用新的强化学习方法，让自己变成了老师。系统一开始甚至并不知道什么是围棋，只是从单一神经网络开始，通过神经网络强大的搜索算法，进行了自我对弈。随着自我博弈的增加，神经网络逐渐调整，提升预测下一步的能力，最终赢得比赛。更为厉害的是，随着训练的深入，AlphaGoZero还独立发现了游戏规则，并走出了新策略，为围棋这项古老游戏带来了新的见解。

具备了“深度学习”能力的人工智能，已经超出编程人员的预想，开始创造出新的东西，未来的人工智能会发展到怎样的阶段很难说得清了，这就给人工智能安全性的测定带来了巨大的挑战，甚至说是不可能，很难预测人工智能机器是否会在运行过程中出现问题。同时关于对人工智能的可控性的担忧，人们已经在电影作品中描述了无数种可能，人工智能是否会通过“深度学习”或者将来更高层次的学习方法获得“自我意识”，以至于产生对人类的敌对思想从而毁灭人类，也很难讲得清。

三、人工智能系统中潜藏着 “人类等级制”

信息化的社会让人们的生活更加方便快捷，不需要出门，就可以在网上完成购物、缴费、购买保险等等各项事务，人们不需要见面就享受到了大部分生活服务，而伴随其产生的是一套网络信用体系，大数据记录了人们所有的网上浏览操作痕迹，对每一个人的数据进行整理分析并附在他所接触的所有电子设备背后。打开一款支付软件，可以找到一个“信用体系”的功能，通过你所有的网上交易数据，来评定个人信用值;打开一款旅游软件，可以看到你所有去过的地点，喜欢的餐厅、食物。人工智能不断搜集关于个体的数据，在获得足够多的数据之后，就可以对每个人进行“打分”，这套分数体系将伴随着用户的身份，通过用户接触的所有电子设备，搜集信息，穷其一生。当人工智能服务领域中，几乎所有的用户都在系统中有一套完整的分数体系后，人工智能将会使用所有人的这些分值，把用户进行区别对待。人类社会的公共治理中，处理问题首先考虑的应该是社会的公平、正义，现代的民主政治思想强调“人人平等”，在两难的困境中，绝不能以个人的身份、地位、财富等附加物来评价“生命的贵贱”。而人工智能则并非如此，它只以运算、数理逻辑进行决策并采取行动，一般而言，社会地位较高，拥有社会资源丰富的人，在人工智能打分系统中更有优势，人工智能通过获取其学历、财富、人脉、消费层次、工作属性等信息将其评定为高分，以“重要客户”对待，同时反馈给“重要客户”更多具有价值的信息，以期这些“重要客户”能够再来获取更多的服务。

自动驾驶汽车的出现将这个问题带到了现实世界，在紧急情况下，自动驾驶汽车是选择撞上行人，还是打方向盘牺牲乘客，这个也取决于人工智能系统对每个人的“评分”。人工智能决策从一开始程序设定的时候就已经决定，“车子会撞向谁”，这种运算的逻辑丝毫不受人类伦理的影响，它不仅在各种服务环节上产生了歧视行为，还可能在紧急时刻决定人的生命。潜藏在人工智能背后的“人类的等级制”已经悄然上演。

四、人工智能带来新的社会秩序问题

这几年来，我们见识了太多的人工智能机器，他们不断超越我们的认知和想象，智能化车间、移动支付、智能机器人、自动驾驶汽车，在各个方面表现出惊人的突破，同时在很多领域超越了人类的极限和能力。人类正在享受越来越全面化的人工智能服务，但同时也带来了一些社会问题，人工智能首先代替了一些简单机械化的工作程序，逐渐地朝着技术含量较高的层次经发，同时由人工智能开辟的一些新兴产业代替了手工、线下的各种产品和店铺，人工智能每前进一步，都可能对不同行业造成一定的冲击，未来它会取代哪些工作很难预料。但显而易见，人工智能取代人类工作的趋势不可逆转，特别是对底层劳动者的冲击最为巨大，大量从事机械化或体力劳动工作者失业，造成这些人更难找到工作。面对人工智能的快速发展，公共部门应该如何解决这些人的失业问题成了巨大的难题。

将来会不会出现这样的情况，当人类社会的文明发展到一定层次，所有人都是接受过高等教育的知识分子，从事社会交往、服务性的工作，生产性的工作完全有智能化机器来完成，物质资料不能说取之不尽，但也足以满足全社会的基本生活条件，这种生活层次相当于现今中产阶级的生活水平。从理论上讲，也许是可以实现的，但从事物发展的角度来说，社会结构总有两面性，总有富裕的阶层，也总有贫困的阶层，人工智能是否能够打破这种规律，很难断定，只能说“未曾认知的事物，你永远也无法想象它是怎样存在的”。

五、结语

总的来说，人工智能的发展，给人类社会带了巨大的好处，它是人类科技发展中迈上的又一大的台阶，未来的人类生产生活的方式都将随着发生前所未有的改变，人工智能已经被称为“第四次工业革命”，它的意义是非凡的。吸取以往几次工业革命的教訓，在人工智能时代全面来领之前，我们需要去思考人工智能可能出现的负面影响，及时做好规划，防患于未然。定立法律，明确私人隐私空间的范围;维护公平正义的社会原则;规避人工智能开发源头各种谋取私利的危害等。

【参考文献】

[1]孙志军，薛磊，许阳明，王正.深度学习研究综述[J].计算机应用研究，2012（08）：23-26.

[2]中国青年网.阿尔法狗再进化碾压旧狗——不再受人类知识限制[N].中国青年网，2017.

[3]腾讯研究院.人工智能各国战略解读：英国人工智能的未来监管措施与目标概述[J].电信网技术，2017（2）：32-39.

[4]尹昊智，刘铁志.人工智能各国战略解读：美国人工智能报告解析[J].电信网技术，2017（2）：52-57.

[5]董立人.人工智能发展与政府治理创新研究[J].天津行政学院学报，2018（3）：3-10.

[6]何哲.人工智能时代的政府适应与转型[J].行政管理改革，2018（6）：53-59.

[7]柳亦博.人工智能阴影下： 政府大数据治理中的伦理困境[J].行政论坛，2017（3）：97-103.