王婧漪

（1.西安交通大学 马克思主义学院，陕西 西安 710049；2.宁夏区委党校 哲学教研部，宁夏 银川 750021）

人工智能的诞生与发展深刻地影响着人类文明的演进，自20世纪50年代诞生以来以其惊人的速度为社会发展提供了不可估量的动力，给人类的生活环境带来了翻天覆地的改变。在人类历史发展的长河中，人工智能是唯一触动了各个领域专家与学者思想碰撞与激荡的领域，技术与社会的融合问题一直以来都引人深思。

一、辩证地看待人工智能的发展

人工智能，究其发展来看，就是运用计算机科学、电子信息技术、控制论等学科，涉及哲学、心理学、认知科学等概念，可以广泛应用于交通运输行业、社会服务行业、教育医疗业等各个行业领域的研究与发展的科学技术。2019年5月，习近平总书记在中国人工智能与教育大会的贺词中指出：“人工智能是引领新一轮科技革命和产业变革的重要驱动力，正深刻改变着人们的生产、生活、学习方式，要推动人类社会迎来人机协同、跨界融合、共创分享的智能时代，培养大批具有创新能力和合作精神的人工智能高端人才。”[1]人工智能以迅雷不及掩耳之势融入了人类生产、生活当中，云计算、大数据、人机对话、智能手机、“互联网+”等等，让人们体验到了足不出户的便利与优势，但同时也意识到了快速发展的人工智能技术所引发的一系列社会问题。

1.人工智能：为社会发展注入新活力。人工智能的产生与发展是有着社会必然性的，其初衷就是减轻人类的负担，辅助人类进行生产劳动，提升人类认识世界、改造世界的能力，这是人类通过社会实践活动对所拥有的知识不断学习、更新、完善的结果。

纵观人类的历史发展过程，生产力的发展是社会进步的决定性力量这是毋庸置疑的，从最初人类的手工劳动演化到机器生产，再到实现自动化的生产劳动，这是对人类劳动方式进行了变革，是生产力不断进步的必然要求。工业革命后，生产力的发展实现了前所未有的飞跃；计算机模拟与信息技术的迅猛发展，引起了生产方式的巨大变革，人工智能以一种独特的方式进入人类的视野、影响人类的物质生产活动，满足人类的基本需求，并且在经济全球化与一体化的今天慢慢地改变了人类所特有的生活方式。

大数据时代，在拥有“数据、算力与算法”这样大批量、多维度、深层次的训练之下，人工智能不仅能够完成自我学习、自我提升、自我价值的实现，更具备了处理以往只有人类才能进行的复杂问题分析以及推理的能力。

2.人工智能：机遇与挑战并存。人工智能的发展推动产业更新换代的步伐，为发展中国家提供了赶超发达国家的可能性，社会发展本身就是新事物不断地产生、发展之后逐步代替旧事物的过程，这个演进过程并不是一帆风顺的，但我们必须坚信道路是曲折的，而前途是光明的。

任何一个新事物的产生都会掀起一股浪潮，人工智能的产生集人类智慧于一身，提高了社会生产率，改变了人类的生活质量，却也对整个社会体系产生了不小冲击。人工智能以惊人的发展速度引发了人们的深深思考，2015年谷歌集团的阿尔法狗（AlphaGo）机器人毫无压力战胜欧洲围棋冠军樊麾，2016年轻松打败世界围棋冠军职业九段棋手李世石，2017年在中国乌镇围棋峰会上以3：0的成绩与排名世界第一的世界围棋冠军柯洁对战再次大获全胜，引起社会广泛关注，各界人士对人工智能给物质生活带来的改变议论纷纷。人们一方面感叹于人工智能仅在半个多世纪就在各个领域取得了巨大成就，为智能生活所带来的幸福与便利感到震惊；另一方面，也因为担忧在未来的日子里人工智能有可能会超越人类智慧、抢夺人类主体地位，而置人及人类文明于极大地不确定性或风险当中，倘若没有正确的价值方向和规范的体系指引，人工智能未来的发展将会给人类社会带来不容小觑的改变。

二、人工智能发展带来的社会问题

1.人工智能的发展引发新的社会矛盾。科学技术作为调节人与自然关系的最基本的手段，经历了把人由受牵制的被动地位逐步提升到可以与自然平等对话、能够适应自然、改造自然的重要位置。人工智能推动了社会产业结构的优化、促进社会转型升级，改变了人类的生活方式，但由于“科学万能论”的流行，当人们频频举杯庆祝这难得的硕果、享受丰收的喜悦时，大自然这个人类赖以生存的大家庭却失去了往日的斑斓色彩。

其一，滥用人工智能威胁人类健康、生命安全。人的发展并不是孤立的，而是离不开所处环境、离不开与他人之间正常交往的。例如，当前智能产品的使用使人们可以足不出户就能享受到各种服务，淘宝可以满足人们在家坐等所需的愿望、电子游戏可以填补人们的空虚与寂寞，这些从表面看来似乎都减轻了人类生活当中的种种压力，但随之而来的就是健康以及安全问题，排斥与他人进行交流、长期沉溺于网络游戏的虚幻生活中会导致人类逐渐丧失语言能力、沟通能力，长此以往，甚至会影响婚姻、家庭关系破裂。再如，一些药物可以激发运动员的耐力、体力，但如果长期服用是否也会对其身体造成或多或少的影响，这些都不得而知。

其二，引起就业压力与失业担忧。人工智能之所以可能引起失业担忧，并不是说其本身不好，而是因为利润空间的增大以及资本的驱使。每个职业的产生与存在都有一定的意义，人工智能的快速发展取代了许多本来由人类担任的工作，使得一些传统行业和手工业的生存空间被大量挤压，利用机器进行工作取代人类最原始的手工劳动是实现人的解放的必要手段，机器具有劳动时间长、专注力高、处理问题“理性”、可操作性强、效率高、犯错率相对低的特点，但确实也会存在有些行业因为重复性强、工作方式单一等原因而造成了整体性失业概率逐渐增加的可能性。尤瓦尔·赫拉利在《未来简史》一书中预测：“大量单一、重复的工作将迅速被人工智能取代。”这是一个学术界热议的问题，也是人类社会发展到最终要实现人的全面解放所不得不面对的问题。未来的人工智能前景依然十分广阔，能够胜任的工作也越来越多，不仅是汽车司机被取代，教师、律师、医生、警察等各种职业都有可能被取代。生产劳动是人类生存的必然要素，一旦失去劳动这个支撑人类实现物质需求与精神需求的核心动力，随之而来的就是越来越大的生存压力，不断增大的贫富差距会引发一系列社会问题，当失业的人数不断增加、就业成为一大问题时则会引发社会动荡不安。

其三，引发生态环境问题。人们在享受经济发展带来的无限憧憬时却也伴随着巨大的生态环境破坏。空气污染、植被锐减、过度开垦、土地沙漠化、生物多样性减少等问题正在反噬着人类赖以生存的环境，我们要面临的不仅仅是经济的停滞甚至还有可持续发展要面临的困境。

生态环境问题往往会因为影响不显著或者多年后才得以显现，而受到人们的忽略。首先，与计算机技术与信息化技术相关的二氧化碳排放量数据逐年增加，耗电量增长速度飞快，甚至赶超航空业。美国马萨诸塞大学阿默斯特分校研究人员表示，在当前人工智能数据上传到云中心的过程中，由于算法的复杂性以及存在高精密度的训练方式，所以会产生惊人的二氧化碳排放量，相当于一辆普通汽车终生二氧化碳排放量的5倍，或者相当于飞机在纽约和旧金山之间大约300次的往返飞行；其次，智能产品在制造过程中容易产生废料，而且更新换代速度很快，例如智能手机，由于应用程序多功能全、屏幕大耗电量大、反复充电的次数多对电池的损害也自然较大，一般使用年限均在1-2年，很难实现回收再利；再如从事宇宙某些搜索任务的智能机器人，发生故障或意外损害后，大多数都沦为太空垃圾无法进行处置，这将对环境产生极大危害。

2.人工智能的发展引发伦理问题。

关于人工智能可能引发的问题，首当其冲的就是伦理问题。图灵在1948年所著的《智能机器》一文中指出了随着人工智能技术的兴起与发展，随之而来的担忧就是伦理约束滞后这个难题。从20世纪30年代图灵机的出现到2017年机器人索菲亚成功获得沙特阿拉伯公民身份，人们看到人工智能快速发展的同时也意识到由于人类认知能力的局限性，对于未来人工智能的发展图景任何人都难以预测。

其一，挑战人的主体性。人工智能是由人类创造的，必须得依赖于人类的智慧，但实际上人类惰性的存在是天生的，当智能发展融入人类生活的方方面面，人们会乐于享受其带来的轻松感，会越来越依赖于人工智能的方便快捷，导致自身独立思考的能力日渐消退，伴随而来的就是愈发强烈的惰性，最终失去思考的能力，使其主体性受到挑战，导致人类的存在危机产生。我们可以设想，“一旦创造出有意识的思维克隆人——即智能的、有情感的、活的虚拟人，成为一个普遍的人类追求，我们将面对很多新的个人问题和社会问题，因为它从根本上扩展了‘我’的定义”。[2]试想，不远的将来机器甚至可以再看人一眼后就能够完全读懂人的内心想法，这是多么可怕的一件事。在社会发展过程中，人是主体，是实践的主体，同时也是认识的主体，原本人与人的沟通与合作变成人与机器之间的配合甚至慢慢演变成机器之间的协作，将会导致人这个社会发展的主体因为机器的缘故逐渐疏远，而机器成为社会发展的中心，一旦将人与人工智能的主体地位混淆了，那么出现机器代替人的可能性将会无限增大。

其二，侵犯人的隐私。人工智能是以一种技术手段产生并得到迅猛发展的，对于涉及个人的数据分析、采集与应用就不可避免地暴露了隐私，大量的数据训练、算法更新会将个人信息、健康状况、网络浏览甚至是所处位置信息被碎片化的保存，然而在这些虽然看起来并不完整的信息中会提取到很多对于个人来说隐私且有用的信息被用于商业牟利。例如，当人们在网络针对某个问题进行过浏览后，随后每次打开浏览器都会接收到推送相关问题的内容，毫无隐私可言。再如，日趋成熟的人脸识别技术，走到哪里只要刷脸就可以完成简单快捷的认证，为当代社会提供了极大的便利，但不可否认的是海量数据的输入却也带来了个人隐私泄露的安全隐患。

其三，存在技术理性取代价值理性的可能性。社会的发展与进步离不开人的情感关怀。人是有感情的，而机器没有，人工智能的学习主要是对人的大脑皮层中的多层神经网进行模拟，然后通过大数据训练来完成，其贯穿始终的是技术理性，表现出的行为都是机械化的，显然是不具备人类所特有的情感方面的内容，也完全不能理解人类的情感和人类行为的动机。例如，在现实生活中出现紧急状况时，无人驾驶的汽车是应该优先保护车内人员的生命安全，还是车外行人的安全？这样的情感抉择和难度会因为各方面的原因不断升级。目前的人工智能还是以保守的方式进行设计，一旦真正赋予机器以人的情感，涉及的问题不仅仅是安全问题，还会产生更多的伦理问题，因为我们很难不把一个拥有情感的机器当作生命来对待。

3.人工智能的发展存在不确定性和风险

作为21世纪最震撼人心的新兴技术，人工智能的发展与实践取得了巨大成就，但在其应用的过程中也确确实实带了一些前期没有预料到的后果，难以预料和无法准确量化评估导致目前人工智能技术存在不确定性和一定的风险。例如机器人伤人事件发生、无人机不仅能航拍还能独自执行任务、2016年特斯拉公司发明的自动驾驶汽车致使人员伤亡，甚至是致命性武器的研发和使用等等都指向了人工智能产品存在很大的安全隐患，这都说明技术失控的可能性并非不存在的。

科学技术究其本质来讲，本来就存在着无限的不确定性，其复杂的程序和可能的风险是无法进行准确计算的。对人工智能进行拟人化的深度研究所带来的风险系数更高，倘若人工智能拥有越来越接近人类的思维、行为、欲望将会带来更大的危险。首先，因为人性的不同则会存在着千差万别的世界观、人生观以及价值观，那么由不同的人所设计出的人工智能不可能达成统一的效果，当机器具备可以模仿人的一切行为时是否会有一些不好的习惯产生？人有自我控制的能力，机器能有吗？一旦出现问题，是负责输入算法的人来承担责任，还是由机器承担呢？届时所带来的矛盾和冲突也会不断升级。其次，倘若人工智能不断学习、升级，是否可能远远超过人类的力量，发生技术失控的情况？届时将会给人类带来巨大的心理压力，这就好比死亡是每个人都将面对的必然结果，但是当它真正来临时，那种内心的惊恐和不安是无法承受的。正如温纳所警示的：技术确实有时并不能服务于人类，有时技术会失去控制，甚至会导致灾难。从技术史的演化来看，技术失控是一个持续的、日常的事物，在我们日常生活或高技术领域里都有这类事物；失控不是技术本身的错，而是人们想象或勇气的缺失。[3]当人类越来越依赖这些人工智能带来的便利，一旦出现隐藏的问题或者对人工智能技术操作不当时将会引起整个社会的恐慌，破坏生产和生活秩序、扰乱社会稳定，对人与自然、人与人之间的和谐关系带来极大的威胁。

三、关于人工智能社会治理的思考

改革开放41年来，人工智能给我们生产、生活带来的改变有目共睹，人们的日常生活离不开智能产品、国家的日益强盛也与人工智能密不可分，只有对其赋予科学、理性的态度，才能够使人工智能的存在与发展始终向着增进人民福祉而努力，为实现人民的美好生活而做出贡献。

1.发挥人的主观能动性，实现人机协同发展

一是尊重和承认人的隐私权与个性价值，实现人的自我提升与完善。马克思主义唯物史观指出：人类社会历史发展的主体必须是“现实的人”，只有当“现实的人”、满足需求的生产活动以及生活条件这三者必须同时存在时，人类的实践活动才是有效的。我们需要在所谓超级智能出现之前对自身进行深刻的反思，如何让人工智能的发展最终实现以人为本。在遵守平等原则的前提下，尊重人权，加强隐私方面的法治建设。法律面前人人平等的原则就意味着无论任何人都不能因为任何事而侵犯他人隐私，在不违反社会公益的情况下，不允许将人分类、不允许存在算法歧视、不允许不经本人同意利用隐私换取私利。必须将现实生活中的隐私权与虚拟网络中的隐私权均以成文法律的形成加以表现，才能真正维护人的根本权益，实现人人平等。

当代科技发展崇尚个性的解放，尊重个人独立精神与自由发展，首先，重视知识分子这个角色在社会发展中的重要地位；其次，重视“道”与“器”的辩证统一关系。重视形而上、忽视形而下的问题在21世纪的今天看来就是没有达到理论与实践之间的和谐、没有平衡科技的功利性与其所真正蕴含的价值。对科技功利性过度强调，会造成“科学至上”的不良后果，真正的发展是既不能过度强调科技功利性又不能破坏对中国传统文化的传承。如何未雨绸缪做好准备，使公众能够理性认识并且从容应对弱人工智能到强人工智能的转化，这是必须提前思考的问题。

二是加强人工智能设计应用人员的伦理道德管理，将伦理准则嵌入智能机器程序。“一直以来，道德伦理的责任主体必须是人，若因AI引发伦理危机而对算法设计者进行道德问责，就忽视了设计者与受害人之间不存在直接因果关系的事实。但是，这并不意味着算法设计者可以不必努力寻找让AI的决策更具伦理意义的技术，恰恰相反，设计者应当审慎地在算法中嵌入当下社会的主流伦理观”[4]。道德，是人所特有的，存在意识、能够独立思考、能够对一切事情进行判断，这是人与其他一切物种之间最根本的区别。首先，进行程序设计、运用的人员必须符合较高的伦理价值标准，对相关人员的各个方面，包括学习背景、生长环境、道德水平、心理能力、行为守则等方面进行价值评估，要明确是人赋予各种机器以智能，而不是智能反过来驾驭人。在不违反道德标准的设计上可以允许有存在失误的可能性，但是必须得有相应的弥补措施与进行恢复的有关机制，当系统检测到有误判或者程序编错的内容时，可以合理科学的纠正伦理准则。其次，加强伦理应用人员的道德管理。因为人是道德的主体，所以使用人工智能产品的人员要将伦理道德规范内化于心、外化于行，增强责任意识、提升道德修养，不能为了满足自身的需求而损害他人的利益或者危害他人生命健康，要构建人与人之间的和谐关系，克服对技术的盲目崇拜，以人工智能为载体，完善自身发展。

三是将人文精神融入人工智能技术当中。第一，将人工智能技术与中国传统文化相结合，积极寻找符合社会发展规律的科学精神。第二，新时代人工智能的发展必须围绕核心价值理念，坚持人本位的思想，使人类能够充分利用人工智能技术提升自身水平、增强适应能力，实现真正意义上的人机互补。正是对科技的滥用引起了全球性问题，只有加强思想建设，重视人类命运共同体的构建，加大人文关怀，才能加深公众对于人工智能更深层次的认识。

2.创新社会治理制度，推进“技术”与“社会”的良性互动

国务院2017年7月8日印发并实施的《新一代人工智能发展规划》中指出，人工智能带来社会建设的新机遇以及人工智能发展的不确定性带来新挑战，要积极应对力争2030年达到世界领先水平、成为世界主要人工智能创新中心。我们要看到人工智能是对数据或者程序进行不断的模拟来找到共性，由于会受到生产力的限制或者客观条件的影响，不可能短期内拥有完全超越人类的思维与智慧，因此，要充分发挥人的主观能动性来进行创新，努力创新治理机制、发展治理工具、强化社会责任，构建一套完整的治理体系与治理范式。

一是增强风险意识，以利于社会公平正义为目标，缓解人工智能可能带来的不确定性冲击。2017年《阿西洛马人工智能原则》的提出充分体现了司法的公开性，里面提到被社会认可的高级人工智能要符合现行法律、要本着促进公平正义的社会发展理念，不可以违反人们的认知、不能破坏社会的健康秩序。公平正义是构建和谐社会的基石，是人类自我价值实现的要求，关于人工智能的设计与研发必须要以人类整体的利益为根本目的，而不是仅为了某个人或某些人，要尽量缩小因权力、能力、地位间的差距而引起的不公平，在以人为本原则的前提下始终坚持公平公正原则、道德责任原则等价值原则来规范人工智能的创新与发展，能够做到照顾到多数人的愿望、符合多数人的要求、维护多数人的利益。

二是加强技术研判、预测和应用的监管与规制，改革不合理的机制体制。我们应当借鉴后现代主义科技观进行反思，正如有学者所指出的，高科技的人工智能发展后果难以预测，对此我们更应该采取的是“底线思维”，以防止和化解最坏的情况出现，而非考虑为智能机器培养高尚的道德价值。[5]当我们能够认识到人工智能发展的不确定性，针对这些风险把“品质过硬”“合理决策”“后续保障”等内容放在一个新的领域进行研究的时候，一旦人工智能的利用对某些行业造成威胁时，相关机构应当作出合理的评估，结合智库研究对这些人作出合理的安置，以防止因为失业原因造成的社会问题扩大化。将智能技术看作确定性与不确定性相统一的事业，提升社会治理水平和协作能力，坚持人自身的发展与人工智能协同进步的理念，不断重塑自我、完善自我，不仅仅是把人工智能当作一种单纯的技术手段，而是形成人工智能与社会发展共融互渗的良性互动关系以促进社会有序的发展。

3.加强法治建设，坚持立法要以安全与秩序为价值取向

英国政府于2016年发布了《人工智能：未来决策制定的机遇与影响》报告，指出了英国政府高度重视智能机器能够读取个人隐私、干涉个人自由所引发的法律与伦理方面的风险，指出对机器学习与个人数据相结合时应该做出合理的规划，对人工智能所制定出的决策要采取明确的问责与追责机制。由此可见，健全的制度是在对人工智能进行设计时必须坚持的伦理准则，坚持人为机器立法，无论是为规范行业准则还是制定区域法规，再或者国家立法，甚至到具有全球性强制力的公约，都要将安全与正义作为重要体现。

法律规范作为一项调整、约束人行为的规章制度，必须要坚持体现安全这个核心概念。人工智能存在的巨大风险是不可控的，甚至有可能会赶超人类智能而带来不可估量的严重后果，以法律法规规范、对其进行安全监测、伦理规制势在必行。通过维护社会秩序的稳定来保障主体的合法权益不受侵害，维护社会秩序稳定，建立一套对预期风险可防可控的标准体系进行监督管理，使立法价值充分得以体现。

科技求真、伦理求善、制度求效，无论科技怎样发展，都万不能脱离了以人为本的轨道。科学技术与人类的和谐必须要求形成一股合力以达成无论是从理论上还是从实践中对技术发展的理性控制，搭建人与机器对话的平台，切实地做到将“个体”关怀延伸到“人类命运共同体。”