摘要：[目的/意义]如何治理科技重大风险，实现可持续安全与可持续创新及发展是当务之急。[方法/过程]本文通过论证“科技发展下去会发生毁灭性灾难甚至毁灭人类”这一判断确实正确并给出条件关系，[结果/结论]证明了目前趋势外推的乐观派科技大局观是错误的，指出目前科技大爆发和科技伦理失灵、科技法律失灵、安全监管失灵、“尖端武器平衡”失灵、扬长不能避短、致毁知识不可逆增长等使人类面临前所未有的巨大挑战和危机。千年变局带来全新机遇，为避免共同毁灭，必须改弦易辙，但西方国家因路径依赖而难以及时转变，我国却具有后发优势，换道超车，可率先发动新科技革命与新产业革命，摆脱修昔底德陷阱，共建人类命运共同体，引领世界走上良性竞争合作、行稳致远、可持续安全、可持续创新与发展的新型发展道路。

关键词：致毁知识  科技重大风险  科技伦理失灵  科技法律失灵  “尖端武器平衡”失灵  扬长避短失灵  粗放式创新  可持续创新

分类号：G301

DOI： 10.19318/j.cnki.issn.2096-1634.2019.04.12

众所周知，科技战略需要考虑应该做什么、为什么、怎么做和效果如何等问题。应该做什么是首要问题，它关系到科技发展的方向和紧迫性。应该做什么首先取决于对世界科技发展走向的基本判断，取决于科技大局观，科技大局观不同，对科技发展战略的考虑迥然不同。探究科技大局观和创新大局观，对科技战略、创新战略的研究与设计具有前提性、基础性和导向性。笔者从事基于科技史的科技战略研究，自主开展科技重大风险研究21年，重点探讨人类社会从粗放式创新向可持续创新的战略转型问题。文章有3部分：（1）关于两种科技大局观与三大认识误区;（2）科技发展下去是否会发生毁灭性灾难、甚至毁灭人类;（3）从粗放式创新向可持续创新的大转型与中国的新机遇。

1  两种科技大局观与三大认识误区

目前国际国内流行的科技大局观有两种，趋势外推的乐观派与末日论悲观派，前者是主流，体现在各国的科技规划和国家战略及政策中，其共识为现在是信息科技时代，将进入生物科技时代和智能科技时代，现在是第三次工业革命，将进入第四次工业革命等;后者则边缘化，反映在文学作品和科幻电影中，主流社会并不当真。1945年原子弹爆炸，科技的末日悲观论开始流行，认为科技发展下去将发生毁灭性灾难、甚至毁灭人类，这是直观判断和日常语言的表述，尽管该判断至关重要，但是除个别学者通过概率分析和描述性分析加以论证外，至今尚未出现严谨的学术论证。笔者认为，两派是不对称的，如果悲观派错了，至多只是放缓、延迟科技发展，如果乐观派错了，则将积重难返、万劫不覆，将错失人类自我拯救的最后时机[1]。此外，关于科技重大风险还普遍存在着三大认识误区。

1.1  误区1：科技伦理、法律与安全监管可以管控科技风险

即“科技伦理法律管用”误区。人工智能、基因编辑技术等迅速崛起，引起社会恐慌，为此人们开始大范围求助于科技伦理与科技法律，但是管用吗？笔者曾指出世界上有233个国家和地区，伦理与法律的空白和漏洞很多，更缺乏有效执行，因此不能约束世界上所有实验室和科技专家，有3类人或组织根本不受科技伦理法律的约束，他们是①黑客、创客、疯狂科学家、极端分子，②研制尖端武器的军工集团，③企业研发机构，尽管后者不会直接研制武器，但是如果其产品容易被恐怖分子利用，企业研发机构也不会束手束脚。科学上发现1次和发现100次是一样的，在知识极易扩散的互联网时代，科技伦理、科技法律与安全监管是失灵的（尽管是必要的），它们不能有效管控科技风险[1]。

1.2  误区2：确保相互摧毁即可确保自身安全

即“武器平衡确保安全”误区。人们已经习惯于尖端科技不断被用于武器研发，也许是认为只要保持相互摧毁的“核平衡”和“尖端武器平衡”就能确保自身安全。1945年原子弹爆炸之后没有再发生核战争，使人误以为是“核平衡”的作用[1]，进而把“核平衡”扩大到“基因武器平衡”“人工智能武器平衡”“纳米武器平衡”，认为只要维持这些“尖端武器平衡”，就可确保自身安全。笔者认为这是误解：（1）没有发生核大战与核灾难，并非因为有效控制了核风险，而是因为幸运，二战后世界上至少有10次危机让核战争一触即发，侥幸才得以避免;（2）生物、纳米、人工智能等尖端武器，不像核武器那样依赖稀缺的原材料，使用门槛低，容易扩散，为壞人所有。因此“尖端武器平衡确保安全”误区害人害己，将导致恐怖分子横行天下。

1.3  误区3：科技发展强调扬长避短就能够扬长避短

即“扬长避短”误区，持有这种观点的人认为只要意识到科技是双刃剑，强调扬长避短就能扬长避短，事实并非如此。笔者长期研究科技巨风险，对治理管控科技巨风险的条件关系有深入研究，因为尖端科技的正负效应不能抵消、不能分割，科学发现与应用具有连锁效应等，因此在现行条件下，许多尖端科技的发展可以扬长却不能避短[2]。“扬长避短”误区不仅低估了治理科技风险的难度，而且成为继续无所顾忌进行前沿探索的借口，成为继续进行以牺牲安全为代价的粗放式创新的借口。

以上三大认识误区危害巨大：“科技伦理法律管用”误区犯了方向性错误，犹如刹车失灵却继续用老办法刹车，把管控科技风险的必要条件误认为是充分条件;“武器平衡确保安全”误区加快了尖端武器的发展与积累，科学家可以继续对尖端武器研发不管不问;“扬长避短”误区让人们无视严峻挑战，陷入一厢情愿的盲目乐观。

2  科技发展下去是否会发生毁灭性灾难甚至毁灭人类？

面对上述严峻挑战，的确需要认真对待“科技发展下去将发生毁灭性灾难甚至毁灭人类”这一老生常谈，对其真假应该给予深入分析论证，这也是研究科技战略和创新战略的绝佳切入点。笔者于1999年提出“致毁知识”概念并以其增长、传播、扩散、应用、禁止、治理等为研究对象自主开展科技重大风险研究至今21年，提出独特的基本假设、核心概念、核心问题、研究思路、分析框架与方法及基本结论，开辟了以科技重大风险为专门研究对象的学术领域，将“科技发展下去会发生毁灭性灾难甚至毁灭人类”这一老生常谈转化为严谨的学术研究，对其进行了较精确的表述并做出充分的肯定性论证，给出条件关系[1，3-8]。所谓致毁知识，是可用于制造毁灭性武器等导致毁灭性灾难的各种产品或方案的核心原理、核心技术等核心知识，如核裂变知识、链式反应知识、DNA重组技术和基因编辑技术。致毁知识不是以好坏来区分的，而是以其应用（军用、恶用）是否有巨大的破坏力来界定的。核裂变知识出现的1938年是致毁知识元年。拙著《智业革命》对提出致毁知识概念的新颖性、合理性、狭义与广义、硬致毁知识与软致毁知识、致毁科技、致毁创新等有详细讨论。笔者提出的核心问题包括4个前提和1个问题，4个前提是“尖端科技的正负效应不可抵消、科技知识增长不可逆、知识与应用具有连锁效应、科技发展自我增强永无止境”，问题是“在科技知识增长的同时，能否阻止其中一类破坏力极大的科技知识——致毁知识——的增长与扩散？能否有选择地生产知识？能否有选择地进行创新？”在4个前提下，凸显研究该问题的至关重要。尖端科技正负效应不能抵消、不能弥补，即无论尖端科技的正效应（如核电站、核医学）多大，也无法抵消、无法弥补其负面效应（如核武器灾难、核事故），是“一坏遮百好”，是可以扬长却不能避短，原子弹爆炸的启示是，科学做一万件好事也抵消不了做一件坏事;科技知识增长不可逆意味着可以销毁核武器、却不能销毁制造核武器的知识;知识与应用具有连锁效应，R&D就是连锁的制度化，越是破坏力巨大的知识越要付诸应用，否则落后就要挨打。因此是否创造和发展一种科技，不是由其正效应决定的，而是由其负效应能否被化解所决定的，这与目前的科技发展观完全不同。用致毁知识概念分析科技风险简洁有效，而用“双刃剑”分析则容易各执一词。

笔者研究的结论是：致毁知识增长与扩散是不可逆和不可抵消的，在目前世界主流科技与经济发展模式下，致毁知识的增长与扩散又是不可阻止的，因此人类面临毁灭的危险是不断累加和递增的，达到一定程度必然会发生毁灭性灾难，而且这种不可逆增长的危险累进方式，使得毁灭性灾难发生的几率越来越大，如不及时制止，必然直至爆发。这是科技的生存危机（简称科技危机），也是人类面临的最大危机与挑战。目前恐怖及个人恐怖主义盛行，企业实验室与创客的知识生产难以控制，互联网使致毁知识易于扩散，人类处境越发凶险。简言之，人类面临的最大危机和挑战不是好东西（自然资源等）快消耗殆尽，而是坏东西（致毁知识、“三废”等）越积越多快到地球容负容废的极限[9]，而且这种自毁进程陷入“动车困境”和科技伦理法律失灵而难以终止[10]，“尖端武器平衡失灵”“扬长避短失灵”又加快了毁灭性灾难的来临。以此完成了对“科技发展下去会发生毁灭性灾难甚至毁灭人类”这一观点的肯定性论证，也证明了目前趋势外推的主流科技大局观是错误的。造成科技危机的原因很多，有科技模式自身的缺陷（如科学无禁区、奖惩极不对称）和科技与社会关系方面的缺陷（如资本与科技结合导致急功近利）等。

3  从粗放式创新向可持续创新的大转型与中国的新机遇

综上所述，如何治理科技重大风险，实现可持续安全与可持续创新及发展是当务之急，也是头等大事。笔者对科技重大风险的研究表明，科学（也就是西方科学）存在着与生俱来的内在缺陷，随着科技知识力量日益增强，其内在缺陷越发成为阻碍科技继续发展的制约因素。18世纪工业革命以来形成的西方市场经济制度及其科技经济一体化发展模式，既高度依赖科技知识增长与科技创新，又无法遏制其内生的自毁因素——致毁知识——的增长、积累与扩散，必将难以为继，自我颠覆，这是最大的颠覆。笔者提出“转型图存、创新发展”的第3种未来观以超越趋势外推的乐观派未来观与末日论悲观派未来观，指出人类长期积累的经验智慧已很难解决科技大爆发带来的新问题，科技伦理失灵、科技法律失灵、安全监管失灵、“尖端武器平衡”失灵、扬长避短失灵、尖端科技正负效应不可抵消、致毁知识不可逆增长等使人类面临前所未有的巨大挑战和危机[1]。应对挑战绝非易事，正如著名学者鲍姆与巴雷特所指出的，在如何降低“全球性灾难风险”的问题上，全球范围内的研究者都还没有取得重大突破[11]。千年变局带来全新机遇，笔者提出的对策是，科技危机引发新科技革命与新产业革命，这是最大的颠覆性创新，其中包括大力推进以底线安全的科学、社会科学与交叉科学崛起为特征的新科学革命、以受控技术受控创新崛起为特征的新技术革命、以智库与文创产业及社会企业崛起为特征的新产业革命。本研究的政策意义在于，如果目前主流科技大局观正确，则我国将在相当长的一段时间内处于追赶西方发达国家的状态之中;反之，如果笔者的研判基本正确，则局面完全不同：为避免科技冷战与军备竞赛导致的共同毁灭，必须改弦易辙，但西方国家因路径依赖而难以及时转变，我国却具有后发优势，换道超车，率先发动上述的新科技革命与新产业革命，用追求“更安全、更受控、更环保、更永续发展”来超越和替代现行道路上的“更快、更高、更强、更赚钱”的竞争[2]，彻底摆脱修昔底德陷阱和“赛道陷阱”，共建人类命运共同体，引领世界走上良性竞争合作、行稳致远、可持续安全、可持续创新与发展的新型发展道路。

参考文献：

[1] 刘益東. 致毁知识与科技伦理失灵： 科技危机及其引发的智业革命[J]. 山东科技大学学报（社会科学版）， 2018（6）： 1-15.

[2] 刘益东. 科技危机引发新科技革命和新产业革命[N]. 社会科学报， 2018-9-13（5）.

[3] 刘益东. 科学的目的是追求真理吗？[C]//宋正海. 边缘地带： 来自学术前沿的报告. 北京： 学苑出版社， 1999： 17-28.

[4] 刘益东. 人类面临的最大挑战与科学转型[J]. 自然辩证法研究， 2000（4）： 50-55.

[5] 刘益东. 试论科学技术知识增长的失控（上）[J]. 自然辩证法研究， 2002（4）： 40-42.

[6] 刘益东. 智业革命： 致毁知识不可逆增长逼迫下的科技转型产业转型与社会转型[M]. 北京： 当代中国出版社， 2007.

[7] 刘益东. 致毁知识与科技危机：知识创新面临的最大挑战与机遇[J]. 未来与发展， 2014（4）： 2-12.

[8] 刘益东. 科技巨风险与可持续创新及发展研究导论： 以致毁知识为中心的战略研究与开拓[J]. 未来与发展， 2017（12）： 4-17.

[9] 刘益东. 试论粗放式创新、致毁创新、可持续创新理论与知识安全学[J]. 科技资讯， 2014（25）： 238-242.

[10] 刘益东. 对不准原理与动车困境： 人类已经丧失纠正重大错误的能力[J]. 未来与发展， 2011（12）： 2-6.

[11] SETH D B， ANTHONY M B. Global catastrophes： The most extreme risks. In Vicki Bier （Ed.）， 2018. Risk in extreme environments： Preparing， avoiding， mitigating， and managing[M]. New York： Routledge， 2018： 182-184.

Research on Strategic Transformation from Extensive Innovation to Sustainable Innovation

—Catastrophic Risks Research on Science and Technology for 21 years

Liu Yidong

Institute for the History of Natural Science at the Chinese Academy of Sciences， Beijing 100190

Abstract： [Purpose/significance] It is a top priority to govern catastrophic risks of science and technology in an effective way， and achieve sustainable security， innovation and development. [Method/process] By demonstrating that the judgment of “the development of science and technology will lead to devastating disasters or even the extermination of human race”， the paper proposes the judgment is indeed true and gives the conditional relations. [Result/conclusion] The paper proves that the current optimistic view of the overall situation of science and technology based on the trend extrapolation is wrong， and points out that the following factors related to science and technology have made humanity face unprecedented challenges and crises： explosion of science and technology; the failure of the of science and technology by means of ethics， laws and safety supervision; the failure of the strategy of “balance of cutting-edge weapons”; the failure of the best use of advantages and the bypass of disadvantages; the irreversible growth of ruin-causing knowledge. The paper believes that human now is undergoing profound changes while also facing new opportunities， in order to avoid destruction may caused by science and technology， people should reverse the development course. Because of the effect of path dependence， the western world is difficult to change its current mainstream development model， but China has the advantage of backwardness and can change the development lanes of the western world and overtake them. China can take the lead in the new technological and industrial revolution， get rid of Thucydides Trap， build a community with a shared future for the whole mankind， and lead the world to a new development path which is steady， far-reaching and can guarantee sustainable security， sustainable innovation and development.

Keywords： ruin-causing knowledge    catastrophic risks of science and technology    the failure of science and technology ethics    the failure of science and technology law  the failure of the strategy of “balance of cutting-edge weapons”    the failure of the best use of advantages and the bypass of disadvantages    extensive innovation  sustainable innovation