战 钊

（光明网传媒有限公司，北京 100062）

2023 年9 月20 日，2023 世界公众科学素质促进大会 “促进公众理解人工智能”专题论坛在北京首钢园举办。论坛由中国科协、中国科学院、北京市人民政府共同主办，中国电子学会、光明网联合承办。论坛邀请到中国电子学会副理事长、世界工程组织联合会前任主席、中国新一代人工智能发展研究院执行院长、原南开大学教授龚克，加拿大工程院院士、电气与电子工程师协会会士、西湖大学生命科学学院及工学院讲席教授默罕默德·萨万（Mohamad Sawan），上海大学人工智能研究院副院长、中国五四青年奖章获得者齐俊桐，北京脑科学与类脑研究中心高级研究员大久保达夫（Tatsuo Okubo），微软中国首席技术官韦青，中国政法大学数据法治研究院教师张凌寒，中国社会科学院哲学所科技哲学研究室主任、中国科协-复旦大学科技伦理与人类未来研究院教授段伟文，突尼斯未来科学技术协会主席哈特姆·斯里曼（Hatem Slimane）8 位专家学者作主题报告，并与参会者进行研讨交流。

本次论坛聚焦“促进公众理解人工智能”这一主题，对人工智能与人类的关系、人工智能教育与科普、人工智能跨越式发展带来的科技伦理治理风险等话题展开深入探讨，揭示我国人工智能发展现状和未来趋势。

中国科协信息中心主任黎任华出席论坛，中国科协科学技术普及部副部长顾雁峰、中国电子学会副秘书长曹学勤分别在论坛上致辞。

以下是对“促进公众理解人工智能”专题论坛主要观点的归纳，以及对人工智能今后发展的重点方向的展望。

1 “人工智能威胁论”的由来

当下，以生成式人工智能为代表的新一代人工智能技术正飞速引领我们进入一个全新的时代。以人工智能为代表的新兴科技，正在引发新一轮的科技革命和产业革命。2022 年底，人工智能大模型破圈出道，成为整个产业界和学术界追逐的技术宠儿。随着人工智能大模型技术的突飞猛进，它在内容创造、客户服务等多个场景中不断引发裂变式突破，并润物细无声般地影响着人类生产、生活和社会治理的方式。与此同时，人工智能在应用过程中存在的安全隐患和伦理问题，也引起了科技界对人工智能广泛应用的担忧。2023 年3 月，包括埃隆·里夫·马斯克（Elon Reeve Musk）和图灵奖得主约书亚·本吉奥（Yoshua Bengio）在内的一千多名人工智能专家发表了一封联合公开信，提出人工智能系统可能对社会和人类构成重大威胁，这个问题同样引起了公众的担忧。由此看来，人工智能的迅速崛起孕育着无限的机遇，但也蕴含了无尽的挑战。

2 “人工智能威胁论”不该成为阻碍科技发展的主流声音

人工智能是引领科技革命和产业变革的战略技术和势能技术，不仅能引发带动性很强的“头雁效应”，还能拉动传统产业转型升级，孕育新产业、新模式、新业态。与会专家一致表示，当生成式人工智能的大潮乘着创新之风席卷而来时，人工智能威胁论不应该成为阻碍科技发展的主流声音。

龚克认为，我们处在一个高技术强度的时代，生成式人工智能有很多固有的风险，要真正用好人工智能的力量，需要在相称性、不伤害性原则下，在人工智能的认知和素养等各个方面做好工作，这是一个巨大的系统工程。他提出，在生成式人工智能时代，我们要主动学习、驾而驭之、防范风险，要把人类的价值观嵌入生成式人工智能之中，这是一个深度创新与完善治理相结合的过程。

段伟文认为，不应该对人工智能着急下结论，科学方法就是试错，选好大致的方向，在行动中缓慢坚定地纠偏前行，我们就能够真正地在生成式人工智能时代走向人机协同、美好生活的未来。

3 拥抱新技术，让人工智能成为人类的好帮手

科学已经进入大数据时代，要想在大浪淘沙中屹立于时代潮头，就必须积极拥抱新技术。萨万的报告让大家了解了人工智能如何应用于医疗设备，如何治疗癫痫等神经退行性疾病及其他一些应用。从癫痫症到视觉假体，再到神经芯片与人工智能的综合应用，人工智能有望改变未来医疗的应用方向，将来可能有更多可穿戴的、非侵入式的神经技术。

斯里曼为大家带来的是人工智能在教育领域实践的智慧。他认为，应当在人工智能和教育之间找到一种平衡，并且用正确的方式，不断改善和提升人工智能，从而为下一代的教育带来益处。

齐俊桐从事机器人研究20 年，他向大家展示了一个机器人是怎样为人类服务的。他表示，现实中的机器人和科幻中的机器人不一样，在现实中，机器人在农业生产、搜救、空中新媒体、水下考古、地质调查等方面都取得了非常多的成就。他认为，未来已来，唯变不变，人工智能机器人不会威胁人类，大家可以大胆地去拥抱新技术。

4 提高科学素质，积极防范风险，安全善用人工智能

当前，新一轮科技革命与产业变革正加速演进，新一代信息技术在全球范围内迅猛发展，正在孕育着足以变革世界的重大创新与突破，加强人工智能科学普及被摆在了前所未有的突出地位，提高公众人工智能科学素质，促进公众理解科学、拥抱科学、应用科学，推动科技向善、规避技术风险，已成为全球共识和共同努力的方向。

大久保达夫认为，我们需要人工智能的帮助来处理大数据，但是仅仅使用人工智能是不够的，我们还需要严格检查人工智能所生成的结果。在使用人工智能来研究大脑、处理一些大数据、做出一些决策以及进行科学认知的过程中，不能没有人的判断，两者要相互促进，让人工智能更好地服务人类。

作为中国人工智能监管治理的亲历者、参与者，张凌寒从法律的维度阐述了人工智能可能存在的风险、我国为防范人工智能风险做出的努力以及未来应对措施。对于积极应对人工智能的广泛使用可能带来的风险，最终实现机器不伤害人类、人类也能善用机器的目标，他提出了公众要提高自身数字素养、相关部门要进一步加强监管、加快中国人工智能立法等解决途径。

段伟文认为，目前人工智能风险可以控制在一定范围之内，这表明，生成式人工智能已经走过了一个黄金交叉点，从一个简单的聊天机器人变成了一种思维链的连接，成为人类智能的“副驾驶”，一个跟人类智能相平行的机器智能。他指出，我们必须有更强的判断力、更高的智慧和不断寻求突破、转移的思想，这样才能不被机器所掩盖，从容地拥抱人机伴生的时代。

5 结语

本场专题论坛围绕“促进公众理解人工智能”这一主题，从不同维度展开了深入交流和探讨，回顾了人工智能的发展历史，纵览了智能科技的创新突破，展望了即将到来的人工智能时代。人工智能技术发展过程中，还有很多问题需要密切关注，诸如科技伦理、数据安全、隐私保护等，我们在解放生产力的同时应注意扬长避短。

随着人工智能技术的逐步成熟，人工智能在各个领域的应用进程也将进一步加速。但无论人工智能技术怎样发展，机器人永远只是一种工具，它可以辅助我们更好地创新、研究、学习，用好了事半功倍、如虎添翼，但是无法完全代替人类，这是本场专题论坛各位专家的共识。

聚焦专题论坛的研讨主题，今后推动人工智能科普工作，促进公众理解人工智能要做好以下三方面工作。

一是有效防控科技伦理风险，不断推动科技向善，加强人工智能技术开发的前瞻性和预防性评估，镜像化人工智能生成与实践逻辑，对人工智能可能存在的伦理风险加以有效防范，推动人工智能朝着更加规范、安全的方向发展。

二是在科学教育和普及过程中，融入价值观要素。在普及人工智能知识时，重视公众对科学的态度，确保公众在科学知识水平不断提升的同时，对科技造福人类的发展理念具备准确的认识。

三是不断加强人工智能科普供给，满足公众需求。利用人工智能等创新技术支撑新时代科普，鼓励社会力量参与多种形式的科普产品开发推广，增强公众对人工智能新产品、新技术的理解和应用，鼓励并引导更多科学家参与人工智能科普，促进中小学人工智能科学教育，培养人工智能创新人才，积极推动优质人工智能科普资源向欠发达地区倾斜，弥合数字素养鸿沟。