杜芳芳 刘昭莹

摘      要：人工智能促使教育与技术的深度融合，技术驱动成为智能时代未来学校建设的基本特征。技术在助力未来学校建设的同时，存在着责任模糊、主体异化、道德缺失以及育人弱化等伦理风险。为规避智能技术对未来学校建设潜藏的伦理风险，具体实施的策略包括：完善各主体应有职责，明晰教育责任；重新定位师生关系，构建人机协同体；建立数据资源透明机制，发展学生健全人格；塑造温情氛围，重拾育人初心等。

关 键 词：智能时代  未来学校  学校建设  伦理风险

引用格式：杜芳芳，刘昭莹.智能时代未来学校建设及其伦理风险规避[J].教学与管理，2023（19）：15-19.

以人工智能为核心的第四次工业革命促使教育趋向与技术深度融合，掀起了全球教育信息化发展大潮[1]。技术驱动下未来学校的构建正如火如荼，“人工智能的全方位渗透激发了人们对未来学校的无限想象，更引发人们对未来学校的广泛热议”[2]。但在美好的憧憬之下，学校的育人初心正在被潜藏的伦理性问题逐渐消耗。因此，探寻智能时代未来学校建设中潜藏的伦理性问题，并提出相应的规避之策，是打造育人为先、人机相融的未来学校的前提。

一、技术驱动：智能时代未来学校建设的基本特征

1.技术支持未来学校学习空间的重构

未来学校学习空间的变革是针对传统学校的相对封闭性而进行的，主要是借助技术开始探索学习空间的建构。朱永新认为，在数字化和智能化的大背景下，未来学校将变成网络型或实体型的学习中心，是彼此连接的环岛，是跨区域、跨国界的开放体系[3]。2000年，美国的HTH（High Tech High）学校最早采用透明化的教室，并利用数字技术进行教学，可谓是未来学校的先驱；2006年，由微软公司出资，并与费城学区共同建设了第一所“未来学校”，同样借助信息技术，打破空间壁垒，为学生提供科技感強的虚拟空间；2010年，麦吉尔大学设计了主动学习教室，拥有可移动性的墙壁、互动式的家具，以及共享的屏幕，大大改变了学生的学习体验。2013年，我国实施未来学校创新计划，建设未来学校示范校，借助智能技术打造与学科相应的真实情境；2020年，印度金奈河湾学校基于乡村理念创新学校建筑，学校内部设计多种互通分区，且全部配备机器人辅助学生学习；同年，经济合作与发展组织（OECD）发布《面向未来教育：未来学校教育四种图景》报告，提出未来学校将突破学校围墙，进行无边界的学习。由此可见，未来学校利用智能技术变革学习空间，学生学习场所不再固定，学生的科技体验感不断增强，学校最终将突破校园的界限。

2.技术推动未来学校组织形态的变革

依托技术带来学校组织形态的变革已成为未来学校建设的核心。在智能时代，未来学校依托技术打破传统学校固有的组织形态，更新管理方式，为学生提供个性化学习。曹培杰认为：“未来学校通过相互融通的学习场景、灵活多元的学习方式和富有弹性的学校组织，形成个性化的学习支持体系，为学生提供私人定制化的教育。”[4]2012年，布鲁塞尔的The Future Classroom Lab凭借先进的技术创建智能空间，配备移动学习设备和智能机器人，为学生进行个性化学习提供充分的技术支持；2014年，法国可汗实验学校为学生提供个人学习平台，学生按照软件提供的最佳速度和最佳方式学习；同年，美国成立Altschool，该校以微型化和精细化为理念，利用数字技术实现学生自主平台的学习，利用可视化教育技术实现虚实结合，实行混龄学习、跨学科学习以及项目式学习；2019年，德国德累斯顿工业大学附属学校以开发和优化学习软件为行动导向，以数字化、个性化和混龄化为实施框架，借助信息技术变革学校的组织形式；我国同样在变革学校组织形式方面做了不少探索，依托技术打破传统的组织形式，追求新的教学空间，实行混龄教学。显然，在智能化大背景下，未来学校的探索离不开技术的支持，不论国内还是国外均依托技术实现学校组织形态变革，技术工具已成为未来学校探索的中流砥柱。

3.技术助力未来学校教学结构的创新

随着智能时代的到来，传统教学结构已不能满足社会对人才的需要，基于此，未来学校开始探索使用新技术助力教学结构的创新。首先，在人才培养方面提出了新的培养目标以顺应当今智能化的潮流。张生认为：“未来学校的建设必须以培养学生的高阶思维认知能力为目标与基本理念，以为未来社会提供创新型人才为目的。”[5]2020年，世界经济论坛（World Economic Forum）发布《未来学校：为第四次工业革命定义新的教育模式》报告，提出未来学校要培养学生创新创造、技术技能、人际交往的能力以及全球公民意识。其次，在课程体系方面，世界各地意在通过技术变革课程体系以达到人才培养的新目标。2016年，多伦多成立知识社会项目，培养学生的技术能力和创新能力，该学校为学生提供学习平台，并与技术公司合作，在此基础上学生可以和公司直接对话，学习新的技术，培养创新能力[6]；美国的TGS（Think Global School）开创了独特的Changemaker课程，该课程利用数字技术创建真实的实践场景，学生们在课堂中就可以体验到户外真实的场景，以此培养学生的动手能力。再次，在教学方法方面，教师面临着巨大的挑战。朱永新曾说：“未来的教师需要娴熟地运用智能机器人获取各种教育资源，学会各种数据处理的方法和技术。”[7]教师须扬弃传统的教学方法，在技术驱动未来学校建设中培养技术能力。最后，在教学评价方面，未来学校构建了数字时代新的评价框架，评价趋向定量化、精准化。放眼全球，世界各地都在探索评价领域的新路径，国外诸多国家如美国、德国、芬兰等都利用技术围绕评价全过程提出了独具特色的方案。我国也不例外，东莞市松山湖北区学校以学校数据为核心建立了学生综合素质评价、学生学业水平测试、教师专业发展、教师智慧教研和学校督导评价五个平台，进行全方位评价[8]，旨在以技术推动教育评价的改革。清华大学附属中学同样依靠技术构建了学生综合素质评价平台和评价模型。

在人工智能大背景下，未来学校的构建之路离不开技术的支撑，技术已全方位渗透到学校革新之中。虽说技术能够为教育发展带来无限可能，但也应理性地看待，正视技术进步之下所隐藏的伦理风险[9]。尽管目前未来学校的诸多探索只处于试点阶段，但其影响不容忽视，在享受技术驱动未来学校建设带来便捷的同时，必须意识到未来学校建设可能存在的技术伦理风险，防止学校陷入过度技术化的泥潭。

二、发现与反思：智能时代未来学校建设潜在的伦理风险

1.责任模糊伦理风险

关于教育责任，就其定义而言具有广义和侠义之分，其中广义的教育责任是一种教育义务，是指作为教育者应该做的事情；狭义的教育责任是一种过错责任，是指出现教育过失之后被强制性承担的后果。在智能时代，教育责任伦理显得尤为重要，它影响着教育活动的开展。

从广义角度看，传统学校模式下教育者是教学内容的设计者和教学的实施者，教什么、如何教以及如何更好地支持学生是教师的责任，教师对整个教学过程负责，但人工智能技术用于教学时，教育者则面临责任模糊的难题。比如，教师批改作文时会出现意见相左、难以定夺的情况，更何况是以算法为核心的智能机器人。使用自动写作评价系统时，如若只按照已有的算法进行机械式评分，可能会对学生写作热情以及能力带来损害，这应该由教师来负责吗？随之而来还有教育公平的问题，“因为教师并不是总能理解电脑进行学生评估的算法原理，也很难向家长解释”[10]，如若因为教师的理解偏差造成教育偏见，教师该负全责吗？

从狭义角度来说，未来会出现教育外包。比如，美国的AltSchool宣称“未来不再开设更多的实体学校，把更多精力用于网络学习平台的建构上”[11]，无疑将会有许多企业参与学校教育，学生将在虚拟世界中进行学习，那谁将承担起相应的教学责任？是技术设计者，还是提供支持的生产商？教育活动具有复杂性，只有人才能灵活应对教育活动中出现的突发情况，作出最有利于学生的选择。因为算法主导着智能机器的运作，而算法的开拓者又是智能技术的设计者。设计者不可能未卜先知想到所有可能出现的突发情况，当智能技术产品面临两难时，会对学生作出最有利的选择吗？若未作出正确的选择而对学生造成了伤害，教学责任又应该由谁来承担？是它的制造商，它的设计者，还是智能产品本身呢？无论是由哪一方面来负责，都会产生非议。若要让制造商或者设计者来负责，未免过于苛刻；若由人工智能产生来负责，更不可思议。人工智能时代，教育领域对于技术的责任判定很难有明确的追责，相较之下，传统模式下的教育教学责任的确定相对明晰。

2.主体异化伦理风险

（1）学习者情感性被异化。未来学校通过技术对学生实现智能推送，而冰冷的数据所传达的仅仅是学生存在的问题和解决方案。“技术将原本丰富生动的人际对话过程转变成没有情感的符号交流过程。”[12]未来学校易存在“只见数据不见人”[13]的问题，缺乏面对面情感的沟通与交流，容易把有血有肉的人物化为简单的数据。“天天和一堆‘不嗔不怒，不言不语的数据为伴，久而久之，学生们会不会变得理性有余而感性不足？数据的精准会不会让学生变得精细、精明有余而不够大气？”[14]

（2）学习者主体性被消解。未来学校中技术的覆盖可能使学习者逐渐丧失主动性，走向“幼稚化”。在法国可汗实验学校，学校提供个人学习平台，学习者在平台规定的完成时间和提供的学习方式下完成个人的学习目标。在这个案例中，学习者根据智能平台进行学习，“如若学习者长期坐等教育人工智能定时定量的投喂，将有可能逐渐丧失能动性”[15]。另外，技术为主的未来学校可能使得学习者思维僵化且浮于表面。如项目评分系统（PEG系统）只关注文章的表面特性，忽视文章内容。若学校中应用该系统，不仅不能提高学生的写作质量，而且会使学生写作流于表面，囿于华丽辞藻之中。虽然智能机器会根据学生学习过程中的数据向学生精准推送学习资源，但这些资源完全围绕学生兴趣展开，缩小了学生学习的范围，使学生囿于技术限制的牢笼中。

（3）学习者社会性被遗忘。无边界的学习是未来学校的一大特征，虽然能提供个性化的辅导，培养更多优秀的学生，但这是以牺牲孩子的社交时间和情感交流为代价的。法国的Ecole42学校没有教师、课本和教室，学生每人一台电脑，学习由自我负责[16]，任何交流与沟通都是在虚拟环境中进行，这将导致学生的社会性难以得到培养。未来教育不是以输出精英为目的，而是要让孩子在教育新世界中得到更好的发展。杜威曾指出：“教育是社会生活的过程。”[17]所以，未来学校建设单纯依靠智能技术提供虚拟环境对话是行不通的。

3.道德缺失伦理风险

在未来，越来越多的人工智能技术将运用到学校当中，目前人脸识别技术走进教室已成为未来学校的试点项目，此项目意在提高课堂效率。人脸识别以学生个人信息为支撑，通过适时采集学生的表情、动作来分析学生在课堂上的投入程度，虽然在某种程度上可以提高课堂效率，但如何保证学生数据隐私的安全，如何界定学生信息的使用范围等问题值得深思。况且在这种严密的监管之下，学生如同“犯人”一般被时刻监控，这种做法是与教育本质背道而驰的，是有悖道德伦理的。再如美国的Alt School，为了监视学生的一举一动，在墙上安装了摄像头，全天候地对着学生，而学生并不会被告知是谁在背后监控他们，摄像头所采集的信息是被谁使用、如何使用以及使用的范围如何界定。除此之外，在课堂上学生可能佯装认真学习，那真正的教学就不可能发生，长此以往，学生的健全人格也必将遭到破坏。

4.育人弱化伦理风险

正如舒马赫所言：“教育以人的自由与发展为旨归，根本任务是传授价值观念，传授知识只是第二位。”[18]未来学校依附于人工智能，其教育最初的本心将可能被基于计算和数据驱动的技术所替代，其结果就是教育的育人初心随之湮没。在教学过程中，如若教师过于依赖数据，缺乏自身的判断，以数据为教学标杆，则会导致“学生的很多潜能因为没有药引而未被激发出来”[19]。虽然未来学校建设中学习的效率可能会大大提升，但随之产生的伦理问题不容小觑。目前，有关自适应学习系统的研究正如火如荼，基本原理是“基于大数据与分析得到待训练的样本，并用数据训练从而得到基于人工智能算法建构的、属于认知智能助力的精细化教学，而对于学生情感与品德的发展、教学内容价值观的传递等方面难以通过客观数据量化”[20]，这在一定程度上否定或淡化了学科育人的价值。再者，中小学德育工作评价模型算法中拟采用数学建模的方法形成多层评价结果。此模型包含四种算法：单项算法、关联算法、协同算法和复合算法[21]，并为德育目标、德育内容以及德育途径赋值，通过多种算法综合对学生进行德育评价。但德育目标在不同的属性之下有不同的目标，而且德育内容的权重又該如何分配？过分追求量化，憧憬以数据来衡量学生的德育，从而得到确定的结果，这将会导致动态的育人过程逐渐丧失温度。况且人具有综合实践性的特征，单一的德育评价无法与人在生活中表现出来的德性相统一。

三、探究与重建：智能时代未来学校建设伦理风险的规避路径

1.完善各主体应有职责，明晰教育责任

政府部门责无旁贷，未来学校中存在的伦理风险治理是对政府管理效能的考验。一是筹集多方力量，制定智能时代伦理准则，以明晰权责。2018年，欧盟发行了人工智能伦理准则，提出人工智能发展应坚持“以人为本的价值观立场”[22]。我国可借鉴国外先进的做法，根据我国实际情况制定适合的伦理准则，规范技术设计者、私营部门等相关主体的行为，以防止伦理问题发生。二是完善相关法律法规。目前，我国关于人工智能技术的相关法律并不健全，这就导致当伦理问题发生时无法可依。既然智能产品将代替人的部分劳动进入真实世界，那就必须和人一样享有权利和义务，必须遵从法律约束，承担相应责任。三是要成立监管机构。虽然政府要放权，以推动未来学校的构建，但又不能完全放任各运营部门的行为。其次，各运营部门要做好表率，要提高自身道德感。在保证对未来学校的技术支持之外，还要坚守道德底线，不以此为自身牟取利益。不仅要遵纪守法，遵守人工智能的相关法律，还要做好智能产品质量的监管和把控，禁止不合格产品流入市场。最后，技术主体作为智能产品的研发者更应该承担起相应的责任。设计者要加强自身的责任意识，意识到人工智能产品所引起的伦理风险与自身的责任意识息息相关，一旦技术主体将带有歧视等错误价值植入算法中，产生的后果将不堪想象。因此，必须强化设计者的责任意识，并将其转化为代码植入智能产品中，使其在面对两难抉择时能依据道德伦理作出正确的判断。

2.重新定位师生关系，构建人机协同体

未来学校的构想中以智能产品辅助教师教学与学生学习，在一定程度上会造成主体异位的发生。因此，重新定位智能时代之下的师生关系是极有必要的。首先，技术设计者要改进智能技术的算法。智能产品要在保证给学生提供学习资源的同时，防止学生过度依赖技术。其次，强化教师在智能场域中的主体责任。转变传统的教学方式，使自身适应未来学校中的新角色，在机器主动投喂的过程中适时干预，激发学生主动学习的动力，同时要提高使用智能产品的能力。智能技术的使用替代了教师大部分枯燥无味的工作，但这并不意味着教师可以任由智能机器的宰割，而应主动出击，做一些智能机器做不到的事情，填补学生情感的空缺，培养学生的社会性。最后，学生在智能化学习环境和使用相关学习工具时要处于主体地位，防止成为智能技术浪潮中的牺牲品。学生要有主动学习的意识，拒绝智能机器定时定量的投喂行为，养成与时代相适应的技术思考方式与行为习惯，还要在智能学习的过程中有意识地培养自己的创造性思维和批判性思维。总之，在未来学校的教育空间中，教师、学生、技术共存，教师和学生一改传统的角色定位，以技术为媒介，共同创建新型的师生关系，推动人机协同体的构建。

3.建立数据资源透明机制，发展学生健全人格

未来学校中技术监控通过收集、分析学生的个人信息实现对学生的全程监控，这不仅会面临学生隐私数据泄露的风险，甚至会使教育越走越偏，有悖道德伦理。因此，建立数据资源透明机制，发展学生健全人格，有利于教学的真正发生。

数据透明指的是在数据的获取、储存和使用的过程中对数据贡献的主体保证透明性。在数据收集问题上，学校要行使主人翁责任，与技术提供者在信息收集上达成一致，减少对学生附带信息的收集，并在学校内部专门建立一个数据透明网站，所有数据主体可通过自己的账号密码登录查看与本人相关的所有数据信息。在数据存储问题上，公开数据存储的渠道以及存储的内容，同时学校要与技术提供者合作，共同商讨数据储存期限。在数据使用问题上，要通过数据透明机制公开数据使用的范围，并依靠技术支撑限制数据的分享。

人脸识别等监控技术进入课堂的最终目的是提高课堂效率，提升课堂质量，但人脸识别的应用不过是治标不治本，甚至危害学生的人格养成。提高课堂质量根本在于培养学生的自觉性，提高学生的学习兴趣，而这关键又在于教师的教学能力。因此，推进未来教师教学能力的培训应早日提上日程。教师培训应围绕新课程标准和我国发布的教育2.0框架，借鉴TPACK框架研制符合智能时代未来学校特色的教师教学能力框架。一是提高技术知识能力（TK），这不单单指利用信息技术的知识和能力，更强调人与机器协作配合的能力；二是提高教学法知识能力（PK），在教学法知识的基础上着重培养未来教师如何结合智能技术吸引学生兴趣，同学生产生共鸣；三是提高学科内容知识能力（CK），使未来教师不再是单一学科的教学主体，强调师范院校培养职前教师具备多学科知识，开展跨学科教学、项目式教学等；四是提高教研能力，培养教师分析数据的能力，挖掘学生学习数据背后所隐藏的问题，在智能技术的辅助下实现学生的个性化学习。

4.塑造温情氛围，重拾育人初心

未来学校的设想以技术为核心，聚焦于利用技术来提高知识传递的效率，这在一定程度上忽视了教育育人为先的本质。智能时代之下，重拾育人初心，促进学生全面发展势在必行。

学校作为学生学习的主阵地要营造温情的氛围，采取措施推动学生与学生、学生与老师之间的情感交流，让学生在工具性技术下感受人的温暖，进而达到育人的教育目标。教师作为学生学习的第一接触者，不仅要关注学生知的发展，更应关注学生情与德的发展。智能时代，教师应意识到自身角色不再只是知识的传递者和教学的实施者，积极地向学生心灵的培育者、精神成长和品质完善的领路人转变，实施智能机器人做不到的事情，比如情感的干预、审美情趣的提高以及品格的培养等。智能机器人也是有软肋的，它不可能完全具有人的情感交流和人文关怀，不可能具有真正的人的创造性与独特性。未来的教师不仅要关注学生的智力发展，更要关注学生的非智力因素，要坚持育人的价值观导向，避免教育陷入技术的洪流。此外，技术主体在研发新的教育智能产品时，要加强人工智能在情感识别、脑科學领域的研究。虽说智能机器人并不能完全理解人类复杂的情感，但在算法中加入情感识别，则可以更全面地掌握学习者的学习状态，同时可以在一定程度上避免学习者情感空缺等问题。

综上所述，人工智能时代下未来学校建设体现鲜明的技术驱动性，这给教育革新带来了推动力，但美好设想之下仍隐藏着技术伦理风险。只有警惕和识别技术带来的这些伦理风险，增强风险防范意识，才能使未来学校的建设之路更宽广、更美好。

参考文献

[1] 叶澜.探教育之所“是”，创学校全面育人新生活[J].人民教育，2018（13）：10-12．

[2] 田友誼，姬冰澌.人工智能时代未来学校的建设之道[J].中国电化教育，2021（06）：39-48．

[3][7][13][14] 朱永新.未来学校：重新定义教育[M].北京：中信出版社，2019：31，137，255，114.

[4] 曹培杰.未来学校的兴起、挑战及发展趋势：基于“互联网+”教育的学校结构性变革[J].中国电化教育，2017（07）：9-13．

[5] 张生.聚焦高阶思维，建设未来学校[J].中小学学校管理，2017（08）：14-15．

[6] 王永固，许家奇，丁继红.教育4.0全球框架：未来学校教育与模式转变：世界经济论坛《未来学校：为第四次工业革命定义新的教育模式》之报告解读[J].远程教育杂志，2020（03）：3-14.

[8] 冯正华.基于评价立校的未来学校转向：结构与路径：东莞市松山湖北区学校综合评价改革与探索[J].教育信息技术，2021（12）：14-15.

[9] 朱德全，吕鹏.大学教学的技术理性及其超越[J].教育研究，2018，39（08）：73－80．

[10] 安东尼·塞尔登，奥拉迪梅吉·阿比多耶.第四次教育革命：人工智能如何改变教育[M].吕晓志，译.北京：机械工业出版社，2019：146.

[11][16] 曹培杰.未来学校变革：国际经验与案例研究[J].电化教育研究，2018（11）：114-119．

[12] 戴维·伯姆.论对话[M].王松涛，译.北京：教育科学出版社，2004：6．

[15] 赵磊磊，张黎，代蕊华.教育人工智能伦理：基本向度与风险消解[J].现代远距离教育，2021（05）：73-80.

[17] 约翰·杜威.学校与社会·明日之学校[M].赵祥麟，任钟印，吴志宏，译.北京：人民教育出版社，2005：3.

[18] 申灵灵，何丽萍.人工智能时代技术与教育共生的困局与出路[J].高教探索，2021（09）：13-18

[19] 维克托·迈尔一舍恩伯格，肯尼思·库克耶.与大数据同行：学习和教育的未来[M].赵中建，张燕南，译.上海：华东师范大学出版社，2015：1.

[20] 沈寓实，徐亭，李雨航.人工智能伦理与安全[M].北京：清华大学出版社，2021：58-59.

[21] 王薇.基于复杂性科学的中小学德育评价模型构建及应用[J].教育理论与实践，2020，40（35）：11-15.

[22] European Commission.Draft Ethics Guidelines for Trustworthy [EB/OL].https：//ec.europa.eu/digital-single-market/en/news/draftethics-guidelines-trustworthy-ai.

【责任编辑  关燕云】