|
本文核心要点: 2026年3月5日,欧盟发布更新版《在教学中合乎伦理地使用AI和数据的教育者指南》。该指南指出,随着生成式AI的快速普及,AI技术在为教育带来机遇的同时,也带来了偏见、隐私问题、透明度不足和过度依赖等风险,商业技术提供商与学校之间的数据权限失衡更引发了关于数据所有权和机构自主权的深层关切。
为此,指南面向各级教师和学校领导者,系统阐述了AI在教育中的应用场景、伦理要求与实施路径。指南从教师支持、学生支持、学校支持三个维度,结合准备、教学、评估三个阶段,全面展示了AI在备课、个性化教学、自动批改、学习分析等场景中的具体应用。
在伦理层面,指南提出了人的尊严、公平、可信赖性、学术诚信、合理选择五大伦理考量,并从人的能动性与监督、透明度、公平与非歧视、隐私与数据治理等八个维度,为教师和学校分别提供了可操作的指导性问题,帮助其在实践中做出合乎伦理的决策。本指南为教育工作者在AI时代开展教学提供了从理念到行动的系统指引。
2026年3月5日,欧盟发布新版《在教学中合乎伦理地使用AI和数据的教育者指南》(Guidelines on the ethical use of artificial intelligence and data in teaching and learning for educators),旨在为各类教师和学校领导者提供支持,无论他们是AI领域的初学者,还是拥有高级数字技能的专家。指南的重点在于帮助他们做出明智的选择,逐步建立信心,并培养必要的技能,以便在利用AI的同时管控潜在风险。
该指南分为三个主要部分:核心原则和法律背景,包括《人工智能法案》、《通用数据保护条例》(GDPR)以及教育领域负责任的AI使用所依据的伦理考量;指导性问题和案例,提供在课堂和学校环境中应用这些原则的示例;背景资源,例如技术定义、参考框架和更多政策背景,可根据需要进行查阅。该指南的核心主要内容概述如下:
一、为什么需要制定AI在教育中使用的伦理指南?
该指南指出,AI技术(包括生成式AI)在提供机遇和促进个人应用发展的同时,也带来了重大风险,包括偏见、隐私问题、缺乏透明度和过度依赖,教育工作者和学校领导都需要了解这些风险,并安全负责地应对这些风险。
这种伦理和法律考量并非AI在教育领域技术应用的附加因素,而是理解、采纳和应用这些技术于教学、学习和评估的根本所在。
特别是AI工具越来越多地利用教育数据来实现个性化学习和辅助决策,即使是学校常用的工具,也可能会收集和处理学生数据以改进其系统。而且商业技术提供商比生成教育数据的学校和教师拥有更多访问和控制教育数据的权限,这些发展引发了关于数据所有权、同意权和机构自主权的重要问题,以及究竟谁才是教育领域AI发展的真正受益者。
学校必须确保以负责任的方式处理数据,并遵守《通用数据保护条例》、《人工智能法案》和国家法律。明确的政策和程序对于保护隐私和促进教育环境中数据的合乎伦理的使用至关重要。
此外,人们对AI及其对教育系统乃至整个社会的短期和长期影响存在诸多假设和担忧,例如认为AI与生成式AI是一回事、AI在教育中没有用、AI是中立客观的、AI会削弱教师的角色、我对AI如何运行了解不多等,这些都会给AI在教育中的应用带来一些伦理风险。
二、AI在教育中如何应用?
该指南从使用主体(教师/学生/学校)+使用阶段(准备/教与学/评估反思)双维度,划分了AI教育应用场景。
1.对教师的支持
在准备阶段,可以: - 通过提供大纲并组织学习目标、活动和资源,制定课程计划以生成定制化内容。
- 调整课程内容,使课程目标、活动和评估与学科课程相匹配。
- 设计学习材料,推荐或调整符合不同技能水平、需求和兴趣的学生数字教育内容。
- 支持创意活动,生成视觉艺术提示、创意写作主题或基于表演的活动建议,以适应特定的学习成果。
- 策划数字教育内容,识别并组织学科之间的联系(例如历史与文学、商业与公民教育),并提出综合性主题课程或项目。
- 练习和测试教学策略,模拟具有不同行为、学习需求和反应的虚拟学生,使教师能够在真实的互动中练习教学方法和课堂管理。
在教与学阶段,可以: - 设计差异化学习,根据每位学生的优势和需求定制内容形式、材料、反馈和进度,包括针对性干预,以支持有特定学习困难的学生。
- 支持互动式和体验式学习,提供实时讲解和反馈,并通过模拟、游戏化、创意任务和增强现实等方式实现互动式体验学习。
- 支持协作学习,通过智能配对促进小组合作,并根据小组成员间的互动水平提供小组合作反馈。
- 设计沉浸式体验,利用AI工具生成基于历史的对话、模拟关键事件,并呈现多视角,用于课堂讨论或项目作业,从而创建学习活动。
- 增强语言学习,提供实时翻译、语音识别、个性化词汇练习、可根据学习者熟练程度调整的互动式对话模拟,以及关于发音、理解和流利度的实时自动反馈。
- 支持探究式学习,引导学生运用自适应工具、实时反馈和交互式模拟,以自己的水平和节奏,跨学科地进行开放式调查和问题解决。
在评估和反思阶段,可以: - 设计灵活的评估方式,创建多样化的评估活动和题型,分析学习目标,并根据学生的学习进度、偏好和需求生成差异化的评估和评分标准。
- 利用AI工具自动批改重复性作业,例如批改简答题和选择题,标记开放式作业中的常见错误,并根据教师设定的标准提供反馈。
- 利用AI工具辅助书面评估,分析语法、结构、连贯性和词汇,从而评估学生的写作并提供反馈。
- 支持同伴互评,根据学生的个人资料和/或提交的作业进行精准匹配,从而提高同伴互评的有效性。
- 鼓励学生进行自我反思,通过个性化提示、间隔练习、针对性提问和反馈,帮助学生反思自身的学习进度,发现学习差距,监控学习进度,并在需要时寻求额外的帮助或资源。
- 提供指导服务,帮助学生确定新的学习和发展目标,并根据对学生学习进度和/或自我反思的分析,为后续步骤提供建议。
2.对学生的支持
在准备阶段,可以: - 利用生成式AI进行研究,收集信息并探索新主题,它可提供简洁的对话式回复,而非标准的搜索结果。
- 练习学科知识,与辅导智能体互动,解释概念、逐步解决问题并提供即时反馈。
- 独立探索主题,通过AI驱动的模拟和可视化进行学习,以适应学生的学习进度和兴趣。
- 组织和起草任务,利用AI工具整理思路、创建提纲并撰写或制作演示文稿,这些工具在整个起草过程中提供结构指导、语言建议和持续反馈。
- 创建定制化的学习辅助工具,生成记忆卡片、摘要、图表或概念图,并安排间隔重复练习以提高记忆力。
在学习和教学阶段: - 练习解决问题,在AI的支持下探索编程、数学或科学任务,提供提示、解释错误并指导逻辑推理。
- 发展创意表达能力,尝试使用AI工具进行绘画、作曲或创意写作,并接收建议和即时预览。
- 通过与模拟关键人物,并从多个视角和背景呈现事件/现象的AI智能体交互加深理解。
- 学习外语,使用AI应用程序,根据每个学习者的水平和进度调整词汇、发音和语法任务。
- 可视化模式,与AI增强的地图、数据集和模拟互动,显示人口、气候或土地利用的实时变化。
- 通过使用AI支持的应用程序来分析动作、提供实时技术反馈并建议个性化训练计划,从而增强体育教育。
在评估和反思阶段,可以: - 进行形成性评估和反馈,通过低风险测验、针对性问题和即时反馈来帮助检查理解情况,这些反馈指导学习,但不进行评分。
- 回顾创意作品,借助AI工具反思个人艺术作品,提示学生描述他们的技巧、艺术选择以及与预期信息或风格的一致性。
- 通过AI生成的摘要或仪表盘跟踪进度并生成报告,以便学生回顾自身学习历程,突出优势、挑战和需要改进的领域。
- 复习和分析课程,帮助学生重温关键概念,并通过提供自身学习模式和活动的洞察或可视化呈现,反思他们的学习参与度。
- 支持学生进行自我反思和同伴反思,通过个性化提示、引导式比较或结构化的同伴反馈,帮助学生反思学习过程或向同伴提供反馈。
3.对学校的支持
在准备阶段,可以: - 利用AI驱动的预测和实时运营数据,管理学校日常运营,支持课程表、教室使用和教学材料规划。
- 利用AI增强的归档和搜索系统,整理学校记录和文件,对政策、会议纪要或学校表格等行政文件进行分类、标记和检索。
- 识别辍学风险,分析学业成绩和出勤率,识别高风险学生,并及时进行干预。
- 构建学术数据和信息结构,使其能够自动传输到教育机构(地方、区域、国家)的信息系统中。
- 利用基于历史数据和预测需求的预测模型,模拟和优化各部门或学校项目的预算分配,构建预算方案模型。
- 支持招生规划,分析历史数据并识别招生模式,为未来的招生做好准备,并更有效地管理申请信息(同时将决策权留给相关教职员工和委员会)。
在学习和教学阶段,可以: - 通过监测学生参与度、成绩和支持趋势的汇总数据,指导资源配置决策,帮助学校领导确定哪些领域的资源可能需要调整或加强。
- 利用AI工具实现日常沟通自动化,简化提醒、考勤通知、日历更新和学校公告的发送,实现个性化信息并跨平台管理信息传递。
- 支持及早识别学习需求,突出课堂活动中可能预示学习挑战的模式,并帮助规划及时有效的资源支持。
- 通过AI聊天机器人,促进家校沟通,为在校生、潜在学生及其家长提供多语言、个性化和自动化的支持。
- 利用AI工具从学校系统中提取和整理信息,生成统计报告,协助行政人员收集和整理数据,供教育部门审核。
在反思与评估阶段,可以:- 提供指导平台服务,通过提供量身定制的职业辅导、设定学习目标和监控学习进度,支持学生发展。
- 规划学校专业发展,分析教师的专业学习需求,识别员工技能差距,并推荐有针对性的专业学习路径。
- 绘制课程与学校计划图,分析课程要素(例如教学大纲、框架、指南和政策)以及学校计划,以帮助识别差距、优势和机遇。
- 通过审核数字工具使用情况,评估全校数字工具和平台的使用情况,识别参与模式,并找出需要额外培训或支持的领域。
- 利用AI生成的仪表盘监控学校改进目标,跟踪学校战略重点的进展情况,实现可视化出勤率、成绩或教职工专业学习参与度等。
三、AI在教育中应用的伦理要求如何?
该指南提出了AI在教育中应用的5个伦理考量:人的尊严、公平、信任/可信赖性、学术诚信和合理选择。
人的尊严涵盖隐私权、自主权和能动性,并涉及每个人无论种族、性别、宗教、文化或语言背景如何,都应受到尊重和合乎伦理的对待。这一原则的核心在于承认每个人的内在价值。尊重个体的这种价值,而不是将他们视为数据对象或达到目的的手段,是以人为本AI方法的核心所在。
公平是指在社会组织中每个人都受到公平对待。需要明确的流程,以确保所有用户都能平等地获得机会。这些流程包括公平、包容、非歧视以及权利和责任的公平分配。
信任/可信赖性涉及基于基本权利的伦理原则,并涵盖学习者的脆弱性、权力动态和批判性思维等维度。信任是指利益相关者对人工智能以公平透明的方式使用,从而促进教育良好实践和学生最佳利益的信心。AI工具值得信赖的条件是:它始终可靠、运作方式透明、尊重隐私、避免偏见,并以符合学校社区价值观的方式支持学习。
学术诚信是一项基本原则,因为它是学习过程不可或缺的一部分。它超越了工具本身,渗透到思维模式、能力以及更广泛的教育文化中。它意味着以诚实和合乎伦理的方式使用AI,例如不歪曲他人的贡献、恰当地归因于他人的想法和工作,以及设计在生成式AI时代仍然有效的评估方法。简而言之,它意味着培育一种文化,在这种文化中,价值观、批判性思维和人的自主性与技术创新并存。
合理的选择是指运用知识、事实和数据来论证学校环境中多方利益相关者做出的必要或适当的集体选择。它需要透明度,并基于参与式、协作式的决策模式以及可解释性。
该指南指出,这些伦理考量具有内在价值,值得在教育领域努力追求。它们指导教育工作者和学校领导在教育领域使用AI工具和通用AI模型时做出决策。必须牢记,在使用AI进行学习、教学和评估时,使用情境是做出合乎伦理决策的关键。
四、AI在教育中如何合乎伦理地应用?
该指南就AI在教育中如何合乎伦理地应用提出了8大维度指导性问题,分教师层面与学校层面。
1.人的能动性和监督
包括基本权利、儿童权利、人类自主性与人类监督等方面。
对于教师来说,该维度下的指导性问题如下: - 我是否知道在使用AI工具生成的输出内容之前,应该检查哪些内容,以及如何进行核查?
- 我能否在学生使用AI工具之前,对其提出的建议进行审查和调整?如果在使用过程中观察到任何意外或不适当的影响,我能否进行干预?
- 我能否发现AI是否犯了错误或提出了不恰当的建议?
- AI工具是否支持我的教学决策?我能否根据自己的专业判断来验证其建议?
- 我是否鼓励学生对AI的输出进行批判性思考,并引导他们反思AI为何会提出某个建议或决策?
- 如果学生对AI的建议感到不适,我是否允许他们提出讨论?
对于学校来说,该维度下的指导性问题如下: - 该AI技术/工具的教育功能是什么(例如:推荐、评估、预测、内容生成)?
- 学校是否为教师提供了关于在教学中使用AI支持工具的专业发展培训?
- 该AI工具是否在您的教学环境中经过可靠性审查?
- 谁负责审查和验证AI的输出结果?
- 学校是否有关于在校内作业中使用AI支持工具的政策?教师是否可以推翻或干预AI生成的决策?
- 学生和家长是否被告知AI在支持性活动和决策中的作用?他们是否有机会提出疑虑或在适当时选择退出?
2.透明度和可解释性
包括可追溯性、可解释性和沟通等方面。
对于教师来说,该维度下的指导性问题如下: - 我是否理解AI工具为何会针对学生提出某些建议或推荐特定活动?
- 我能否看到系统中决策过程的清晰示例(例如,为什么某个学生收到某项活动而另一个学生没有)?
- AI的建议在我的课程规划背景下是否具有教学意义,并与课程内容保持一致?
- 系统传达的信息是否以清晰易懂的方式呈现给我和我的学生?
- 我是否要求学生披露他们如何使用AI?我能否提供如何正确引用或致谢AI辅助的示例?
对于学校来说,该维度下的指导性问题如下:- AI工具提供商是否提供了清晰的文档,说明该工具的工作原理,包括其决策逻辑、在教育中的预期用途,以及训练数据和用户输入中知识产权的处理方式?
- 学校是否评估AI工具在不同学生群体中的表现差异,并记录任何新出现的公平性差距?
- 对于AI输出不透明或难以解释的情况,是否有明确的责任分工?
- 学校是否有相关政策,定期审查AI支持的做法是否被教师、学生和家长所理解并接受?
- 是否有程序能够以通俗易懂的方式向教师、学生和家长解释AI支持的决策?
3.多样性和包容性
包括无障碍性、通用设计和利益相关者参与等方面。
对于教师来说,该维度下的指导性问题如下: - 我对AI工具的使用是否能满足学生的多样化需求?如果不能,我是否可以调整任务或提供包容性的替代方案?
- 我审查过AI工具的输出中是否存在文化或社会偏见吗?我是否引导学生识别并质疑他们注意到的任何偏见?
- 我会根据学生的年龄适当询问他们,AI工具是否让他们感到相关、包容,并尊重他们的身份、背景和学习偏好?
- 我是否确保那些在校外无法使用该工具的学生不会处于不利地位(例如,提供离线或替代方式完成作业)?
- 如果该工具提供反馈或支持,它是否能适应不同的语言、阅读水平和可访问性需求?我是否需要补充更具包容性的资源?
对于学校来说,该维度下的指导性问题如下: - AI工具的设计是否尊重学习者,并能根据他们的个体需求进行调整?
- 在AI辅助的学习材料中,是否充分涵盖了不同的语言、文化背景、性别和能力?
- 在评估和改进AI工具的过程中,如何纳入多样化的学生声音?
- 学校如何解决数字素养差距问题,以防止部分学生无法充分利用AI工具?
- 是否有低带宽或离线访问的选项?对于家中没有稳定网络连接的学生,是否提供替代资源?
4.公平和非歧视
包括避免不公平的偏见,不论年龄、性别、能力或任何其他历史上处于不利地位的属性或特征。
对于教师来说,该维度下的指导性问题如下: - 我是否相信AI工具能够根据个体需求(如学习困难或残疾)进行调整,以支持每个人的学习,而不仅仅是防止学生落后?
- 我能否验证AI工具是否考虑到了学生的年龄和理解水平?
- 我是否注意到AI工具有任何输出存在对特定群体的歪曲、排斥或负面描述?
- 我能否评估AI工具对不同学生群体的影响是否公平,特别是对那些已经被边缘化的群体?
- 如果我注意到系统对某个学生或学生群体表现出不公平或不适当的行为,我能否方便地进行干预?
- 对于学校来说,该维度下的指导性问题如下:
- 学校在采用AI工具之前,是否已确保该工具已针对不同学习者群体进行偏见测试?
- 学校是否鼓励并支持教师报告任何AI似乎歪曲、刻板化或排斥特定学生群体的实例?
- 该系统是否考虑到了学生的年龄和理解水平?
- 学校是否已确保AI工具的使用符合关于非歧视的法律义务?
- 学校是否有明确的程序来应对在采用后发现AI工具存在偏见或对特定学习者群体不公平对待的情况?
5.社会和环境福祉
包括可持续性、社会责任、民主和社会心理健康等方面。
对于教师来说,该维度下的指导性问题如下: - 我是否注意到使用AI工具对学生学习动力或情绪产生了任何影响(例如,引发焦虑、失去兴趣或产生依赖)?
- 我可以设定哪些使用AI工具的界限,以保持有意义的人际互动,并防止出现损害学习或学生福祉的行为?
- 我是否与学生家长讨论过在课堂上使用AI工具的情况?
- 我是否了解所使用的AI工具对环境和社会的影响?我是否与学生讨论过替代方案或使用方式,以尽量减少负面影响?
- 如何使用AI工具帮助学生培养为社会做出积极贡献的技能?
- AI工具能否支持学生探索和理解复杂的社会或环境挑战?
对于学校来说,该维度下的指导性问题如下: - 学校是否评估了使用AI工具可能对学生之间的社交互动、情感健康或归属感产生的影响?
- 教师和学生是否有机会表达对AI工具如何影响学习氛围或课堂氛围的担忧?
- 在选择或使用AI工具时,学校是否考虑其环境和社会影响?
- 学校是否实施了与数字工具(包括AI)的环境和社会影响相关的政策或宣传教育活动?
- 课程或学校计划中是否包含让学生利用AI工具应对现实社会或环境问题的机会?
- 学生是否被鼓励在负责任的数字公民教育中,反思AI的伦理、社会和环境层面?
6.隐私和数据治理
包括尊重隐私、数据的质量和完整性,以及数据访问权限等方面。
对于教师来说,该维度下的指导性问题如下: - 我是否知道该AI工具收集了关于我学生的哪些个人或学习数据?
- 我是否向学生解释过在使用该AI工具时,他们的数据将如何被使用和存储?
- 我是否避免将敏感或个人身份信息输入AI工具,并遵守学校的数据隐私规定?
- 我能否根据课堂需求调整AI工具的隐私设置?
- 如果我注意到AI工具存在隐私或数据保护问题,我是否知道该联系谁?
- 我能否为那些对数据收集或使用方式感到不安的学生或家长提供替代方案?
- 对于学校来说,该维度下的指导性问题如下:
- 学校是否已采取措施,确保敏感数据经过匿名化处理,并且仅限授权人员访问?
- 学生和教育工作者是否被清楚地告知他们的数据如何被收集、使用、存储以及用于何种目的?
- 学习数据是否得到安全存储,并且仅用于其预期的教育目的?
- 学校能否定制或限制AI工具的隐私设置,以更好地保护学生数据?
- 是否有明确的流程来报告和获得有关数据保护问题的支持?
- 学校能否确认所有使用的AI工具都符合欧盟《通用数据保护条例》、《人工智能法案》以及国家数据保护法律的要求?
7.技术稳健性和安全性
包括抵御攻击的能力、网络安全、一般安全性、准确性、可靠性和可复现性等方面。
对于教师来说,该维度下的指导性问题如下: - 该AI工具在课堂上运行是否可靠?我是否经常遇到错误、崩溃或断连的情况?
- AI生成的回答或建议是否恰当?有时是否会出现不正确或不合时宜的情况?
- 我是否了解学校的数据保护政策,以及该政策中规定的应对涉及AI工具的数据泄露事件的步骤?
- 我是否知道如何报告AI工具的疑似故障或技术问题?
- 是否有明确的流程来监控和审查AI工具的性能,以减少未来的技术问题?
- 对于学校来说,该维度下的指导性问题如下:
- 学校是否已核实该AI工具在投入使用前经过测试,确保其可靠运行?
- 学校是否定期审查AI工具,以确保其按预期运行并与教育目标保持一致?
- 学校是否制定了明确的程序,供教师和学生在需要时报告故障和升级问题?
- 学校是否建立了正式的程序来报告技术故障或不安全的输出,并制定了系统故障的应对计划,包括维护、备份和学生安全保障措施?
- 学校是否已确认该AI工具符合网络安全和数据保护法规,并且供应商符合相关标准(如《欧盟网络安全法》、《网络弹性法》)?
8.问责制
包括可审计性、负面影响的最小化与报告、权衡取舍以及补救措施等方面。
对于教师来说,该维度下的指导性问题如下: - 如果系统提出了不符合学生需求的建议,我是否知道该怎么做?
- 我是否有机会和途径就系统的使用方式提供反馈或提出改进建议?
- 如果系统运行不正常或似乎不适合课堂使用,我是否有信心采取行动?
- 如果我需要报告问题或提出投诉,我是否知道该联系谁?
- 对于学校来说,该维度下的指导性问题如下:
- 学校是否对教师、学生和其他利益相关者在AI工具使用方面的责任进行了明确分工?
- 学校是否有清晰的组织架构,明确在问题报告后由谁负责支持、维护和跟进?
- 学校是否有评估流程,用以判断AI工具是否符合关键教育价值观,并纳入教师和学生的意见?
- 随着需求变化或出现新的问责问题,学校是否有更新职责和程序的策略?
资料来源:
European Commission: Directorate-General for Education, Youth, Sport and Culture. (2026). Guidelines on the ethical use of artificial intelligence and data in teaching and learning for educators. Publications Office of the European Union. https://data.europa.eu/doi/10.2766/7967834.
本文源自:公众号“国际教育前沿”
原文地址:https://mp.weixin.qq.com/s/54PLUHUdekn-kH1JGV9YbA
|