《负责任的人工智能》入门单元（课件）

《负责任的人工智能》入门单元（课件）

单元学习目标

• 清晰阐述人工智能是什么、不是什么
• 客观评析人工智能的优势与短板
• 界定人工智能领域的伦理准则（联合国教科文组织人工智能伦理规范）
• 梳理人工智能可能引发的各类伦理难题
• 激发学生深入学习人工智能与数据科学的兴趣

本小节学习目标

十个人工智能思考题（课堂讨论）

第一部分：关于人工智能的疑问

1. 什么是人工智能？
2. 人工智能的优势
3. 人工智能存在的问题
4. 学习反思与知识自测
5. 人工智能伦理准则

课堂讨论问题

• 人工智能是否应当负责发放录用通知、高校录取这类重大决策？
• 人工智能会取代老师吗？
• 人工智能能否创作美术、音乐作品？这种创作是否属于抄袭？

• 人工智能能帮我写作业吗？
• 如果人工智能出错，责任该由谁承担？
• 人工智能是如何知道我在油管上想看什么视频的？
• 人工智能是否在监视我们？
• 人工智能能否解决气候变化问题？
• 人工智能的智力会超越人类吗？
• 人工智能和机器人有什么区别？

相信大家心中都有很多关于人工智能的疑问……

第二部分：什么是人工智能？

观看视频任务

观看视频《人工智能是什么？速成人工智能课 第 1 讲》，观看到 4 分 48 秒处。

重点理解人工智能的定义

人工智能定义与应用

什么是人工智能？

人工智能 = 数据 + 算法 + 智能输出
人类将算法应用于现实数据，由此诞生人工智能；它帮助人类解决问题、制定决策，比人工操作更高效、效果更好。

课堂活动：判断是否属于人工智能

举手示意，判断以下每一种技术是否属于人工智能

1. 扫地机器人 Roomba
   
2. 传统吸尘器
   
3. 人类婴儿
   
4. 游戏角色马里奥
   
5. 遥控无人机
   
6. 照片滤镜（Instagram / Snapchat滤镜）
   
7. 普通相机
   
8. 3D 打印机
   
9. 视频网站
   
10. 烟雾报警器
    
11. 地铁广告牌
    
12. 谷歌翻译
    

第三部分：人工智能的优势

思考问题：你认为人工智能有哪三大优点？

人工智能的利好之处

• 便利日常生活：智能助手、智能家居、导航软件
• 个性化推荐：视频、音乐、新闻推送
• 提升安全水平：自动驾驶、犯罪识别预警
• 助力医疗行业：疾病诊断、新药研发、手术辅助
• 高效沟通工具：翻译软件、语音转文字、聊天机器人
• 精准预测分析：灾害预警、健康监测、气象预报

第四部分：人工智能存在的问题

思考问题：你对人工智能有哪三点担忧？

人工智能的隐患与弊端

• 人工智能存在偏见问题
• 人工智能会造成岗位流失
• 多数人工智能系统难以理解、无法解释决策逻辑
• 人工智能可用于制作、传播虚假信息
• 存在人工智能失控的风险隐患
• 隐私泄露与数据安全问题

第五部分：人工智能伦理准则

四大核心价值

以下四项核心价值，为造福人类、个体、社会与自然环境的人工智能体系奠定基础：

1. 人权与人的尊严：尊重、保护和促进人权、基本自由和人的尊严
2. 和平、公正、相互联结的社会
3. 保障多样性与包容性
4. 环境与生态系统繁荣

拓展阅读：人工智能伦理规范

联合国十大人工智能伦理原则

1. 相称性原则，禁止造成伤害
2. 安全与保障
3. 隐私权与数据保护权
4. 适配性治理与多方协作
5. 责任与问责机制
6. 透明度与可解释性
7. 人类主导监督与自主决定权
8. 可持续发展
9. 公众认知与数字素养
10. 公平性，杜绝歧视

准则宗旨：为服务人类、个体、社会与生态环境的人工智能系统建立底层规范。
本文件采用知识共享署名 - 相同方式共享 4.0 国际许可协议（CC-BY-SA 4.0）开放获取，内容改编自联合国教科文组织公开资料。

课程重点讲解 5 项教科文组织 AI 伦理准则

• 公平性与反歧视
• 隐私保护
• 安全保障
• 透明度
• 可解释性

其余准则：伤害规避与相称性、多方协同适配治理、责任问责、人类自主监督、可持续发展、全民 AI 素养普及

拼图研讨活动（基础版）

全班分为 6 组，每组分配一则案例材料，在《入门单元通用工作表》记录讨论观点

• 案例 1：精准猜中你的喜好
• 案例 2：照片上传算法引发的不满
• 案例 3：AI 尽力却出错
• 案例 4：为什么算法不推荐女性做工程师？
• 案例 5：智能手表数据错乱事件
• 案例 6：作业辅导工具过度泄露隐私
  案例素材文件：《入门单元基础伦理案例集》

拼图研讨活动（进阶版）

全班分为 6 组，每组分配一则深度新闻案例，填写通用工作表

1. 亚马逊泄露了一款秘密的AI招聘工具，该工具存在针对女性的偏见
2. [广泛使用的医疗算法存在种族偏见]
3. [脸书与剑桥分析公司数据泄露丑闻]
4. [斯嘉丽・约翰逊对一款在广告中盗用其形象的人工智能应用程序提起了法律诉讼]
5. [一个女商人因为脸部出现在一辆公交车上而被系统判定其闯红灯]
6. [隐私还是安全？美国将监控系统普及至城郊社区]

拼图活动每组通用研讨问题

1. 案例中的人工智能原本设计用途是什么？
2. 这套 AI 落地使用后出现了哪些伦理问题？请明确界定问题类型。
3. 如果持续使用该 AI，会对社会群体带来什么影响？
4. 有哪些可以替代该人工智能的方案？

研讨记录表模板（在附件中下载）

准则 1：公平性与反歧视

定义 避免对人、群体、事物产生不公平偏袒或区别对待，杜绝无依据的偏见。 在人工智能中的体现 人工智能完全依赖训练、验证数据集；数据集的来源、采集方式会让 AI 输出带有偏见，甚至放大社会固有偏见。算法本身也会复刻开发者的主观倾向。

准则 2：隐私保护

定义 个人有权拒绝信息公开；仅在涉及公共利益（如违法犯罪）时可公开信息，个人隐私数据不被大众随意获取。 在人工智能中的体现 互联网会持续采集用户数据：地理位置、性别、姓名，还有观看记录、网页点击、社交分享内容；部分数据采集未获得用户明确许可，却直接用于人工智能模型训练。

准则 3：透明度

定义 信息公开透明，不刻意隐瞒关键内容。 在人工智能中的体现 民众有权知晓自己正在和 AI 交互、知晓 AI 参与重大决策；同时民众需要拥有申诉渠道。
举例：高校采用 AI 录取学生时，申请者应当知情：校方使用了何种 AI、评分标准、以及对结果存疑时的申诉途径。

准则 4：可解释性

定义 能够清晰描述事件、现象，说明背后发生的原理与逻辑。
举例：雷电可以解释为云层之间、云层与地面间巨大的放电现象。 在人工智能中的体现 除开发人员外，第三方也应当能够查看 AI 的输入、运算流程、输出结果，以此排查算法偏见、程序漏洞。
现实难点：企业、AI 开发者会保护知识产权，不愿公开核心代码，防止产品被抄袭复刻。

准则 5：安全保障

定义 保障人身、场地安全的制度、流程与防护资源；除实体安全外，线上身份、数据也需要网络安全、数据安全防护，抵御网络不法分子攻击。 在人工智能中的体现 AI 采集的海量个人数据、数据集需要防护，这正是网络安全的作用。网络安全从业者负责抵御黑客窃取数据。

第六部分：学习反思

你的每一次微小选择，都在塑造人工智能的未来。
本课程我们将共同探讨：如何做出正向选择，善用人工智能，造福自身与社会。
学习人工智能与数据科学、做出理性判断，是我们每个人的责任。

学生人工智能核心素养

表格

能力维度	认知理解	实践应用	自主创造
以人为本思维	人类自主主导权	人类承担问责	人工智能时代公民素养
人工智能伦理	理解基础伦理	安全合规使用	从设计阶段融入伦理规范
AI 技术与应用	人工智能基础原理	实操使用技能	自主开发 AI 工具
AI 系统搭建	问题界定	系统架构设计	迭代优化与反馈闭环

课程指导原则

1. 培养批判性思维，理性塑造人工智能未来
2. 优先打造以人为本的人机交互模式
3. 倡导低碳、可持续的人工智能技术
4. 推动人工智能技术全民可及、普惠开发
5. 构建终身可用的人工智能核心素养

课堂知识自测

1. 请分别列举两个人工智能应用案例及两个人类活动案例。
2. 人脸识别门锁依靠人脸解锁大门，请说明这套系统的数据与智能输出分别是什么？

自测习题链接：https://aif.to/IntroUnitKnowledgeChecks