人工智能伦理问题案例集（基础版）

人工智能伦理问题案例集（基础版）

案例1 – 我知道你想要什么！

一天晚上，艾玛正在帮妈妈为学校活动烤纸杯蛋糕。她打开厨房的智能音箱，播放自己最喜欢的歌单。食谱要求把烤箱预热到 180 摄氏度，但她家烤箱用的是华氏度，于是艾玛问智能音箱：180 摄氏度等于多少华氏度。智能音箱回答是 356。她把烤箱调到 360，继续称量、搅拌材料。

艾玛在厨房里随口聊到需要“独角兽纸杯蛋糕装饰”“彩色糖屑”，还开玩笑说想要派对用的“亮晶晶水晶泥”，逗得弟弟哈哈大笑。

第二天，艾玛用家里的平板时发现，YouTube 推荐流突然大量出现独角兽主题派对用品、水晶泥套装和儿童烘焙工具的广告。就连她玩的数学学习游戏里，横幅广告也开始推送“少女可爱烘焙套装”。

艾玛很困惑：她从来没有搜索或输入过这些东西。

---

案例2 – 令人崩溃的照片上传

施韦·梅赫塔医生是一名儿童心脏病专家。她计划去欧洲参加一场医学会议，之后再游览几座城市。在线申请签证时，她需要上传一张符合严格生物识别标准的数码照片：清晰、光线充足、纯色背景、表情中性。

施韦严格按照签证网站的照片要求准备：

• 白色或浅灰色背景
• 眼睛睁开且清晰可见
• 不微笑
• 面部与背景无阴影
• JPEG 格式，文件小于 2MB
• 照片尺寸 35×45 毫米

她在家庭办公室布置好充足光线，背靠白墙，用三脚架和定时拍了多张高清照片，还用尺子和照片测量软件确认面部高度与居中位置。

但她上传照片时，系统立刻拒绝，只给出一句模糊的错误提示：

照片不符合要求，请上传另一张照片。

没有说明哪里不合格，没有视觉提示，除了原始清单外没有任何指导。施韦又试了几次：换角度、换衣服、重新检查背景、换相机拍摄，每次都得到一模一样的错误提示。六次失败后，她开始感到焦虑。

她检查文件大小、尺寸，全都正确；调整 JPEG 压缩等级，依然没用；重新阅读使馆官方照片指南 PDF，也没发现任何问题。

---

案例3 – 我已经尽力了

艾娃是一名充满想象力的六年级学生，喜欢看图像小说和写故事。当语文老师鼓励全班参加一家大型教育科技公司主办的全国创意写作比赛时，她特别兴奋。

这场比赛宣传语是“赞美学生心声”“用创新 AI 为所有参赛者提供快速公平的反馈”。学生通过在线平台提交作品。艾娃花了两周时间构思、起草、修改她的奇幻故事——一个能和植物对话的女孩的故事，老师也称赞她的创意和结构。

截止日前三天，艾娃骄傲地提交了终稿。

两周后，她收到结果邮件：得分：88/100。邮件说明分数由专用 AI 模型生成，该模型基于数千篇写作样本训练，并符合年级评分标准，但没有任何进一步解释。

艾娃获得了荣誉提名。虽然努力值得肯定，但她还是有点失望。妈妈安慰她至少在过程中学到了东西。

可我真的学到了吗？艾娃心想。她想知道怎样能做得更好，却找不到任何评分反馈或解释。她试着把故事输入 ChatGPT 寻求建议，ChatGPT 给出了很多实用的改进技巧。

---

案例4 – 为什么我不能当工程师？

普丽娅是个好奇心强、上进心足的学生，特别喜欢动手制作。她参加机器人社团、爱解谜题，周末还会用 DIY 科学套装做实验。

学校辅导员开展了一堂职业探索课，使用一款名为 “FuturePath Jr.（未来之路少年版）” 的 AI 平台，根据学生的优势和偏好推荐未来职业。学生完成 30 道性格测试题，并选择自己喜欢的领域（如数学、动物、机械、故事等）。

普丽娅做完测试后满怀期待，却对结果感到意外又失落：

• 幼儿园教师
• 营养师
• 社交媒体运营
• 牙科保健师
• 活动策划

完全没有提到工程、建筑或计算机科学——尽管她明明选了数学、机器人、制作等兴趣。

而她的同学利奥，学业兴趣相近、答题几乎一样，得到的推荐却截然不同：

• 机械工程师
• 软件开发师
• 游戏设计师
• 建筑师
• 物理学家

老师联系平台客服后得知，推荐结果由算法生成，训练数据包括学生档案模式、现有职业人口统计数据与行为研究。

大家意识到，这款工具可能使用了历史劳动数据——而这些数据反映了 STEM 领域长期存在的性别失衡——并据此给出预测。

学校暂停使用该平台，并向开发者提交了反馈。普丽娅后来带领机器人社团参加了区展示赛，现在比以往任何时候都更坚定要成为一名工程师。

---

案例5 – 智能手表乌龙事件

杰登戴着父母送的智能手表。设备连接学校平板，内置 AI 助手，可帮他管理任务、发送语音消息、用语音转文字回复短信。父母设置手表是为了让杰登更有条理、更安全，尤其是他有时独自步行回家。

这款智能手表可通过特定手势解锁：扭动手腕并说出“嘿，伙伴”。

体育课结束后，杰登摘下手表去洗澡。一位同学捡起手表戴上，做出手势并说出口令，手表直接解锁。那位同学用手表给很多人发了奇怪甚至不当的消息，包括杰登的妈妈、一位老师和他喜欢的同学。

杰登拿回手表后看到消息，当场慌了。他既尴尬又困惑——没想到别人能这么轻易解开他的设备。

---

案例6 – 作业助手泄露隐私

利亚姆总是不擅长整理作业。为帮他跟上进度，老师在他的学校平板上安装了一款 AI 作业助手，可管理任务、提供写作优化建议、用 AI 解答问题。

一天晚上，利亚姆在写一篇个人叙事作文，题目是 《我感到孤独的时刻》。这是一篇情感真挚的故事，讲述他搬到新城市、想念老朋友、在学校难以融入的经历。他全程在 EduBot 应用里写作，应用提供了语法提示并帮他整理段落。

一周后，利亚姆无意中听到其他班的几个学生在嘲笑并引用他故事里的内容。其中一人还把他的作文截图发到社交媒体上嘲讽。利亚姆既困惑又难堪：他们怎么会看到他的私人作业？

利亚姆告诉老师，老师联系了学校信息技术部门。调查后发现，EduBot 有一个功能：学生可将作品“发布”到共享画廊供同学参考，但默认设置为公开。这意味着除非学生手动关闭，否则他们的写作会被上传到公开画廊，所有 EduBot 用户都能看到。

---