查看: 5154|回复: 2

[讨论] AI快速发展，人工智能会不会危害人类？

近日，在旧金山的TechCrunch Disrupt大会上，HBO设立了一个高科技的《西部世界》VR体验厅，结合CG内容、360度动态视频以及现实交互技术，调用Epic Games的Unreal Engine 4引擎，力求让玩家通过VR去体验那个为所欲为的西部成人乐园。

科技为人们带来乐趣的同时，也让我们不禁思考：“在程序的失误以及种种原因的诱发下，某些机器人有了自主意识，开始怀疑这个世界的本质，进而觉醒并反抗人类”这种存在于电视剧情里的事情，会不会某天也成了真？

事实上，尽管对我们生活产生大规模深远影响的AI技术尚未正式部署，但是对于AI引发的社会与伦理问题却已经被提出来探讨。而相对于尚未能很好实现双足行走的机器人，已经逐渐量产和被使用的自动驾驶汽车，其道德问题最受关注。

自动驾驶汽车如何解决“电车难题”？

“电车难题(Trolley Problem)”是伦理学领域最为知名的思想实验之一，其内容大致是：一个疯子把五个无辜的人绑在电车轨道上，失控的电车朝他们驶来，并且片刻后就要碾压到他们。这时你可以拉一个拉杆，让电车开到另一条轨道上。然而问题在于，疯子在另一个电车轨道上也绑了一个人。考虑以上状况，你认为是否应该拉杆？

现在这个问题被转移到了无人车领域：一辆车的 AI 如何在千钧一发、生死攸关时做出决定？假如自动驾驶系统载着你和你的朋友，车辆前方突然出现一个捡球的小孩儿。此时刹车已经来不及，而避让则很可能撞到路边树上造成车内人员伤亡。自动驾驶系统将如何选择？

原本，如果是由司机驾驶汽车，更多地可以归结到不确定性上面。当前方突然出现物体，人类避免碰撞的直觉是很强烈的，难以在瞬间经历理性思考，因而人类司机的瞬时反应无疑更多是偶然性的结果而不是任何类型的理性决策。

但一旦问题转移到自动驾驶上面，就变得复杂了许多。当人类预先确定特定道德困境的结果，并且把它编码进机器里面，授权机器做出这些决定，那么工程师是否能肩负起“扮演上帝”的责任？汽车厂商能否承担起法律问责？车内的车主是否应该冷眼旁观？

当去掉偶然性和放弃权利，把生死决策交给机器时，道德问题随之而来，各方意见争论不休。

可事实上，不管对人类还是人工智能（AI），“道德困境”都近乎无解，就如几千年来“先有鸡还是先有鸡蛋”的问题一样。但面对“自动驾驶保护谁”的问题，除开“将驾驶权交回司机”这类的蠢话，奔驰驾驶辅助系统和主动安全部的负责人克里斯托弗·冯·雨果（Christoph Von Hugo）的回答或许很诚实。

雨果先生表示：如果不能避免所有人的伤亡，未来奔驰旗下所有的 4 级和 5 级自动驾驶汽车都将选择优先保护车内乘客。

这个答案看似残忍，却也道出了汽车厂商和车主的心声：主机厂绝对不会生产随时让客户奉献自己生命的产品（尽管概率极低），不管出于多么崇高的目的；而客户也绝对不会购买一种不把自己安全放在第一位的玩意。

至于前方是有一个无辜的小孩，或者一群人，甚至是车主的父母亲人，这些都无法考虑，毕竟无解问题是不可能允许有两全其美的答案，AI不会是救世主。

因此，自动驾驶系统只会简单地选择保护它的主人，这也是人们购买它们的隐含条件。在这里，商业道德压倒了不怎么牢靠的“普世道德”，因为前者不但具体，而且毫不含糊。

AI将造福还是危害人类？

随着人工智能从科幻小说逐渐变成大众科学，加上科幻作品一直大肆渲染人工智能对人类生存的威胁，人们其实无不担忧人工智能对工作岗位、运输，甚至战争产生影响。但在科学界，对这一切似乎并没有被看得太悲观。

9月底，美国的技术巨头——IBM、苹果、Amazon、微软、Facebook 以及 Google 的计算机科学家联合成立了一个新联盟，名字叫做“造福社会与公众的人工智能合作伙伴关系”，该联盟的目标之一就是建立 AI 领域最佳实践的规范标准。虽然尚不清楚具体成果，但他们的基本目标很清楚：确保人工智能研究将造福而非危害人类。

10月份，百度李彦宏、阿里巴巴马云在大学校园给学生分享了他们的人生经历和对新技术的展望时，也表达了对AI未来的看好。

李彦宏表示，人工智能不会超越人类。虽然其在计算、识别等某些智能专业领域超越了人类，但人工智能在创造力方面距离超越人类还非常远，而且人工智能并没有感情。感情是最没有逻辑的，目前的人工智能并没有方法模拟人的行为。人工智能做的，绝大多数都是在帮助人类，所以它可以被控制。“至少在我的有生之年人类可以控制它。”

马云认为，人类从发明机器的时候，就明白机器会比人的力气大；人类在发明火车、飞机的时候，就知道速度跑不过它们；人类发明电脑，就知道电脑一定比你聪明。但这不可怕，也不是这么比较的。人和机器未来的角逐就是在智慧，在使命，在价值观上面。二三十年以后，昨天的机器只是我们的工具，未来的机器将会成为人类的合作伙伴。