学生开发 AI 机器人玩射击游戏，专家批评其在制造杀人机器

近日，美国的两名学生使用深度学习技术，打造了一款 AI 软件，不仅可以在经典游戏 Doom 中自己玩游戏，还能在多人对战中打败它的人类对手。

开发这项技术的是 Devendra Chaplot 和 Guillaume Lample，两人来自卡内基美隆大学，他们在游戏里训练的机器人的昵称叫做 Arnold。之前 Google 在复古的 2D Atari 游戏中使用 AI 软件，而这两名学生将 AI 软件应用到 3D 射击游戏中。

就像人类玩家一样，AI 软件也是不断地重复玩这个游戏，一直到学习到如何杀死对手，这当中既包括电脑控制的角色，也包括人类玩家控制的角色。

其实，也有一些其他的团队用 Doom 做了类似的东西，但这两个学生不同的是，要据此发论文详细论述其实现方法了，而论文目前处于同行审议阶段。

他们在论文中提到：“通常，深度学习方法只是使用视觉输入来训练。我们使用了一种增强训练模型的方法，来挖掘游戏更多相关资讯，比如敌人和物品的特色资讯。我们的架构也进行了模组化，可以让不同的模型，在游戏的不同阶段，独立地进行训练。”

这项技术无疑令人印象深刻，然而批评也接踵而至，有人认为这项技术也能更有效地训练出杀人机器，可能会变成未来机器人杀手的基础。

“AI 正变得越来越真实。虽然到目前为止，AI 还只是在像素世界里运行，但它确实引发了真实世界里 AI 发展的问题。”未来学家 Dom Galgeon 说，“我们并不想将 AI 说成极度危险之物，但仍需要认真思考制定清晰合理的 AI 政策，包括其研究、开发和应用。”

今年 4 月，一份由人权观察（非政府组织）和哈佛法学院共同撰写的报告里，呼吁禁止“杀手机器人”，在一段时间里，应该对武器系统应用先进技术保持一定控制。

2015 年，一千多名技术和机器人专家，包括史蒂芬霍金、艾隆马斯克和苹果联合创始人史蒂夫·沃兹尼克，警告说，AI 武器可能在几年内就会被开发出来。在他们联合署名一份公开信里提到，如果有任何一个重大军事力量推动自动化武器和机器人士兵的发展，那么“不可避免地就会出现一场全球军备竞赛，最终的技术发展轨道就是：自动化武器将成为明天的 AK 系列步枪，蔓延至全世界。”

• AI trained to slay players in a computer game could one day lead to killer robots in the real world, warn experts

（本文由 爱范儿 授权转载）

如需获取更多资讯，请关注微信公众账号：半导体行业观察

延伸阅读：

• 史蒂芬·霍金：人工智能进化将比人类快 人类生存前途未卜
• iRobot 创始人谈 AI：霍金和马斯克对未来机器人的担忧是不对的