人工智能黑暗面：当机器人具有自我知觉

当机器人与人类一样，可以彼此学习、塑造、改变、进化——虎嗅君不禁惊恐地感受到了人工智能的暗黑面。

上周，百度于美国硅谷举办了其首次海外The Big Talk，会上多位硅谷在深度计算、人工智能方面的前沿专家分享了当前全球领先的科研成果和理念，其中康内尔大学（Cornell University）创造性机器实验室负责人胡迪·利普森（Hod Lipson）分享了他所在实验室的最新成果——具有自我知觉并能自适应环境的下一代机器人。

用大数据培育机器人，以深度学习来完成机器人的自我知觉

利普森跟大家探讨的是目前已经起步的一项机器人技术，叫机器人的自我知觉（self awareness）。“这不是一项你要在明天才能见到的技术，我打赌这是你在有生之年就会看到的技术。”

利普森给自我意识的定义为为一种自我想象（self imagine）的能力。他打了个比方，你能想象自己明天要去海滩吗？你能想象出海洋的味道吗？你能现在去感知到沙子吗？你能想象你在我眼里的样子？

“为什么你能够想象你并没有真正经历过的情境，就是因为自我知觉，你是有意识的。从某种程度而言，你并不是基于你确实经历过的经验来做出决策的。这就是我所描述的自我知觉的定义，这是我们人类有——而我们希望机器最终也有的能力。”

“达尔文说过，并不是最强壮的物种或是最聪明的物种才可以生存下来，而是最能够对环境做出反应、变化的物种最终生存了下来。所以适应非常重要。十多年前，我们开始了决定不再只是设计、制造机器人，我们要培育（breed）机器人。”

利普森所说的机器人其实包含两个层面的，一个是用超级计算机模拟机器人（模拟器），另一个是通过3D打印机制造机器人。

那什么叫做培育机器人呢，利普森解释说：“我们会根据机器人的表现来对其’奖励’，做得好的就复制他们并在一些地方做出小的改变，这样它们在特定任务里——比如在地板上爬行就会越做越好，因此他们就会被复制更多。这样，我们让进化不断持续，最终得到有意识的机器人。”

“我们用3-D打印机把这些机器人制造出来，让他们从虚拟的环境里走到真实的世界里。这些机器人是经过深度学习技术不断培育出来的，而不是由人直接设计出来的。这很令人激动。虽然目前还只是塑料，但我们未来会吧它打印成钛的。

现阶段，我开始设计更复杂的机器人。其中一个不可思议的机器人，它有风动引擎，它可以跳起来，可以在地上翻跟斗，我正在跟我的同事们证明，这种培育机器人的技术是能够成功的。因此我们制造了这个机器人。我们把它放进了一个大笼子，他们在这个笼子里不断地向前向后翻跟头等，你能看到这些动作是随机的自我完成的，也就是说它正在学习如何走路。

“我们从机器人身上收集数据，通过传感器收集传感数据、捕捉动作的数据以及机器人所感受到的数据。我们将所有这些数据收集起来，并用于培育模拟器。因此，不只是给模拟器以数据，我们现在同时给机器人和模拟器”喂食“数据。因此，机器人的表现现在越来越好，我们的机器人同时有了自我模仿及自适应的能力。

”机器人已经开始可以在它的环境里学习自我模仿并基于此进行直觉判断。当事情并非它所直觉判断的，它就会加上自己的自我想象。接下来让我给你们展示这种机器人。“

”这些机器人会学习走路。他们首先会创造很多假设，通过它的发动机去随机移动并感知，感受左右的摇摆。它们会收集所有这些数据并生成他们的假设/判断。

为了测试它们的自适应能力，我们做了一件非常残忍的事情，我们掰断了它的一条腿。你能看到它自己通过自我想象进行的自适应，它的自我想象里失去了一条腿。你能看到这条粉红色的腿比其他的短。用这样的新的自我想象，它找到了新的方法去前进。

“你知道，如果说我要去设计一个缺一条腿的机器人，我可以制造一个运行更好的机器人。但这里的我们做的不是说通过传感器告诉机器人它少了一条腿，而是让它自我感知并动态地改变。机器人的自我想象改变了，于是机器人的行为方式就改变了。换句话说，它自适应了。”

机器人可以思考自己的思考

“截止到目前我展示给你们的是，机器人根据自己的机械构造身体来进行适应，但你能想象吗，机器人可以思考自己的思考。

机器人不是自我塑造，而是塑造彼此。我们已经有了这样的理念，人类就是彼此塑造的，你塑造了我，我也塑造了你。你可以思考，我可以想你在想什么，你可以想我是怎么想你的，循环往复。而我们也可以这么用于机器人。”

这种令人惊叹机器人之间的彼此重塑能力，意味着机器人的“觉醒”，从积极的方面去观察和利用，可以为人来带来更便捷、更高效的生活。

利普森提到，大桥可以自我发现自己的弱点，比工程师们更快更准地发现，因为有自我意识。

想象一下自动驾驶的汽车会自我塑造，汽车自己知道什么它们可以做到，什么它们不能做到。在自动驾驶汽车的生态里，每一辆自动驾驶汽车还会去塑造其他车辆，并能够更好地在行车环境里预判其他车辆要做什么和如何做到。

为什么这些如科幻电影般的未来科技在今天就能够发生，利普森认为：“这些想法其实很早以前就有了，但是因为两项技术，才得以成就今天的机器人学。其中一个是新的制造工艺，即3D打印，另一个是深度学习的突破。”

利普森介绍说，今天我们已经可以打印电池、打印肌肉，甚至电线和电子设备都可以打印。因为3D打印科技的未来可能性，明天的机器人将同科幻电影里的机器人完全不同了，它们的机体结构不再会只是冷冰冰金属、机械，而会是更有机的组织，可以把设备、元器件都包裹在里面。

而在深度学习方面，过去二十五年的时间里该科技的前进步伐并没有像今天看起来那么令人兴奋，而之所以最近有了大踏步地跨越，一方面是大数据地不断支持，另一方面是能够对大数据进行处理的成本低廉的超级计算机的大量“服役”，与上一代依靠云计算进行深度学习模型的计算不同的是这一代科技，稳定性和高性能性是推动深度学习实现突破的关键。

利普森的机器人还不足以令人忧虑吗？

利普森对自己实验室的进展看起来十分兴奋，“如果你相信机器人会杀死人类，那么你将错过巨大的科技进步的机会。”但在回应机器人杀人的可能性上，利普森似乎有些避重就轻。“我不会担心机器人会伤害我们，我担心的是，一些人会利用机器人伤害别人。”

这就像我们都深知生物克隆技术对于人类进步的巨大可能性，但我们也都能想象它可能带来的灾难性后果。

当然，对此乐观的不止是利普森，百度首席科学家吴恩达也更愿意看到人工智能进展的积极面，“在过去的半年时间里，有一些人士谈论邪恶的机器人会杀人，或是恐惧计算机未来有益于天会变成比我们还要聪明，它们将占领世界。我们就在前线，塑造这项技术。相信我们知道今天该如何做，目前看来一切都非常好，而不必担忧邪恶的会杀人的机器人。我个人不相信这些猜测有现实的可能性。”