小欣：这节课，陈沛老师会为我们讲解人工智能的崛起会带来哪些好处与担忧。

陈沛：我们人类实际上应该是高兴还是不高兴呢？高兴的事我们很多工作可能会逐步被机器所替代，它确实可以简低我们人类劳动的强度使我们可以能够把这个精力腾出来，我们可以喝喝茶、聊聊天、下下棋之类的，把其他很多工作交给它们。但另一方面它似乎开始威胁了我们人类一部分群体，它会代替我们一部分工作。从我刚才举的例子来说这种代替甚至是可能超出我们现在的理解和想象。

为什么上一次AlphaGo和人类挑战的过程中职业围棋界对它有很多担忧，特别希望我们人类能够赢下来呢？我想今天我们可能会用更开放的心态来看待人工智能的崛起。即使柯洁输给了AlphaGo，他引起的这种对输赢的轰动可能是小的，甚至是对围棋未来发展的担忧也没有那么大，因为据说人机大战以后，整个围棋在全世界得到更大的普及特别在欧洲，很多人开始买一个围棋来学习这种东方的智慧。

那么在另一部分领域中可能就不这么乐观了，假如说人工智能能够做很多无人驾驶这样的工作，那像司机这样的职业会不会受到挑战呢？如果我们现在去打一个车，很可能周边一辆无人驾驶的车就直接开到了我们身边将我们带到目的地，这个可能吗？当然可能。所以从这个角度来说人工智能帮助人类的同时，也可能给我们部分人群形成了一定的挑战和威胁，这是客观存在的。

关于人工智能更大的挑战还在于，实际上我们人类是否能够很好的控制这个机器，机器会有一天摆脱我们人类的控制甚至会反过来控制我们人类吗？这才是一个更有意义的、有前瞻性的话题。我们知道像霍金这样很著名的企业家，包括马思克他们都提到要谨慎开发人工智能的能力包括要对它进行驾驭和管控，实际上都意识到人工智能一旦失控对人类的威胁。

也有人说这可能是杞人忧天，我认为这个挑战是现实存在的。有人说如果机器人不听话的话我就拔他的电源，这听起来是我们人类很好地可以控制它，当然理性一点的说法是机器人所有程序都是我们写出来的，它应该都听我们的。但是实际上有很多因素可能导致我们对机器人然后失去管控。我们可能要重新定义一下机器人，什么是机器人？

我个人认为，随着人工智能进一步的发展我们和机器的界限会越来越模糊。我喜欢把我们现在的自然人称为是人，而那些纯机器的就称为机器，然后会诞生一种新的生物，它能更像机器和人的结合，被称为机器的人。现在我们讲的机器人是什么呢？越来越像人的机器。这一点我们都可以相信，就是我们从材料方面、外观方面，我们都会发现我们造的机器人都确实越来越像人类。

著名的图灵测试说：“如果你跟它聊了半天都不知道它是个机器的话就通过了图灵测试。”这个我觉得会越来越接近。图灵测试应该是人和机器界限中的一个最低的门槛，如果这个槛都过不去，说明它不像人，它对人的模拟和接近距离尚远。更高的门槛是它能不能像人类一样具有高度丰富的智慧甚至具有人类的情感，这才是所谓机器跟人之间的距离。

以前我们可能会认为机器最擅长的实际上是运算，确实是，当我们人类发明计算机的时候目的就是让它帮助人类计算。但问题是通过人机大战，我们感受到人工智能不仅仅在计算领域中超越了人类，在完全不能计算的复杂智慧中它依然挑战和战胜了人类，这恰恰是人工智能一次飞跃性的发展。

当这种能力复制在很多人类的工作领域中时，它和我们人类之间的关系就会变得更加复杂。通过这次人机大战我们能够感受到的是什么呢？就是在这种深度的人类智慧中机器开始挑战人类，它不仅仅是个运算的工具了。机器人在模拟人类方面已经越来越接近人类，但另一方面我们说它永远不会成为人类，是因为它不会有自我的意识，它可能不懂得什么叫爱。

现在的AlphaGo下棋它其实不知道为什么下，甚至不知道它下的是围棋，它只知道按照规则去执行一些动作最后产生一个结果，至于赢了还是输了我觉得它甚至没有喜悦也没有痛苦。我们先不说拥有这种情感对人类是好事坏事，对机器是好事还是坏事，先说它可能暂时还不会拥有这些东西。

小欣：下节课，陈沛老师会为我们讲解机器人会不会摆脱人类的控制。

【版权归钛媒体所有，未经许可不得转载】