如何理解《未来简史》中的观点，人类能控制人工智能吗？

我们也看到，人类对人工智能的情感能力的观感是矛盾的。在最坏的情况下，人工智能将利用其情感智能来操纵人类，以达到自己的目的。在最好的情况下，人工智能将利用其情感智能，与人类产生***鸣并帮助人类。

一旦人工智能发展到了高度的情感智能，它将全方位压倒人类智能。这将自然而然地导致一个后果，即人类的劳动变得不够理想，因为人工智能几乎在所有方面都表现得比人类智能更好。这就意味着人类的劳动将丧失价值，且所有的工作将由人工智能接管。如果经济中的所有价值，几乎都来自人工智能，那么价值将几乎来自资本，而不是劳动。其结果是，经济将由相对少数的资本掌控。这反过来又会进一步加剧收入和财富的严重不平等。在这种情况下，大多数人类将如何谋生，尚无答案。

人类真的能控制人工智能吗？

许多思想家声称人工智能永远也不能自主完成任务，因为它必须由人类编程。因此，人类将永远控制着人工智能。但事实真的如此吗？我们不妨简单地回想一下当前最常见的人工智能形式，即深度学习神经网络。这种人工智能已经被视为一个“黑盒子”，因为人类很难对其如何产出结果进行解释，即为什么它们能给出特定的解决方案。为此，计算机科学当前的一个重要研究领域就是，如何让深度学习对其客户（人类）而言，变得“可解释”。但一个显然的趋势是，随着人工智能变得越来越复杂，也越来越难被人类理解，导致人类感觉其逐渐失控。

最终，这个问题将变得越来越严重，而不是随着发展逐渐淡化。当人工智能变得足够聪明时，它就有可能做到自我编程。毕竟，计算机的自我编程作用已经存在，并将随着时间的推移而变得越来越普遍。换句话说，人类对人工智能的控制力正在迅速减弱，而随着控制力的丧失，人类如何确保人工智能继续按照既定的要求，致力于实现人类设定的目标,而非它自己的目标，也将成为一个问题。

既然相较于超级人工智能而言，人类在经济上不会有竞争力，那么唯一有吸引力的发展道路，就是人类利用人工智能来增强自己，甚至是彻底改变自己。人类利用人工智能实现增强自己，已经存在很长时间了。

首先，是身体的增强。例如，有人可能会使用一条人工腿，来替代被截肢的腿。听力不好的人可以戴助听器，视力不好的人可以戴眼镜。

接下来，是思维增强。人工智能可以通过很多方式来增强人类的思维智能。在很多方面，人工智能已经比人类更聪明了，这些能力可能会被用于人类能做的事情。

例如，人类可能会给自己增加一个记忆芯片或计算模块，现在已经有各种各样的方法，能够连接人脑和计算机。最近，科学家已经成功地将人脑与互联网连接起来，可以让人类直接与一个巨大的信息网络连接。