人工智能最终将超越人类，但不是反人类

如果你是非常聪明的，只能在三四个科学领域做得比较好，而不是所有领域都做得非常好。我们把所有的学科集合在一起。对于任何一个人来说，是不可能做到的。但是，AI可以跟人一起做。我们可以用超级的显示，让AI跟人一起合作，比如NASA的(hap wor)系统。我们会用AI智能来了解地球上各种各样的传感器，以及我们身上的各种各样的传感器，从而让我们了解自己是不是健康、环境是不是健康、业务是怎样的，从而进行预测。这样使得我们的未来会变得更好。

---

如果我们真的创造了超级智能，会怎么样呢?可能会解决一些难题，比如老龄化、能源危机、气候变化。这个新的系统不会像人类一样思考，它会有意、无意的出现一些负面后果。我也提醒大家，如果我们没有不对AI完全了解，就像你的孩子一样，他对很多情况都不知道，我们需要对他进行监护。如果你发现你的孩子，或者是AI，有一些邪恶的想法或者是做法，你需要阻止。因此，如果我们发现AI有一些邪恶的做法，就必须把它停止下来。

如果这些技术出现问题，大部分的问题并不是黑天鹅事件，我们已经预测到很多情况，我们一定要对这些可能发生的风险做足够的准备。

有些人可能认识这几个人物，他们是在纽伦堡法庭上受审的纳粹军官。问题不是他们不够聪明，而是他们是道德上的罪犯。所以我们一定要让人们具有道德素质，否则他们做的事情就会伤害别人，也伤害自己。

Gary Hargun曾经写过一篇文章《公地的悲剧》。他发现海洋属于所有人，也不属于任何人，这个就是公地的悲剧。我们不能把地球作为一个公地，所有人都有风险，应该把风险分配给所有人，共同保护它。