这产生了下一个问题：当它们超越人类时，一切将会怎样？
如果机器人超越人类？
进化的定律只有一条，即适者生存。也许人类会成为落后的一方，最终被锁在动物园里供机器人观赏。也许这就是我们的命运：我们孕育演化出了这些超人机器人，然后退场。而它们把我们看成是在它们的演化进程中的原始祖先。
在某一天，我们不再是地球上智力最高的生物，而且我们的创造 物也许能够复制它们自己，并创造出比它们还聪明的机器人。然后，这个自我复制机器人的大军将创造无穷无尽的下一代机器人，每一代都比前一代聪明。理论上， 机器人能够在很短的周期内创造更聪明的下一代，最终，这个过程将呈指数级膨胀，直到最后，在它们贪得无厌的变得更加聪明的要求下，吞噬了这个行星的资源。
这就是“奇点”，这个词原来来自相对物理学世界，代表重力为无限大的点，任何东西都不能从这里逃逸，包括光，所以它代表了一个视野，超过这个视野，我们什么也看不见。
发明家雷·库兹威尔是奇点理论忠实的代言人。他喜欢根据技术 的指数增长进行预测。在1999年，他写了一本畅销书《灵魂机器的时代，当计算机超过人的智力》，预测候机器人于什么时将在智力上超过我们。在2005 年，他写了《奇点临近》，并且详细阐述这些预测，称计算机超过人的智力的决定性的一天很快就会来临。
他预测，到2019年，1000美元级别的个人计算机就将具 有和人的大脑一样强的能力。此后不久，计算机将把我们甩在后面。到2029年，同样价格的计算机将比人的大脑强大1000倍。到2045年，这一价格的计 算机将比每个人合起来的智力强10亿倍，即便是一台小型计算机也将超过整个人类的能力。
在他的想象中，2045年后的计算机将变得非常先进，甚至能够复制自身、智力不断地增加，产生失控的奇点。为了满足它们永无止境的贪婪及不断增加计算能力的欲望，它们将开始吞噬地球、小行星、行星、恒星，甚至影响宇宙本身的历史。
终结者T-800的视觉及思维界面
库兹威尔相信，在这样的未来中，我们要想的不是如何对抗智能机器的入侵，而是要与这个技术融合。我们要把这些智能的设备放在我们的身体和大脑里，让我们活得更长寿，更健康。
没有人知道最后到底会怎样，未来是否会像《终结者》或《黑客帝国》所描述的那样，成为人类时代的黄昏绝响，但也许在我们面前还存在着另外一条光明的道路。
我们可以与人工智能友好共处吗？
在现实的研究领域以及许多科幻作品里，科学家们采取各种方法 保证机器人不会造成危险。比如他们放一个芯片在机器人的大脑里，如果机器人有了谋杀人类的念头，就自动将它关闭。或者也可以创造专门的机器人猎手，用来压 制不正常的机器人。这些机器人猎手专门设计成有超级速度、强度和协调能力，并且了解任何机器人系统的弱点，能够捕捉错误的机器人。当然，人类也可以训练这 个技巧。电影《银翼杀手》中有一个受过专门训练的政府特工人员队伍，哈里森·福特扮演的主角正是其中一员，他们有压制任何机器人流氓所需要的技能。
终结者T-800被摧毁
科幻作家艾萨克·阿西莫夫正是这样想的，他预想每一个机器人在工厂被加工时就被植入了三个定律，以防止它们失控。他在小说中设计出著名的“机器人三定律”，以防止机器人伤害自己或人类。
但更多的科学家倾向于设计“友好的人工智能”，让它从一开始 就只执行对人类有用的和慈善的任务，最终呈现良性的结果。这与阿西莫夫的思路略有不同。阿西莫夫的三定律是强加给机器人的，也许违背它们的意志。相反，在 “友好的人工智能”中，机器人是不受限制的，可以施行谋杀和伤害行为，也没有什么规则能强加人为的道德。但是，这些机器人从一开始就要求它帮助人类而不是 毁灭他们，它们的最终目标是慈善的。