技术奇点:揭开人工智能的神秘面纱

从历史的角度来看,出现重大技术进步的时间间隔在缩短:从农业、印刷术、电力到电脑。除了技术的进步,进化过程中出现里程碑式突破的间隔也在不断缩短:从真核生物、脊椎动物、灵长类动物到智人。很多评论家认为人类发展的轨迹是一条复杂的曲线,一直延伸到远古时代。但是,我们只需要研究这条曲线中科技的部分,并推演科技曲线的未来趋势。我们发现,未来会出现一个转折点,人类发明的技术会让自己落伍。

由于物理规律的制约,指数级技术发展最终会遇到瓶颈。指数级技术发展的停滞可能有各种经济、政治或者科学的原因。但是,我们先假设与人工智能以及神经技术最相关的发展将会保持势头,加快破解大脑秘密的速度,并且最终合成人工智能。我们不难相信,不管是人工智能还是人类智能,都会遵循加速回报定律,最终到达技术奇点。

有些作者预言,奇点的到来会在 21 世纪中叶。我们可以不把奇点只作为预言来研究,预言毕竟是比较虚无缥缈的。首先,奇点是一个很有意思的深刻的学术话题,无论它最后是否真的会出现或不知什么时候出现。其次,奇点出现的可能性虽然看起来很微小,但是却值得我们从务实的角度,在理性的基础上讨论它。即使未来学的理论有瑕疵,但只要未来学描述的场景存在可能性,就值得我们认真关注。如果奇点真的出现,对人类来讲,其后果将是颠覆性的。

这些颠覆性的后果都有哪些?如果人类到达奇点,世界会变成什么样子?我们对奇点的到来是应该恐惧,还是应该欢迎?人类在今天或未来应该做些什么来保证最好的结果?本书旨在回答这一系列非常宏大的问题。奇点这个概念会引发我们对一些更加原始的哲学问题的讨论:人性的本质是什么?人类最根本的价值观是什么?我们应该如何生存?人类为了迎接奇点需要放弃什么?奇点在给人类的生存带来机遇的同时,也带来挑战。

奇点的到来可能会威胁到人类的生存。这听起来像是大其词,但是今天的新兴技术已经超越了以往,是人类从来没有见过的。可能会有人研制经过基因改造的病毒,提高其传染性和抗药性只有疯子才会做这种事,但是,人类有可能意外地制造出带来灾难的病毒。高级人工智能也有可带来生存威胁,其原因相似,但更微妙。我们会在后文中研究这些问题。如果未来某个公司、政府、组织,甚至是个人有可能制造出能实现指数级自我提升、极度渴求资源的人工智能,这一可能性足以让我们提高警惕。

从乐观的角度来看,技术奇点带来了生存的机会,也就是哲学上的“存在”的意义。当我们有能力构建大脑时,就可以突破生物的限制,延长人类的寿命。人类的最终极限就是死亡,生物的身体是很脆弱的,会受到疾并意外伤害和衰老的限制。人类的意识依赖其生物大脑,但是,未来人类将有能力修复任何对大脑的损害,并最终在其他基质上构建大脑,这样就可以突破意识的寿命极限,将其无限延长。

延长生命是“超级人类主义”的一个分支,但是我们为什么要满足于人类的大脑?如果我们能够重建大脑,为什么不通过重新设计,提升大脑的能力呢(人类的身体也可以通过重建提升,但是本书只讨论智能)?通过医药手段可以提高记忆力、学习能力和注意力,这是比较传统的提升方法。但是,既然人类能够从无到有重建大脑,就一定能对认知能力进行重组和提升。当我们具备了这种提升能力,又该做什么呢?有些人认为,这种能力至少能够应对超级智能带来的存在风险,赶上人工智能的发展脚步,不过在这个过程中人类的认知方式可能会发生根本改变。

技术奇点可能是一种生存机会,要理解这一概念,必须放弃人类的视角,采取一种更具宇宙性的视角。“人类社会和生活在人类社会中的人们的大脑已经到达了宇宙的极限”是一种人类中心主义的想法。也许智能的复杂程度还有很大的提升空间。可能未来还会出现比我们更高级的意识形式。

我们应该阻止还是迎接这一情况的到来?我们能理解这样的未来会是什么样吗?不管奇点是否已经临近,这些问题都值得思考。因为在思考这些问题的同时我们对自身有了新的理解,也理解了我们在大千世界中的位置。