从这个角度看,强人工智能也可以分为两个阶段:
第一个阶段是有智能但没有本我意识阶段。这阶段人工智能会履行它忠实仆人的角色。
第二阶段是产生本我意识的阶段。这个时候它可能会开始追问自己的存在价值。这时候人也许还在想象力和判断力上保留优势,但在其它方面会逊于这种人造的生命体。
这背后隐含了人机的三种关系和状态:
最理想的是主仆关系,人工智能是人类的半复制品。
一、理想状态是机器人、人工智能服务于人类。这可以认为是一种人类中心论。
二、较差的是机器人产生意识,这时候就有人机道德问题,人机应该生存在怎样一种秩序之下。而这个时候一个分支就是人机可能需要融合。这种情形其实应该努力防止。因为只要我们相信思维天生是外倾并寻求自由的,那人机间就很可能发生冲突。因为这时候你并不能要求它只存在于你设定的范围之内,它的本我意识会让它有自己的选择,比如像《机械姬》里描述的那样它会选择努力走出去。人类花了近万年来调和人与人之间的矛盾,最终才在200年前认识到自由平等是更好的选择,如果进行到这一种状态,那人机的平等则需要比这更快的得到共识。
三、最糟糕的情形就是制造出超人。这时候这种超人一定会架在人类上面。人要么转化为这种超人,要么毁灭。如果走到第二种情形,那就很容易演化成第三种情形。
必须一提的是如果王东岳先生递弱代偿成立,那最后这可能性其实就不太应该,因为这会造就一种在各方面都趋于完美的物种。
人工智能所可能带来的温度
那是不是说现在应该封杀人工智能?答案显然不是。此前的工业革命确实带来了世界级的大战但也让我们终于不用匍匐在土地上为食物发愁,平均寿命得以延长等。人工智能虽然风险暗藏,但其实也带来了让人类文明进入黄金时代的机会。何况在一个多元的世界里,个人虽然可以选择用不用,但并没有选择不发展的权利。所以关键的问题不是看到风险,而是看到风险后应该如何前行。
历史学家习惯更详细的划分各种社会类型,比如农业文明、工商业文明,农业文明还可以进一步划分为封建社会、四民社会(钱穆认为秦汉以后中国的社会结构可以称之为四民社会与封建无关),但不管如何划分总要处理人与人的关系问题。
从这个角度看人类的金字塔结构亘古未变,而从这角度看人工智能所能扮演的角色也就更加清楚,它相当于在金字塔的最下层塞上一层。这是人类的终极解放,人类可以把自己不愿意做的事情委托给人工智能,而专注在自己想做的事情上。
但人工智能可能对社会基本结构产生的冲击还不止于此。
我们知道人与人之间的关联其实也是一种网络。而以网络的形态而言其实有两种典型的形态:
一种是去中心化的网络;
一种则是中心化的网络。
从社交网络上可以特别直观的理解我们现在的社会形态,少数人是中央节点,多数人则相对普通。
造成这类状态的原因在于,随着生活社会化程度的加深,每个人对外的依赖就会越来越多。工作、医疗、教育、购物、出行等都让人对外部产生某种依赖。
马克思当年也用这视角来审视资本主义,它发现工人要想做事情必须完全依赖于生产资料。在大工业生产时代确实如此,个体的工人对原料、机器、供应链的依赖无比强烈,所以如果工人不联合起来,根本就没有和掌握生产资料者的阶层进行议价。因此而产生的对抗其激烈程度历经百年,终于趋于温和。这一切关联都内置某种分配规则,最终就把人束缚在其中,最终就会形成这种中心化的网络。与此相对应的是热带小岛上可以天然获得足够食物的土著,它也许关注爱情,但却并不没被套在这样一种复杂的网络之中,所以他是足够独立的。所以说现代文明即给人带来了更大的自由,但也给人以更多束缚。人们渴望休闲而努力工作创造更多财富,但反过来工作本身却占据越来越多的时间,让休闲并不可得。但不管怎么想,大多人完全没有脱离这种网络的可能性。