5、2011年3月12日,日本大地震引发福岛核电站泄露,污染波及东亚各国及太平洋水域。
6、伊核问题,当与美国反目成仇的人手持核武器……,好在2013年,伊朗与六国(美俄中英法德)签订“日内瓦阶段协议”,伊核问题全面解决出现转机
7、朝核问题,当脾气暴躁并敌视全世界的人手持核武器……想想都可怕。
以上几次事件,有的已经过去,有的还未解决。几乎每一次,地球和人类都是从鬼门关前惊险逃回,我们不知道下一次由于核武器而引发的人类危机在何时何地何人之手。
亲眼目睹了核武器对人类的毁灭威胁之后,在核武器诞生后的70年内,人类为一种武器前所未有地抓紧进行修补工作——制定和成立各种法律、国际组织、条约、公约,以限制和管理核武器的研制、开发、转让和使用。
1946年,战后一年,美国颁布《1946原子能法令》,全面指导和规范美国原子能发展。
1956年,联合国成立国际原子能机构,随后几十年陆续制定了《核安全公约》等若干个国际公约。
1968年,美苏英等62个国家签署《核不扩散条约》,并于1970年生效。
1996年,第50届联大通过《全面禁止核试验条约》。
这里特别提到四个国家,印度、巴基斯坦和以色列,拒绝加入《核不扩散条约》。朝鲜民主主义共和国于1994年退出了国际原子能机构,并于2003年退出《核不扩散条约》。以上四国,印巴朝鲜成为目前非法拥有核武器的国家,以色列则与伊朗、日本、德国以及前苏联解体后的部分国家成为匿核国家。
回顾核武器的产生及战后70年对于核武器的管理过程,我们发现这样几个事实:
1、核武器是伴随着科技的进步,不可阻挡地出现在人类社会中的。在爱因斯坦提出《相对论》以及约里奥-居里(居里夫人的女婿)发现了铀的链式反应之后,核武器的出现只是时间问题和被谁掌握的问题。
2、在核武器引爆之前,人类(包括爱因斯坦这样的伟大科学家)都无法预知核武器对人类的危险究竟有多大。
3、在目睹了核武器的威力之后,人类才匆忙开始成立和制定各种管理组织和限制公约。
4、时至今日,70年过去了,人类仍旧无法全面彻底管控核武器。(朝核问题)
5、科技的发展,让许多国家可以在一夜之间拥有核武器。(日本、以色列、伊朗等国)
我们回顾核武器的发展,同时再想到人工智能。如果说人工智能现在已经预见到对于人类的危险,我们应该及早的进行相关法律、国际法、公约和条约的制定,各国政府应该组建相应的管理机构,国际上应该有类似“国际原子能机构”的“国际人工智能机构”来协调管理和指导人工智能的科研和制造。而不是象对付核武器一样,在研制成功之后才匆忙想起管理,因为强人工智能一旦产生,根本不可能给人类70年的时间。
这些人工智能的管理机构和法律,应当以超出本国政府管理权利之上的优先权管理全球人工智能的科研和发展,以保证人工智能的发展速度符合人类的需求(人类可以接受的速度),并且对人工智能的研发方向做以明确的指导,并对人工智能的智慧水平和行为能力,加以严格限定。
上面这段话,也许是撰写本文的终极思考。正如前文提到,核武器是人类科技进步到那个阶段必然诞生的一样,人工智能在人类科技到达了一定程度之后,无论怎么管理,终有一天,它还会呱呱坠地。因此,如何防范危险,把握人工智能发展的方向和节奏,就显得尤为重要。
玛雅预言和霍金的警告
在玛雅人的历法中,人类社会发展史被分成五个“太阳纪”,2012年12月21日是第五太阳纪的最后一天。所以有人误解说,这一天是玛雅人预言的世界末日,甚至被美国人拍成了电影《2012》。今天看来,所谓“玛雅预言”(特指末日说)只不过是人类在漫长的历史长河中,由于天灾人祸而产生的近乎宗教式的谣言而已。