人工智能一词在2016年走入公众视野。既然世界各地的人们都开始谈论它，那么是否还有必要在此再将之讨论呢？有关AI的话题总聊不够，虽然许多聪明人士认为强AI潜在的价值将会是人类历史上最具革命性的发展成果，但与此同时AI太过强大所带来的风险也引起人们的担忧。
如今我们已正式步入2017年——有人将之称为AI发展的临界点，或许是时候让我们来严肃探讨一番了。
强AI之路
AI有程度之分。目前世界上的AI水平还是低级的的弱AI（Artificial Narrow Intelligence，ANI）。无论是智能手机里的导航地图，或是前段时间放出大新闻的机器翻译。我们正不断努力发展成强AI（Artificial General Intelligence，AGI）。弱AI只能执行简单任务，强AI能够达到与人类持平的智能水平，可以解决更多问题。强AI之后是超级人工智能（Artificial Super Intelligence，ASI），AI真正的威力将在此展现。
在从弱AI到强AI的路上，人类已经努力了很长时间，至今没人敢说准最终会在什么时间实现。有一个共识认为强AI应该会在未来20～30年实现。不过机器学习的发展可能会让这个时间缩短。
学习之学习
“机器学习”是指通过大数据训练和少量的人工反馈，让计算机自学掌握特定技能的过程。机器学习的概念已经提出了几十年，得益于近几年计算机处理能力和信息积累的增加，机器学习在最近迎来成长。
从亚马逊的智能推荐到Facebook的人脸识别，几乎当下所有科技公司的产品都基于机器学习打造。目前谷歌是该领域的领跑者，谷歌的翻译工具、数字地图和搜索引擎中都有机器学习的应用。
2016年最大的机器学习新闻当属AlphaGo了。这个由谷歌团队打造的AI程序在举世瞩目的围棋人机大战中以4比1的总比分战胜韩国围棋大师李世乭。这是一个里程碑式的事件。围棋以其复杂性著称，围棋步骤的绝对数量比宇宙的原子数还多。
因此不可能以传统的逻辑程序设定每一步的走法，这要求AlphaGo必须拥有一种类人的直觉。虽然很久以前就有计算机程序在国际象棋上战胜人类，但两次胜利的意义不可同日而语。
机器学习应用于AI开发，将形成一个递归循环：程序具有自己学习的能力，并逐渐变的更加强大。其智能水平将呈指数增长。许多人因此表达了AI失控的担忧。在指数发展的前期，AI可能需要十年或更长时间才能达到接近人类的水平，但随后从强AI到超级AI，可能只要几个月甚至几星期就完成了。
这将远远超过人类的适应速度——人类用了几百万年才发展成为地球的主宰者，而今可能在几周之内就被自己的创造物超过了。情况紧迫如此，让人们不得不慎重思考AI的发展。
AI终结人类的方式
长远来看，发展AI对人类意味着什么呢？其实没人能给出肯定答案。超人工智能可能是人类的巨大威胁，也可能作为巨大力量为人所用。关于人类与AI可能爆发的冲突，好莱坞在科幻片中描绘过无数次了。AI研究人员担心的倒不是真的会出现那种人性的冷血杀手屠杀人类。研究人员更担心AI会因其价值观与人类不同而对人类的诉求冷漠以对。比如一个智能水平超出我们想象的AI可能不觉得有必要保证人类的生存，就好比人类总以自己的意愿行事，而将蚂蚁这样的低等生物认作无关紧要。
那就让我们防患于未然，从建造AI的一开始就设定其不能伤害人类。但即使这样也不能保证一个稳妥的未来。危机论者仍然看到发展AI的恶果：自工业革命以来，资本生产和消费构建了现代人类社会，人们工作换取薪水，然后用薪水换取商品。虽然这个系统千疮百孔，但过去几个世纪一直运行着。当机器能取代人类承担所有工作，人的经济价值不复存在。