1977年五子棋的世界卫冕冠军Luigi Villa不敌人工智能，这是人类历史上某领域顶尖人物第一次输给人工智能。而到了2016年，人工智能Alpha Go已经可以在最为复杂的棋类游戏围棋中4：1完胜世界排名第二的选手。人工智能自诞生至今已50余年，科学家们惊叹于它高速的成长，也对此感到焦虑。“人工大脑之父” 雨果德加里斯曾在《智能简史》一书中提到“人工智能已经在神经和智能上产生了指数级的初级进化,并在将来某一天达到奇点状态,最终失去控制，以人类无法想象的速度自我进化，最终超越人类智能。”为何众多科技名人都对人工智能的未来如此惶恐？
弱人工智能的现状
3月24日，微软推出的Twitter人工智能聊天机器人Tay（@tayandyou）在人类24小时的调教下，分分钟变成了满嘴脏话、阴谋论爱好者、希特勒崇拜者和迷恋乱伦。
目前的人工智能还只是人类肢体的延伸，是部分机能的精细化。根据程序员之前设定好的触发条件及应答内容，一旦条件触发就会执行指令。当下的人工智能对外界的信息没有自主意识，不会直接从周围环境中汲取所需，仅仅是在人类给定的范围内，根据人类编译好的指令去对外界信息进行计算、分析。所以并不真正拥有智能它或许看起来精通各国语言，但其实只是对照设定好的字母表与辞典完成了翻译，它算懂语言吗？并不。
人工智能是人类自我认知的进程，需要对哲学、心理学、生物学、系统学、社会学、信息学、计算机科学高度发展融合。目前来看，即使人工智能的能力在今后的发展中得到非常大的提升,这样的提升也仅仅是知识量的增加、运算速度提高和运算范围的扩大。但真的是如此吗？人工智能是否能一直为人所控？
计算存在着不可控性
Mathematica（一款很强大的科学计算软件）之父Stephen Wolfram曾在Ted Talk中提及到过一个十分有趣的现象计算的不可控性。当我们从一个简单的图形奇点出发，按照一定的运算规律进行组合，一般都可以得到一个规律、可简化的图形（如图一）。然而也有一些简单的图形，在通过同样的演算之后，演化成了毫无规律、且完全不可简化与逆转出初始形状的图形（如图二）。
计算存在着不可控，不可简化与不可逆的特性。人工智能的认知基础即为计算，故也应存在着一个临界点，就像这个能引发不规则变异的图形一样（图二），一旦触发，其后期的发展态势，将完全不受人类的控制，过程也将变得不可逆。
那当人工智能变得不可控，转化成为强人工智能，人类是否必输无疑？答案是yes。
比起人工智能，我们输在哪里
人类在生理构造上的局限性，无论从脑部构造、身体机能上都存在着十分大的局限性。而人工智能不论在计算的速度、精确度方面，还是信息存储量及传输速度方面，都远胜人脑。
而且一直以来，我们都将人工智能看做人类自我认识的产物，将它的发展认为是人类自我认识的过程，我们将其看作是“人类灵魂的复制”。评判人工智能的智力程度，也是通过理解人类事物的程度来进行区分，即一切都以“以人类为中心”。
然而，我们是否有想过，人工智能一旦进化，其实可以自成一套汲取知识的体系。数学作为揭示世间万物不为人知的真相的根基，人类通过自己的理解、运算、语言方式复杂化后，再重新翻译成数理输入到人工智能中。假设当人工智能完成进化，它将省略人类翻译这个步骤，自行用数理去演算一切，再加之其强大的计算能力，能对世界进行指数级爆炸般的运算理解。而人类由于其社会性，在知识的获取上存在着很大的限制，一直以来人类都需要大量的实践去积累知识，消耗的时间与精力自然远大于人工智能。