为了防止出现人工智能不可控制地发展下去，霍金和联合签名的这些科学家在信中表示，鉴于人工智能存在的巨大潜能，研究如何取其好处、避免缺陷就变得十分重要，人工智能系统必须按照人们设定的方式和要求工作。
这已经不是霍金第一次公开表示人工智能的危险性，在2014年12月，霍金接受英国广播公司（BBC）采访时就明确表示：“制造能够思考的机器无疑是对人类自身存在的巨大威胁。当人工智能发展完全，就将是人类的末日。”
在这次采访中，霍金承认从人工智能的基本形态发展至今已被证明非常有效，但他害怕这一发明会赶上甚至超越人类的智慧。“它（人工智能）能够自行发展，并且以从未有过的速度重塑自我，而人类受限于缓慢的生物进化，无法与之抗衡而终将被替代。”
相对于霍金的肯定言论，奇点大学联合创始人、谷歌技术总监雷·库兹韦尔（Ray Kurzweil）则相对中立。他在1月17、18日出席于北京召开的的极客公园创新大会时说道，“人工智能确实能够改变世界，这是一把双刃剑”。
“我在人工智能领域工作了50年，现在一些新的观点认为，未来的3-5年内，将实现机器通过与人类对话来了解人类的想法。15年后会达到人类智能水平，能够做人类能够做的事情，软件会出现指数级的增长。我们也会和计算机技术不断融合，到2045年它们将超过人类水平，人工智能确实影响到我们生活的方方面面。”他说。
人类在计算、逻辑、数据沟通领域远不如计算机，那么人类的创造力、情感是不是人工智能发展的最后一道防线呢？雷·库兹韦尔表示，这确实是最后一道防线。“我认为人工智能拥有火箭式增长的能力。在人类的近大脑皮层这一区域是掌管语言艺术、科学的能力，现在的计算机当中已经有了这一的分级系统，他们也可以有情感，表达幽默，而幽默是非常复杂的能力。”
雷·库兹韦尔认为，人工智能技术与生物技术等其他前沿科技一样，会有积极正面的影响，也难免会有一些弊端，人类要做的是制定具体的策略，引领人工智能技术往积极正面的方向发展。此外，人工智能技术发展到一定阶段，确实会使低端的一些工作消失，但也会涌现出很多新的工作机会。人类之所以会出现焦虑与隐忧，是因为还没法预见到会新增哪些工作机会，人工智能技术会重新定义工作属性。
“人工智能也会有毁灭性的一面，但是我们要保障它的安全性。大家看到有些电影中，一些人工智能（机器人）会袭击人类，但是人工智能其实不是由一两个人掌握，它是在十亿二十亿人手里掌握，我们要去控制好人工智能。”雷·库兹韦尔表示。
“需要能够帮助你而不是代替你的人工智能”
那么在我们的现实生活中，人工智能应用在哪些方面？
雷·库兹韦尔介绍，现在已经有尺寸类似血液细胞大小的机器人，这种机器人能进入人们的免疫系统，在人们的身体中帮助人抵抗疾病。在未来，可以创建一个类似人类免疫系统的机器，帮助人们去杀死各种各样的病原体以及病毒。“还有我们的大脑，人类大脑的脑干脑皮层当中的能力是有限的，但当与这些机器设备相连接的时候，我们的能力就会扩大”。
另外在教育领域，已经出现了机器人诊断，它能判断学生在那些方面听懂了，哪些方面没听懂，机器人将对学生解释那些没听懂的内容，世界上每个人都可以获得优质教育。
“出门问问”的CEO李志飞在极客公园创新大会上谈到人工智能概念时说：“人工智能的目的不是把机器变成人，也不是把人变成机器，而是要扩展人类的智能和能力，帮助所有的人提高生活质量。虽然在过去两年这个概念在面向大众普及，但距离现实应用仍较远”。