对人工智能如此的快速发展人们也产生了一些忧虑。著名物理学家斯蒂芬威廉霍金教授多次表示，如果人工智能拥有自我意志，能够对自身设计进行自我改进，那么很快人类将无法与之抗衡。2015年7月，包括霍金、马斯克、史蒂夫沃兹尼亚克在内的多名学者签署了一封公开信，呼吁禁止自动化武器，从而避免引发军备竞赛，产生比冷战更危险的态势。著名美国实业家雷库茨维尔预计21世纪的40年代将会出现人工智能超越人类智能的“奇点”。为此，由谷歌和美国国家航天航空局及若干科技界专家联合建立了一个“奇点大学”，专门来研究如何应对这一“人类面临的重大挑战”。
人们同样担心的是，迅速发展的人工智能技术会严重威胁到劳动人口的就业。未来智能机器人不但可以替代低端、低技能蓝领工作，还有可能冲击知识密集型工作和服务类岗位。美国美林银行预测未来英国将有35%工作被机器人取代，而美国这一比例有可能高达47%。
当然，对这一问题持乐观态度的人也不少。持这种观点的人认为，世界上总有些工作需要如同情心、创造力、判断力等人类独有的特质，这些是机器难以胜任的。华盛顿皮尤研究中心一个调查显示，有52%专家预期，虽然2025年很多工作会被机器人取代，未来人工智能发展创造的岗位会比被取代的岗位多。
“互联网+”带动我国人工智能技术实现突破
在人工智能技术领域，我国大体上能够与世界先进国家发展同步。近年来，我国在视觉识别、语音识别等领域实现了技术突破，处于国际领先水平。我国拥有自主知识产权的文字识别、语音识别、中文信息处理、智能监控、生物特征识别、工业机器人、服务机器人、无人驾驶汽车等很多智能科技成果已进入实际应用。
以百度、阿里巴巴、腾讯为首的互联网巨头公司已在人工智能领域上布局。2013年百度成立了我国首个深度学习研究院，该院的“百度大脑计划”融合了深度学习算法等多项技术，拥有200亿个参数，构成了一套巨大的深度神经网络。目前，通过“百度大脑”的参与，语音识别的相对错误率降低了20%-30%，扫描文本图像生成汉字文本的相对错误率降低了30%。今天的“百度大脑”已达到相当于两到三岁孩子的智力水平。阿里巴巴则研发并对外开放了我国首个人工智能计算平台“DTPAI”。开发者可通过简单拖拽方式完成对海量数据的分析挖掘。该平台是基于阿里云大数据处理平台“ODPS”构建的，后者可在6小时内处理相当于1亿部高清电影容量的数据。全球掌握这种能力的只有谷歌、亚马逊等几个公司。腾讯公司则研发与对外开放了视觉识别平台“腾讯优图”。它在人脸识别上达到了稳居世界前列的99.5%以上准确率，即将在微众银行、财付通等相关产品中大规模应用。
除此之外，我国在人工智能领域还有近百家创业公司，业务覆盖了工业机器人、服务机器人、商业智能及视觉识别等技术领域。科大讯飞的“讯飞超脑”计划，京东公司的智能聊天机器人等都达到了国际先进水平。据估计，2014年我国智能语音交互产业规模达到100亿元人民币，指纹识别、人脸识别、虹膜识别等产业规模达100亿元人民币。
大力推进“互联网+人工智能”行动
应该看到，尽管我国在一些人工智能关键技术尤其是核心算法方面与国际水平相差不远，但整体发展水平与发达国家相比仍有差距。在人工智能基础理论方面，我国与世界一流学术水平还有一定距离。人工智能高端人才紧缺，已成为制约我国人工智能行业发展的重要原因。在高精尖零部件、技术工业、工业设计、大型智能系统及基础平台等方面都亟待改进。以机器人为例，2014年我国销售的5.6万台机器人只有1.6万台来自本土供应商，且大部分是低端机器人。同时，我国人工智能技术发展还面临着体制机制、信息化基础设施、数据共享等方面的挑战。
为加快我国在人工智能领域发展，2015年7月国务院发布了《关于积极推进“互联网＋”行动的指导意见》，将“互联网+人工智能”列为11项重点行动之一。《指导意见》提出，要依托互联网平台，加快核心技术突破，促进人工智能在智能家居、智能终端、智能汽车、机器人等领域的推广应用，要在国内培育一批引领全球人工智能发展的骨干企业和创新团队，形成创新活跃、开放合作、协同发展的产业生态。