机器通过数据的分析，具有一定的学习能力，如果设定机器程序的学习能力去恶意模仿那些不好的行为，就容易带来危险，所以人在设定程序时，应该尽量给机器的学习能力注入正能量。
技术发展到一定程度还是取决于如何被应用。社会也应该有一系列的法律规则来约束机器背后的人，约束设计者应该遵循社会的道德规范，考虑人类的心理承受能力。一个中性的科技，应该有伦理价值和社会价值。
同时，我们也要储备超级技术，能够控制和恢复机器的状态，能控制机器新的演变，不然我们确实会遇到危险。
我国人工智能现在处于什么样的发展阶段？
《财经国家周刊》：我国人工智能现在处于什么样的发展阶段？
怀进鹏：2015年，国家印发了“互联网+”行动的指导意见，说明我国已经把人工智能放到了一个很重要的位置。同时，我们也发布了实施制造强国战略的第一个十年行动纲领——《中国制造2025》，其核心正是加快新一代信息技术与制造业深度融合，推进智能制造。
随着经济的发展，社会劳动力成本的提高和对精密高端加工产业的需求，开始出现从过去简单的自动化进入现在的数字化和智能化。
基础理论的研究需要长期进行下去。人工智能的基本原理，通过数学、计算机科学、社会学和心理学的融合、交叉创造新的内容。人们利用数据的能力是一直客观存在的，但是社会生活、社会行为等大量人造数据的出现，使得我们的基础研究有了很大变化。
基础理论研究中，大家还在进行脑科学的研究，设想脑的思考机理。这可以用来治疗脑疾玻除此之外，人们探讨两三年后，当集成电路的集成度与脑的触突集成度密度相当时，芯片是否具备了人脑的基本功能，可以进行有效的计算？过去依靠单点技术和单一产品的创新，正在向多技术融合的系统化、集成化创新转变。所以，脑科学研究当中，也要把神经科学与大数据、集成电路相结合。
定制化、个性化的生产，正在对企业生产和经营模式带来很大的变化。
现在服装、家具已经做到了定制化服务，工业产品也可以走向定制。比如数控机床，针对应用的不同，可以设计和制造个性化的产品为不同领域服务；比如3D打印，也可以加入更多个性化的内容；比如汽车，发动机的制造者可以不卖发动机，而是销售发动机的使用价值，一天卖发动机8小时的使用费，通过远程监控让发动机保持在最好的状态。到那时，一个企业不再是做一个产品，而是在做全生命周期的服务，从设计、制造到销售，后续的服务全部都涵盖。你只需按照你需要的服务付费，也就是说你的车上可能轮胎、发动机都不是买的，只需要购买产品的服务小时。
工业化加上信息化带来的智能化，其最终目的，应该是实现生产活动高度整合，使得工业系统能够像人一样思考和协同工作，特别是满足用户定制化需求的生产技术，将传统的刚性生产模式转变为柔性生产模式。企业则要关注上下游产业链、生态链，关注从设计到维护的产品全生命周期。
未来，高端服务机器人也将是很大的亮点。健康机器人、服务机器人将会有利于产业的发展。当前，中国的工业机器人发展速度稍微过快，重复发展较多，差异也比较大。与发达国家相比，还存在很大差距，主要是产业链关键环节缺失，核心技术创新能力还比较薄弱，高端品质可靠性低。其实在机器人发展中，还需要关注和发展一些高端的内容，我们国家也正在对此进行布局，推动高端智能机器人的发展，以期解决机器人发展的瓶颈问题。
《财经国家周刊》：未来3-5年，制造业创新将面临重大变局，到时候世界会变成什么样？中国将会在哪里？
怀进鹏：未来三五年，从产业来说，竞争将会在更多的领域展开。无人驾驶汽车、智能汽车以及通讯业等都将发生变化，5G将要在2020年成为现实，并实现规模商用。芯片的集成度如果按当前方式发展达到人的神经源的集成度的话，在2018-2019年，计算能力和处理能力会有巨大的变化。同时我们的传感器快速发展，可以在2公里以外用传感器感受你数据的存在，人的感知处理的能力也会大大的加强。互联网、移动互联网、工业互联网或者物联网都将统筹起来。