◆设想三：打破三定律 成为人类最可怕的敌人
科幻作家艾萨克·阿西莫夫在1942年创造的著名的“机器人三大定律”，被认为是人类和机器人永久和平共处的最重要法则，可是奥创不但彻底违反了“机器人三大定律”，还打造出一支像他一样凶狠残酷的机器人军队，成为人类最可怕的敌人。
违反了“机器人三大定律”，还打造出一支像他一样凶狠残酷的机器人军队
人工智能存在巨大潜力，探讨如何加以利用的同时规避潜在风险是很重要的。人工智能系统应当履行我们希望它们执行的职责。所以，有的人坚信人工智能和智能机器人将来会大有用途。
■写在最后：
智能机器人作为新一代生产和服务的工具，越来越多的参与到我们的生活中来，从而更多的服务我们，但一些走在科技前沿的工作者对其并不感到乐观，更坦言，如果人工智能自行发展，以加速度重新设计自己，由于受到缓慢的生物演化的限制，人类不能与之竞争，最终将会被代替。不管怎样，机器人出现的本意，原是希望它能为人类服务，如果人类没有能力将人工智能的潜在风险控制在可以承受的范围之内，那后果将不是我们所能够承受的。