![](/d/file/news/Internet_of_things/technical/2017-07/a28e06ae009b401e86ab17ebd5a79e7e.jpg)
Isaac Asimov的“机器人控制三定律”只能是科幻元素,要解决人工智能控制问题,我们不能只靠理论或幻想。
但是,这些解决方案要么太简单,(比如尝试将人类喜好的整个的复杂性用精巧的语言来定义),要么包罗人类所有的复杂到简单的单词、词组或思想。举个例子来说,试图给出一个连贯的、可操作的定义“尊重”一次,是非常困难的。
“这并不是说,这种简单的技巧是无用的,许多此类建议揭示了好的研究途径,而且有助于解决最终的问题,”阿姆斯特朗说。 “但是,在没有大量工作来发展和探索这些技巧之前,我们不能完全信赖它们。”
误解六:"我们将被超人工智能毁灭。"
![](/d/file/news/Internet_of_things/technical/2017-07/214b9ad3e4c0537b35a8c604e7c7bcb2.jpg)
现实:现在还没有证据保证人工智能会毁灭我们,或者我们将来一定没有办法来控制它。正如人工智能理论家Eliezer Yudkowsky所说:“人工智能不恨你,也不爱你,但你是由可以用做别的东西的原子组成的”。
他的书《超级智能》中写道:路径,危险,策略,牛津大学哲学家Nick Bostrom写道,真正的超级智能人工一旦实现,可能会造成比以往人类任何发明更大的风险。著名思想家Elon Musk,比尔·盖茨和斯蒂芬·霍金(霍金警告说,人工智能可能是我们“历史上最严重的错误”)也同样警告这一点。
Mclntyre说,对于超级人工智能可以实现的大多数目标,有很好的理由让人类退出这些过程。
“一个人工智能或许能够非常准确地预测,我们不希望牺牲消费者、环境和非人类动物的利益为代价,来给某个公司带来最大化的利润,”McIntyre说。 “因此,它会有强烈的动机以确保自己不被中断或干扰,包括被关闭,或其目标被改变,因为这样这些目标将无法实现。”
除非ASI的目标精确地反映我们自己的目标,McIntyre表示,它将有很好的理由不让我们停止它的操作。并且由于它的智力水平大大超过了我们自己的,我们并不能做些什么(来阻止它)。
但万事无绝对,也没有人可以肯定人工智能会采取何种形式,以及它如何可能危及人类。Musk指出,人工智能实际上可以用于控制、调节和监控其他人工智能。或者,它可能被灌输人类价值,以及强制要求友好对待人类。
误解七:“超人工智能会很友好。”
![](/d/file/news/Internet_of_things/technical/2017-07/348c136b653bbec80d174d12df281c6a.jpg)
现实:哲学家Immanuel Kant相信智能与道德密切相关。神经学家David Chalmers也在他自己的论文“The Singularity: A Philosophical Analysis(奇点:从哲学角度分析)”中采用了Kant这一著名的观点,并将其用在了解释超人工智能的崛起之中。
如果这是正确的,那我们可以预测“智能爆炸”将会同时引发一场“道德爆炸”。我们还可以预测由此产生的超人工智能系统将会在超智能的同时也是超道德的,因此我们大概可以推测这是良性的。
但是认为先进的人工智能会是开明并且天生就好的观点是站不住脚的。正如Armstrong所指出的,有许多战犯都是很聪明的。智力与道德之间的联系好像并不存在于人类身上,因此他对这一联系存在于其他智能形式的假设提出了质疑。
他说:“行为不道德的聪明人可能会给他愚蠢的同胞们带来更大规模的伤害。智力恰好赋予了他们更聪明地做坏事的能力,而并不会使他们变好。”
正如McIntyre所解释的,一个代理达成目标的能力并不取决于这个目标一开始是否聪明。他说:“如果我们的人工智能具有独一无二的在变聪明的同时会变得更加道德的能力,那我们是非常幸运的。但是,单纯依靠运气面对某些可能会决定我们未来的东西,并不是很好的策略。”
误解八:“来自人工智能的危险和机器人是一回事。”
![](/d/file/news/Internet_of_things/technical/2017-07/41fc85c9243fa0120127ef35ff3f5f26.jpg)