QUANTA：你可以证明人工智能系统不会重写自己的软件，覆盖人类预设的目标吗？
Stuart：计算机程序有着许多不确定性。阿兰图灵曾指出一个计算机程序不可能判断另一个程序是陷入了无限循环还是最终会产生输出。因此，如果你有一个可以重写自身的程序，你就有了一个矛盾，你不能证明这个新程序是否具有某些性质，这个程序也不知道自己写了一个什么。所以，问题不是“AI是否会重写自己”而是“AI写出的程序会对我们有怎样的影响”。我们目前对人工智能的设计能力所知甚少。
QUANTA：目前有什么很有前景的研究领域吗？
Stuart：最近出现了一种叫做“网络现实系统”的研究领域，它们的研究内容是计算机与现实世界相联，让电脑通过网络控制机器手臂等等。许多电影中出现了人工智能掌控交通的剧情，也是该领域的研究内容。另外，空中交通管制也是其应用的一种。
登陆|注册欢迎登陆本站，认识更多朋友，获得更多精彩内容推荐！