2006年，达特茅斯召开了一个名为“人工智能@50”的会议。当时的共识是50年，那时我说的是23年。我们刚刚在阿西洛玛举办了一个人工智能伦理会议，当时的共识是在20到30年之间，而那会我说是13年。我还是比较乐观，但并没有那么乐观，越来越多的人认为我太保守了。
我没有提到加速回报定律的一个关键问题是：硬件不仅会呈指数级增长，软件也同样如此。我感觉越来越自信，我认为人工智能群体正越来越有信心，相信我们离这一里程碑不远了。
我们将与人工智能技术结合，让我们变得更聪明。它已经做到了。这些设备都是大脑扩展器，人们也会这么想，这是一种新事物。就在几年前，人们还没有把他们的智能手机看做是大脑扩展器。按照定义，它们会进入我们的身体和大脑，但我认为这是一个武断的区分。虽然它们在我们的身体和大脑之外，但它们已经是大脑的延伸，它们会让我们变得更聪明、更有趣。
【尼古拉斯·汤普森】：请解释一下政策制定者的框架，他们应该如何看待这种加速技术、他们应该做以及他们不应该做的事情。
【雷·科兹威尔】：人们对人工智能非常关注，如何保证技术的安全，这是一种两极分化的讨论，就像现在很多讨论一样。实际上，我在很长一段时间里都在谈论承诺和危险。技术永远都是一把双刃剑。火使我们暖和，为我们烹饪食物的同时，也能烧毁我们的房子。这些技术比火更加强大。我认为我们应该经历三个阶段，至少我是这么认为的。首先是为能有机会解决一直以来的难题而感到高兴：比如贫穷、疾病等等。然后要警告这些技术可能具有破坏性，甚至会带来生存风险。最后，我认为我们需要指出的是，我们必须意识到，除了我们已经取得的进步，我们在道义上必须持续推动这些技术的发展。这是一个完全不同的问题，人们认为情况正在变得更糟，但实际上情况正在变得更好，仍然有很多的人类苦难需要去解决。只有人工智能领域取得的持续发展，才能使我们继续克服贫困、疾病和环境退化，但同时我们也将面临危险。
这是一个很好的框架。四十年前，有远见卓识的人看到了生物技术的前景和风险，从根本上改变了生物学，让生物学在正确的道路上获得了长足发展。因此，他们在阿西洛玛的会议中心举办了一场“阿西洛玛会议”，并提出了道德准则和策略，即如何保证这些技术的安全。现在已经是四十年后了。我们正受到生物技术的临床影响。今天是涓涓细流，未来十年将是一场洪水猛兽。到目前为止，因滥用生物技术而受到伤害的人数为零。这是一个很好的学习模型。
我们刚刚举行了第一届关于人工智能伦理的阿西洛玛会议。这些伦理准则中有很多，特别是在生物技术领域，已经写入了法律。所以我认为这就是我们的目标。最极端的是，“让我们禁止这项技术”，或者“让我们慢下脚步”。这的确不是正确的方法。我们要以一种建设性的方式来引导。有一些策略可以做到这一点，这是另一个复杂的讨论。
【尼古拉斯·汤普森】你可以想象一下，国会可能会说，在某种技术领域工作的每个人都必须公开自己的数据，或者必须愿意分享他的数据集，至少要让竞争激烈的市场战胜这些难以置信的强大工具。你可以想象，政府会说，“实际上，我们将会有一个由政府资助的大项目，就像OpenAI一样，但是由政府管理。”你可以想象，有一场巨大的国家基础设施运动来发展这项技术，所以至少负责公众利益的核心人士可以控制其中的一部分。你有什么推荐的吗？
【雷·科兹威尔】：我认为开源数据和算法通常是一个好主意。谷歌将所有的人工智能算法与开源的附源代码（TensorFlow）都放在公共领域。我认为这实际上是开源和不断加速的回报定律的结合，它将使我们更接近理想。有很多问题，比如隐私，这些都是维护的关键，我认为这个领域的人通常都很关心这些问题。目前还不清楚正确答案是什么。我认为我们想要继续进步，但是当你有这么大的权力时，即使是出于善意，也会有滥用的情况。
【尼古拉斯·汤普森】：你担心什么？你看待未来非常乐观。但是你担心什么呢？