【雷·科兹威尔】：美国和世界其他地方在政治上的两极分化是不幸的。我不认为这是我们今天谈论的话题。我的意思是，我们在世界上经历过重大的波折。第二次世界大战是一个相当大的波折，实际上并没有影响到这些趋势。在某些政府官员或政府中，可能有些事情是我们不喜欢的。但这里有一点需要讨论。我们并不是在无法表达自己的观点的极权主义的时代。如果我们朝那个方向发展，我会更担心，但我不认为会发生这种情况。所以，不要贬低政府和当权者的重要性，但这是在一个不同的层面上。我们谈论的这些问题并没有受到这些事情的影响。我担心的是存在的风险，因为技术是一把双刃剑。
观众提问：我的问题与不平等有关。在人类历史的大部分时期，经济不平等程度相当高，这其中有很多阶段。我想知道，你是否认为20世纪是一种反常现象，以及科技的扩散将如何影响这种不平等。
【雷·科兹威尔】：经济平等问题正在朝好的方向发展。根据世界银行的数据，在过去的20年里，亚洲的贫困人口减少了90%以上，从原始的农业经济发展到繁荣的信息经济。非洲和南美的经济增长率远高于发达国家。你看到的任何地方，都存在着不平等现象，但事情正在朝着正确的方向快速发展。在过去的20年里，全世界的贫困人口减少了50%。还有很多其他的衡量标准。所以我们正朝着正确的方向前进。在任何一个时间点上，都存在严重的不平等，都有人正经历苦难，但这些现象正朝着好的方向发展。
观众提问：我从你的评论中得知你正在预测人工智能离下一阶段还有12年，你已经提到过几次，尽管你很乐观，但你担心的是存在风险，所以我想知道你是否可以详细说明一下你的意思，你认为技术专家应该做什么来降低这些风险？
【雷·科兹威尔】：我的意思是，存在的风险是威胁我们文明生存的风险。因此，人类面临的第一个生存风险是核扩散。我们已经有能力摧毁所有人类的生命。有了这些新技术，我们不难想到，它们可能具有极大的破坏性，并摧毁全人类。例如，生物技术。我们有能力从疾病中重新规划生物学，比如免疫疗法，这是治疗癌症的一个非常令人兴奋的突破，我认为这非常具有革命性，不过它只是刚刚开始。它正在重新编程免疫系统去治疗癌症，而通常情况下不可能做到。但是，生物恐怖分子可以对一种病毒进行重新编程，使其更加致命，更具传染性，更加隐秘，从而制造出一种超级武器。这就是40年前第一次阿西洛玛会议所引发的难题。这些反复出现的会议让这些伦理准则、安全协议和策略变得更加复杂，到目前为止，它已经起作用了。但我们一直在让这项技术变得更加复杂，所以我们必须一次又一次地重新制定这些准则。我们刚刚举行了第一次关于人工智能伦理的会议。我们提出了一套道德规范，并且都已署名通过。其中很多都是模糊的。我认为这是一个非常重要的问题。我们发现我们必须在软件中建立伦理价值观。一个典型的例子就是无人驾驶汽车。自动驾驶汽车的全部动机是，在200万名人类司机中，避免99%的司机的死亡，但它将陷入一种境地，必须做出道德决策：它应该朝着婴儿车或向老年夫妇行驶，还是向墙壁行驶，而这可能导致乘客死亡。无人驾驶车是否有道德准则，不导致车内乘客的死亡？在这种情况下，无人驾驶车不能给软件设计师发送电子邮件，然后说，“天哪，我该怎么办？”道德准则必须内置在软件中。所以这些都是实际问题，在这个问题上，人工智能有一个完整的领域。
但我们该如何应对更为实际存在的风险：短期内就能实现的人工智能武器化。世界各地的国防部都在使用人工智能。当时有一份文件要求人们同意禁止使用自动武器，这听起来是个好主意，而使用的例子是“我们禁止化学武器，所以为什么不使用自主的人工智能武器呢？”这有点复杂，因为我们可以不用炭疽，也不用天花。禁止化学武器是可以的。但自动武器是一种两用技术。能将你的冷冻华夫饼或药品送到非洲一家医院的亚马逊无人机，可能用于运输一种武器。这是同样的技术，一切已蓄势待发。也就是说，这是一个更复杂的问题，如何处理。但我们的目标是收获承诺并控制风险。没有简单的算法，我们可以把这个子程序放入我们的人工智能中，“好吧，把这个子程序放进去。”它会让你的人工智能保持良性。”智力天生就是无法控制的。我的策略并不愚蠢，它是在我们自己的人类社会中实践我们希望在世界上看到的道德、道德和价值观。因为未来的社会并不是某些来自火星的智能机器的入侵。它诞生于我们今天的文明。这将会增强我们的自我。因此，如果我们正在实践我们今天所珍视的价值观，那就是在未来拥有一个包含这些价值观的世界的最佳策略。