当机器变得和人类一样聪明甚至比人类还聪明时会出现什么的疑问似乎会让许多科幻小说作家忙碌。比如说终结者三部曲中的天网，这个具备自我意识的人工智能在三部曲中充当了主要的反面角色。在技术人员当中，通常都是奇点主义者在考虑机器智能超越人类的日子。奇点这个术语描述的是导致机器智能大爆炸的技术加速现象，它是由数学家斯塔尼斯拉夫•乌拉姆在1958年杜撰出来的。最近这个概念已经被未来主义者雷-库兹韦尔所普及，他准确的指出2045年将成为奇点年。
公平的说我认为奇点主义者并非主流。或许是由于他们的信仰认为到2045年人类也将变得永生而且能够把他们的意识下载到电脑上。在2000年太阳微系统公司的共同创建人同时也是一位主流技术专家的比尔-乔伊为《连线》杂志写了一篇名为《为什么未来不需要我们》的文章。他写道：“21世纪我们最强大的技术，比如机器人学、基因工程和纳米技术带来的威胁正在使人们成为一个濒危物种。”乔伊的文章一经发表就被广泛传阅，但是似乎没有带来什么效果。
人们是在经济大萧条的背景下开始注意到虽然机器的智能尚未超过人类，它们已经获得了足以给就业市场带来重大影响的智能。2011年出版的书籍《与机器竞赛》描述了数字革命如何加速革新、推动生产力以及不可逆转的改变就业和经济。作者艾瑞克-布吕诺尔夫松和安德鲁•麦卡菲声称“技术进步正在促进革命，甚至将许多行业的工作者甩在了背后。”事实上在过去的30年里，当我们看到个人电脑改变成为平板电脑、智能手机和云计算时，我们也看到世界范围收入不均的扩大。虽然过去几年数百万的失业被归咎为经济大萧条，现在似乎是技术带来的生产力增长至少是一个主要因素。这样的概念在过去的几年里已经成为主流。
早期的人工智能先驱者对于人工智能的发展持有乐观态度。阿兰-图灵在1950年所写的论文《计算机与智能》或许因为他提出的一种“模拟游戏”的建议而闻名，也就是今天我们所说的图灵测试。但是这篇论文的焦点事实上并不是模拟游戏而是机器智能的可能性。他同样阐述了他的观点，他认为到20世界末我们就将看到机器智能。然而我们现在知道图灵对于时间表有点太乐观，过去50年中人工智能不屈不挠的发展表明赫伯特-西蒙是正确的，他在1956年写道：“机器将能够胜任人类能做的任何工作。”因此比尔-乔伊的问题不应当被忽略：“未来需要我们吗？如果机器能够胜任几乎任何人类从事的工作，那么人类将做什么？”
针对这个问题的一个典型答案就是说我是一名卢德分子。（卢德主义被定义为不信任或者害怕新技术带来的必然改变。）这是一种人身攻击而不是一种严肃的答案。一个更加考虑周到的答案是自从工业革命开始之后就一直在创造失业。然而人工智能革命不同于工业革命。在19世纪机器与人类的肌肉竞争，现在机器正在与人类大脑竞争。我们正在面对与完全由我们自己创造的产物竞争的前景。另一个典型的答案是如果机器将替代我们进行全部的工作，那么我们将自由进行业余的活动。经济学家约翰•梅纳德•凯恩斯早在1930年就已经提出了这个问题，他猜测到2030年时大多数人每周将只工作15小时，而且让人们忙碌的最主要是业余活动。
我并不认为这是一个光明的前途。首先，如果机器能够胜任技术所有的工作，那么我们甚至不清楚每周15小时的工作是否必要。其次，我不认为被空闲所充满的生活前景具备吸引力，工作对于人类幸福来说是必不可少的。第三，我们的经济体系将经历一种彻底的调整来使数十亿人能够拥有空闲的生活。最后人们告诉我，我的的担心似乎只是对于很遥远的未来而且我们不需要担心。我认为这个答案是令人无法接受的。2045年距离我们只有一代人的距离。我们不能推卸责任不关心下一代的幸福。比尔-乔伊在2000年提出了一个过渡计划，“通过限制我们对于某种知识的追求来限制那些太危险的技术发展。”我认为是时候把这个后果的问题直接摆在桌面上来了。我们不能盲目的追求人工智能的目标而不考虑它所带来的后果。