4.这个全局库和相关的模型成长系统将能够实现某种形式的类似人类的“极端泛化”:给出新的任务,新的情况,该系统将能够组装一个适合新任务的新的有效模型,而且使用的数据非常少。这要归功于:1)丰富的类似程序的原始泛化得很好,2)丰富的类似任务的经验。同样的方式,人类可以学习使用非常少的时间学会玩一个很复杂的新视频游戏,因为他们有许多以前的游戏的经验,并且从以前的经验得出的模型是抽象的和程序化(program-like)的,而不是一个基本的刺激-行动之间的映射。
5.因此,这种永久学习的模型成长系统可以被解释为AGI——通用人工智能。但不用期待什么奇点主义的机器人启示录将来临:那完全是幻想,来源与对智能和技术的长期误解。不过,本文不评论这一点。