计算机先驱 Alan Kay 揶揄道:“预测未来的最好办法是创造未来。” 在 AI 的背景下,他的意思是说不要再预测未来的样子了,用有原则的方式去创造未来才是正道。我同意。就像任何软件挑战一样,原则做法始于开发的平台基矗用软件开发的术语来说,AI 正在成为第三种 “运行时”—成为下一个平台。在计算机科学中,运行时是指程序员开发和执行应用的基础系统。换句话说,我们为 PC 编写 Word、PowerPoint 之类的 Office 应用。现在的 Office 365包含了 Office、Skype 和 Outlook,是写给 web 的。而在 AI 和机器人的世界里,这些生产力和沟通工具将会针对一个全新的平台编写,这个平台不仅管理信息还会从信息中学习并且与物理世界交互。
这个平台或者所谓的第三运行时的样子现在正在构建当中。我还记得 195年 春读到盖茨《互联网浪潮》备忘录的情形。盖茨在里面预测了互联网对连接、硬件、软件开发以及商业的影响。20 多年过去了,我们正目睹着一股新的浪潮来临—人工智能浪潮。那么指导我们思考、设计和开发的普遍设计原则和价值观应该是什么样的呢?
一些人正在带头直面这一问题。MIT Media Lab 的 Cynthia Breazeal 把一生都奉献给了探索更人性化的人工智能和机器人上面。她提出,技术往往忽视了设计的社会和行为因素。Cynthia 在最近的谈话中说我们是所有物种当中最社会化和最富有感情的一种,但是在技术设计中却几乎没有考虑过移情的问题。她说:“我们毕竟是通过沟通和协作来体验世界的。如果我们对一起协作的机器感兴趣,那就不能忽视人性化方法。”
为此,我思考了一些我们作为行业和社会应该共同讨论和辩论的原则和目标。
1、AI 必须用来辅助人类:随着我们开发出来的自动机器越来越多,我们需要尊重人类自治。协作式机器人(co-bots)应当从事采矿之类的危险工作,从而为人类工人竖起一道安全网和提供保护措施。
2、AI 必须是透明的:我们应该能知道技术是如何工作的,它的规则是什么。我们需要的不仅仅是智能机器(intelligent machines),而且是可理解的机器(intelligible machines)。技术会了解人类的事情,但是人类也必须了解机器的事情。大家应该对技术如何审视和分析世界有了解。伦理和设计必须齐头并进。
3、AI 必须实现效能最大化,同时又不能伤害人的尊严:它应该维护文化承诺,支持多样化。在设计这些系统时我们需要有更广泛更深入更多的各种互动。技术界不应该决定这个未来的价值观和美德。
4、AI 必须用于智能隐私:要有复杂的手段保护个人以及群体信息,要能够以增进信任的方式进行。
5、AI 必须承担算法责任以便人类可以撤销非故意的伤害。我们设计这些技术时必须考虑到预期和非预期的情况。
6、AI 必须防止偏见,确保进行适当的、有代表性的调查,从而防止错误的启发法不会造成歧视。
但是人类也必须遵守一些守则—尤其是在考虑清楚我们的后代必须重点考虑和培养哪些技能方面。为了不被时代抛弃,我们的孩子和他们的孩子需要有:
7、同理心—机器很难复制的同理心(Empathy)在人与 AI 共存的世界里非常有价值。感觉到别人的想法和感受,协作和建立关系将会变得至关重要。
8、教育—有人提出,因为寿命延长出生率会下降,因为在教育的投入也会降低。但我认为要想进行创新并管理好我们今天看不清楚的创新,我们就必须不断加大对教育的投资才能拔高我们的思考层次,才能获得更加公平的教育产出。新技术大规模实施所需的知识掌握和技能培养是一个非常困难的社会问题,要花很长时间才能解决。动力织机在 1810年 就发明出来了,但是由于经过充分培训的技工人手不足,服装业完成变革却花了 35年 的时间。
9、创造力—创造力是最梦寐以求的人类技能之一,这一点不会改变。机器会继续丰富和增强我们的创造力。小说家 Jhumpa Lahiri 最近在接受采访中被问到,作为有特殊影响的英国文学作家,为何要用自己的第三语言意大利语来进行新的文学创作?她说道:“不断探索难道不就是创造力的要点吗?”