在人工智能时代,自动或半自动的算法可以负责投资决策、照看儿童、驾驶汽车、完成医疗手术。未来的人工智能产品将直接影响人们的财产、健康甚至是生命,而你们就是这些产品的设计者、制造者。
作为工程师,我们不能背弃我们的道德和责任,我们需要在方方面面都做到严谨、勤勉、遵守道德。这不仅仅指架构和编码,还包含设计、测试、训练机器学习模型以及下载更新的参数等等。
第一代安全气囊拯救了许多人的生命,但同时由于设计和使用说明不完善,没有充分考虑儿童娇小的体形,也意外地导致了一些儿童的死亡。
所以你们的首要使命是对你们的用户负责,确保你们的产品安全、周密、有用。应该说不仅仅产品安全,你们还有绝对的责任去预见和防止潜在的技术失控对人类带来威胁。所以请大声地对“自动杀人机器”以及“用户隐私数据交易”说不!
你们的第二层使命是对自己负责,在人工智能时代,你不仅仅是与其他人竞争,你还在和人工智能竞争。你有责任优先解决疑难问题,而不是把你的时间浪费在机器就能胜任的事务上。不要选择一份对你毫无挑战性的工作,无论在哪个领域,都勇于冒险、勤于学习,只有这样,你才能成为最独特和最有价值的人类成员。要坚持创新和创造——人工智能的优势在于优化,而非从零创新。
各位的最后一项使命是作为工程师,用你们的选择让这个世界更加美好:选择拯救生命,而非残害生命;选择激励他人,而非打压别人;选择在富有同情心、不贪婪的机构工作;选择心怀世界和平而非妄图主宰世界的雇主。
我的最后一个建议:追随我心
谈了这么多严肃的技术话题,我接下来要说的观点可能在这儿听起来有些不恰当,但却是我的肺腑之言。
4年前,我被诊断患上淋巴癌第四期,当时我面对的无情事实:我的生命可能就只剩下短短几个月。
在那段前路未卜的时间,我对生命的意义深思良多。我意识到我所有的成就,包括在等待30多年后终于来到的人工智能时代,对我来说其实毫无意义。我意识到我过去所追求的科技、产品、投资、事业,我重视各种事情的优先级完全本末倒置。我忽视了我的家庭,我父亲去世了,我母亲已几乎不认得我,我的孩子们也不知不觉都长大了。
在治疗期间,我读了布朗妮·维尔(Bronnie Ware)的一本书,书中记录了临终病人一生中最后悔的事情。作者提到,没有一个人会为当年不够认真工作、不够努力加班、或财产积攒不足而后悔。人们临终时最最盼望的,是希望能再有机会花更多时间与自己所爱的人在一起。
幸运的是,目前我的病情已缓解稳定,所以今天我才能来到哥大和你们在一起。如今,我会花更多的时间陪伴家人,我把家搬到了离我母亲更近的住处,无论出差还是单纯出游,我都会尽量和我妻子一起出行。孩子们回家时,我会从工作中抽出两三周、而不是仅是两三天的时间来陪伴他们。
我同时还花更多的时间来认识新朋友,我会用周末时间与好朋友出游,我带领公司员工去硅谷度了一周的假期——硅谷对他们来说犹如圣地一般,我约见社群平台上向我提问的年轻人,我联系多年前我曾经冒犯过的人,请求他们的谅解。我写了一本书并拍摄纪录片,分享我与死神擦肩而过所学到的一切。
这段直面死亡的经历不仅改变了我的人生和价值观,还让我更清晰认识到人工智能对于人类的真正意义。
埃隆·马斯克和史蒂芬·霍金已经给出了他们的观点,他们认为机器将全面取代人类,而人类能仅存的选择:要么控制AI,要么成为AI。这段直面死亡的经历,让我想对人工智能的未来提出另一版结局。