谷歌会像之前分享机器学习一样,分享人工智能研究进展吗?
Altman:他们当然会分享了。随着时间的推移,我们会接近更多超越人类智能的东西,问题在于谷歌会分享多少。
OpenAI会开发出超越人工智能的东西吗?
Altman:希望如此。但它会是开源的,不仅仅是谷歌,每个人都能拿来用。当然了,如果你拿去用了,做出什么成果了,也不是必须拿出来共享的。但是我们开发出来的任何东西都会公之于众。
如果作为使用者的我是“邪恶博士”那种坏家伙,怎么办?
Musk:这个问题很好,我们也为此讨论了很久。
Altman:关于这点我们有一些不同的想法。电影里,就有许许多多的人在和邪恶博士战斗。我们相信大部分人都是好人,虽然任何群体当中都会有邪恶博士这种坏家伙存在,但还是会有许多许多的人工智能努力去阻止少数的害群之马。如果不开源,一个人工智能的力量10亿倍于任何其他人工智能,那么万一有一天这个人工智能反戈相向,或是一个邪恶博士掌控了这个人工智能,人类将没有反抗的能力,成为待宰羔羊,那才是真正糟糕。
你们会对OpenAI的进展进行监督吗?
Altman:这是当然,但需要时间。现在只有我和Elon两个人做监督工作。不过我们距离开发出真正的人工智能还有很长很长一段路要走,我认为我们有足够的时间来建立起一个监督机制。
Musk:我们打算每周抽一到两个下午待在办公室里,来听取最新进展,给出我们的反馈,明确开发到了哪一步,是否已经接近某种危险的东西。安全问题我们会高度警觉,一旦看到潜在威胁,会立刻公之于众。
什么是不好的人工智能?能举个例子么?
Altman:恩,很多科幻小说都有类似描述,比如说《终结者》。不过这离我们还很遥远,短期内不必杞人忧天。但有件事我认为会是一个挑战,就是大规模的自动化会引发失业潮。不过我不认为这是不好的人工智能。另外一个例子也是大家都常提到的,并且当下已经发生,就是人工智能程序一旦化身黑客,会比人类黑客更加防不胜防。
现在你们已经有眉目了么?
Altman:没有,我们的起点不比别人高,很长一段时间里,都要实验研究。目前还没有人知道怎样打造人工智能。开业第一天我们有8位研究人员到位 此项目在猎云网投融资平台进行融资
到位
上门服务交易平台
,剩下的会在接下来几个月里陆续加入。目前他们会使用YC的办公空间,等研究有了进展,就搬到自己的实验室去。他们会一个一个尝试自己的点子,写各种各样的软件,看看能不能推进人工智能的现有技术水平。
会借助外力么?
Altman:这个必须有。一个完全开源的项目最大的优势就是能和任何人合作,因为大家可以自由分享信息。我们很难和谷歌员工沟通合作,因为他们要遵守很多保密规定。
Sam,既然OpenAI一开始是在YC办公室进行的,你的公司可以利用OpenAI的研究成果么?
Altman:如果OpenAI开发出了真正伟大的技术,任何人、任何公司都可以免费使用。没有比那样更好的事儿了。但现在,我们正打算看看YC有哪些数据是可以提供给OpenAI的,Elon 也正打算看看Tesla和Space X公司有哪些可以共享的数据。
哪种数据可以共享呢?可以举个例子么?
Altman:太多了。打个比方,新闻网站Reddit上的所有数据都会是非常有用的。所有特斯拉无人驾驶汽车的视频信息都非常有价值。掌握大量数据至关重要。人类是怎样获得智慧的呢?可以通过读书。你读了一本书,你就聪明了一点。我读了一本书,我也获得了智慧。但旁人读的书,就不能让我俩获得智慧了。而就以特斯拉为例,只要一台特斯拉获得了某种情报,所有特斯拉都会立刻从中受益,变得更加智能。
Musk:总的来说,很多具体计划还没制定,因为公司才刚刚办起来,还处于胚胎阶段。不过,特斯拉有大量的真实数据,因为我们的车队每天都要跑上数百万英里。特斯拉关于现实世界的数据可能比这世上任何其他公司都要多。