马斯克认为,人工智能是最有可能影响人类未来的事情,遗传学可能是第二重要的事。
马斯克认为,人工智能是最有可能影响人类未来的事情,遗传学可能是第二重要的事。
2016 年 9 月,现今 OpenAI CEO,ChatGPT 之父,时任创投公司 Y Combinator 的总裁 Sam Altman 在特斯拉加州弗里蒙特工厂采访了埃隆·马斯克。马斯克阐述了创建 OpenAI 的初衷,以及就他而言,对于未来最为重要的五件事。
这是 OpenAI 的两位联合创始人之间的一次对话,按某位油管读者的评论,宛如 “成名前的科比访谈乔丹”。
时间背景:马斯克和 OpenAI 的渊源
2015 年 12 月
Sam Altman 和埃隆·马斯克等六人,亚马逊 AWS,Infosys,以及 YC Research 共同宣告 OpenAI 成立,并注资 10 亿美元。
2016 年 9 月
本次访谈。Sam Altman 时任创投公司 Y Combinator 的总裁。特斯拉 4 月刚发布 Model 3 新车型,正在搭建自动产线,老马即将深陷 “产能地狱”。
2018 年
马斯克退出 OpenAI 董事会席位,声称因他同时担任特斯拉 CEO,开发基于人工智能的自动驾驶技术,而可能有 “潜在的利益冲突”。
2019 年
OpenAI 从非营利组织转变为 “有限盈利” 的营利组织。
2020/2021/2022 年
OpenAI 相继推出 GPT-3 模型,DALL-E(通过文本生成图片),ChatGPT 等产品。
最重要的事
-
就最有可能影响人类未来的事情而言,我认为人工智能可能是短期内最重要的事。
-
我认为,遗传学可能是第二重要的事。
-
25 年前,我认为最重要的(五件)事是:让生命跨越行星,加速向可持续能源的过渡,广义上的互联网,然后是遗传学和人工智能。
选择做有用的事
-
这就是为什么,创造一些能带来巨大变化的东西,影响少量到中等数量的人,这很棒。但即使只带来了很小的变化,如果能影响大量的人,也一样出色。
-
如果人们认为,每一年技术都会自动进步,那么,事实并非如此。只有聪明的人们疯狂地工作,努力让它变得更好,它才会进步。这就是任何技术得以进步的真正方法。
-
我认为你应该永远记住,熵并不在你这边。
-
我并不是没有恐惧感,我的感觉很强烈。但有时,当一件事足够重要,你足够相信它,你就会不顾恐惧,放手去做。
人工智能风险,创立 OpenAI 的初衷
-
我认为,风险并不在于人工智能会源于邪恶而发展出自我意志。令人担心的是,某些人可能会拿它来干坏事,而即使他们不打算拿它来干坏事,也会有人把它拿走,然后用它来干坏事。
-
我认为我们必须实现人工智能技术的民主化,并让它能广泛使用。而这显然就是整个团队创建 OpenAI 的原因。
-
如果我们能改善大脑皮层和 “数字化扩展的你” 之间的脑机接口,有效地与人工智能融合,你事实上就成了一个人工智能和人类的共生体。
-
如果这个方案能被广泛获取,任何人都可以拥有它,那么我们也就解决了控制权问题。我们不必再担心某个邪恶的独裁人工智能,因为整体而言我们就是人工智能。
访谈全文
Sam:
今天我们请到了埃隆·马斯克。埃隆,感谢你接受采访。
埃隆:
感谢你邀请我。
Sam:
今天,我们想花点时间谈谈你对未来的看法,以及人们应该往哪些方面努力。
首先,你能否告诉我们,你年轻时曾说过一句著名的话,你认为,对你来说,有五个问题是需要从事的最重要的工作。如果你今天回到 22 岁,你会想要解决的五个问题是什么?
埃隆:
嗯,首先,我认为如果某人在做一些对社会其他人有用的事情,这就是件好事,不一定需要改变世界。
如果你做的事情对人们来说有很高的价值,坦率地说,即使只是一个小游戏,或者只是照片分享的某种改进,如果它对于大量的人群能带来少量的好处,我认为这就很好。并不一定非得要改变世界,才算是好事。
但是,就最有可能影响人类未来的事情而言,我认为人工智能可能是短期内最重要的事。
重要的是,我们让人工智能以良好的方式到来,让你如果能透过水晶球看到未来,你会欣喜那样的结果,因为就如我们多次讨论的,这件事可能会出错。我们的确需要确保它以正确的方式发展。
人工智能,致力于人工智能,并确保它的未来很美好。这是我认为目前最重要,最紧迫的事情。
然后,显然是任何与遗传学有关的事情。如果你能真正解决遗传性疾病,如果你能通过基因重新编程,预防痴呆症或阿尔茨海默氏症,这就太棒了。我认为,遗传学可能是第二重要的事。
我认为,需要拥有一个高带宽的大脑接口,因为我们目前带宽有限。我们有一个数字化的 “第三级自我”,以电子邮件、电脑、电话、应用程序的形式存在。实际上,我们已经是超人了。但我们的大脑皮层和第三级数字形式的自我之间,在接口上的限制相当糟糕。
我认为,帮助解决这一带宽限制,对于未来也是非常重要的。
Sam:
雄心勃勃的年轻人最常问的问题之一是,我想成为下一个埃隆·马斯克,怎样才能做到这一点?
显然,下一个埃隆·马斯克将从事和你非常不同的事情。但你的哪些过往经历,你年轻时做过些什么,对你产生了巨大的影响?
埃隆:
嗯,首先,我应该说,我并不期望参与所有这些项目。
大学期间,那已经很久了,25 年前,我认为最重要的事是:让生命跨越行星,加速向可持续能源的过渡,广义上的互联网,然后是遗传学和人工智能。
我想,我并不期望自己参与所有这些项目。事实上,在读大学的时候,我想过,我会从帮助汽车向电动化转变开始。而实际上,我实习时所从事的工作,就是高级的超级电容,看看对于汽车的能量存储来说,是否相对于电池会是一个突破。
然后,当我去斯坦福的时候,这也是我原本要做的研究生课题,研究电动汽车的最新储能技术。
而我搁置了学业,在 95 年创办了一家互联网公司。因为对于某些特定技术来说,当时似乎的确处于曲线的一个拐点。而我并不想只是在斯坦福大学读博士,然后看着这一切发生,我也并不完全确定我所研究的技术是否真的会取得成功。正如你可以攻读很多方向的博士学位,但最终也没对世界产生实际的影响。
而我只是想成为一个有用的人。这就是一个优化问题,我能做些什么才会真正有用?
Sam:
你认为今天想成为有用的人,需要读取博士学位吗?
埃隆:
大多数情况下,并不需要。有些情况需要,但大多数情况并不需要。
Sam:
那么,怎么样才能成为有用的人呢?
人们应该如何寻求让自己成为最有用的人的方式?
埃隆:
不管你想创造的是什么,与当前技术水平相比的实用性提升是多少,乘以会影响的人数。
这就是为什么,创造一些能带来巨大变化的东西,影响少量到中等数量的人,这很棒。但即使只带来了很小的变化,如果能影响大量的人,也一样出色。
这就像曲线之下的面积。是的,没错,这两种情况,曲线下的面积其实大致相似。是的,努力成为有用的人,有影响的人。
Sam:
然后,当你努力估算成功的概率,你会说,这件事非常有价值,曲线下的面积颇为可观。
我想举 SpaceX 的例子,当你决定要做这件事的时候,在当时,这是一件非常疯狂的事情吧?
埃隆:
当然,非常疯狂。人们对此并不确定,但我同意,我同意他们的看法,这很疯狂。
如果目标是实现经风险因素调整后最好的回报,创办一家公司的确是疯狂的,但那并不是我的目标。显然我的结论是:如果不做些什么改进火箭技术,我们将永远困在地球上。
而当时,大型航空航天公司对于激进的创新毫无兴趣,他们所想要做的,只是努力让他们的旧有技术每年进步一点点。而事实上,有时他们的技术甚至会变得更糟。特别是在火箭方面,情况相当糟糕。
69 年,我们还能用土星五号登月。然后,航天飞机只能把人带到低地球轨道上。然后,航天飞机退役了。我是说,这个趋势,基本上就是趋向于零。
如果人们认为,每一年技术都会自动进步,那么,事实并非如此。只有聪明的人们疯狂地工作,努力让它变得更好,它才会进步。这就是任何技术得以进步的真正方法。
而就技术本身而言,如果人们并不努力工作,它就会退步。你可以看看文明的历史,众多文明,比如古埃及。他们当时能够建造这些神奇的金字塔,然后,他们基本上忘记了如何建造金字塔,再然后,他们也忘记了如何阅读象形文字。
再看看罗马人,他们当时能够建造这些神奇的道路、水渠和室内管道,而他们后来忘记了如何建造所有这些。
历史上有很多这样的例子。我认为你应该永远记住,熵并不在你这边。
Sam:
我很喜欢你的一点,是你异常的无畏,别人说的疯狂的事,你也愿意去做。我认识很多相当疯狂的人,但你仍然很突出。
这一点从何而来?或者说,当所有人都告诉你这是一个疯狂的想法时,你是如何做出决定的?或者,你是从哪里得到了内在的力量,去做这样的决定?
埃隆:
嗯,首先,我想说的是,我其实认为我对恐惧的感受相当强烈。我并不是没有恐惧感,我的感觉很强烈。
但有时,当一件事足够重要,你足够相信它,你就会不顾恐惧,放手去做。
人们不应该这样想:嗯,我对这件事感到恐惧,我就不应该去做。感到恐惧是正常的,如果你不感到恐惧,那一定是你的心理有某种问题。
Sam:
你就感受着恐惧,然后让事情的重要性驱动你动手去做。
埃隆:
事实上,在某种程度上,宿命论有所帮助。如果你接受了概率,那么,这就能减少你的恐惧。
当创建 SpaceX 时,我认为成功的几率不到 10%。而我接受了这一点,事实上,我很可能会失去一切。但是,如果能向前推进的话,也许我们会取得一些进展。即使我们倒闭了,也许其他公司会接过接力棒,继续向前推进,这仍然是一件好事。
是的,特斯拉也一样。我当然认为,一家汽车公司获得成功的几率极低。
Sam:
当前,你认为建立火星殖民的概率有多高?
埃隆:
嗯,奇怪的是,我认为概率还挺高的。
Sam:
那我什么时候可以去火星呢?
埃隆:
好吧,当前,我确定有一个办法,我确定对于建立一个自给自足,不断发展的火星殖民地而言,成功有可能的,我确定这是有可能的。而甚至几年前,我都还不确定是否有成功的可能性。
送足够数量的人去火星,我认为这件事有可能可以在大约 10 年内完成。也许更快,也许 9 年。
在那之前,我需要确保 SpaceX 公司不会倒闭,而且我不会死去,或者如果我死了,有人会接手能继续这件事。
Sam:
你不应该跟随第一次发射去火星。
埃隆:
没错。不过反正第一次发射肯定是不载人的。
Sam:
我想去火星,但我受不了网络延迟。
埃隆:
是的,网络延迟会很明显。
火星离太阳约 12 光分,而地球是 8 光分。地球和火星的最近距离是 4 光分,最远是 20 光分。会略多一些,因为你们不能直接对着太阳通话。
地球和火星轨道的相对关系
Sam:
说到真正重要的问题,人工智能,你一直对人工智能直言不讳。你能谈谈人工智能的积极未来是什么样子吗,以及我们如何实现这一未来?
埃隆:
好的,我想强调下,并不是我这样倡导,也不是什么条条框框,这纯粹只是一个预测。因为有时人们会说,这是我所希望发生的事情,而不是说,这是现有替代方案中,我认为可能最好的方案。
我可以想出的最好替代方案,也许也是其他人可以想出的最好方案,就是:我们实现人工智能技术的民主化。也就是说,没有任何一家公司或一小部分人能控制高级人工智能技术。
我认为那是非常危险的状况。
它也可能被某些坏人偷走,比如,某些邪恶的独裁者或国家可能会派情报机构偷取它,并获得控制权。一旦你获得了极其强大的人工智能技术,就会变成一个非常不稳定的状况,你就不知道,谁会来掌控它。
我认为,风险并不在于人工智能会源于邪恶而发展出自我意志。令人担心的是,某些人可能会拿它来干坏事,而即使他们不打算拿它来干坏事,也会有人把它拿走,然后用它来干坏事。我认为,这个危险相当的大。
因此,我认为我们必须实现人工智能技术的民主化,并让它能广泛使用。而这显然就是整个团队创建 OpenAI 的原因。那就是,帮助传播人工智能技术,这样,它就不会被集中在少数人的手中。但当然,这需要与解决大脑皮层的高带宽接口相结合。
Sam:
人类是如此的迟缓。
埃隆:
人类是如此的迟缓,是的,没错。
但是,我们的大脑已经具备了大脑皮层和边缘系统。边缘系统就像是一个原始的大脑,它就像是你的本能。然后,大脑皮层是负责大脑思维的一个部分。
这两个系统似乎可以很好地协同工作。偶尔,你的大脑皮层和边缘系统会有分歧,但一般来说,它们都能很好地协同工作。我还没有发现有人想要切掉他们的大脑皮层或他们的边缘系统的。
Sam:
没错。
埃隆:
是的,这很不常见。
如果我们能改善大脑皮层和 “数字化扩展的你” 之间的脑机接口, 有效地与人工智能融合,正如我所说,“数字化扩展的你” 已经存在,只是有带宽问题,然后,你事实上就成了一个人工智能和人类的共生体。
如果这个方案能被广泛获取,任何人都可以拥有它,那么我们也就解决了控制权问题。我们不必再担心某个邪恶的独裁人工智能,因为整体而言我们就是人工智能。
这似乎是我能想到的最好结果。
Sam:
你看到过很多其他公司,从小规模起步,并获得了真正的成功。
希望我不至于忘记在镜头前问这个问题,作为一家成立六个月的公司,你认为 OpenAI 的进展如何?
埃隆:
我认为它的进展挺好的。
我认为,我们在 OpenAI 有一个非常有才华的团队。是的,非常非常有才华的团队,他们工作非常努力。
OpenAI 的结构是一个 501c3 非营利组织。许多非营利组织都没有紧迫感,这没问题,他们不需要有紧迫感。但是 OpenAI 有,因为人们真正相信它的使命。我认为这很重要,这个使命是关于将未来的生存伤害风险降到最低。
我认为它的进展挺顺利,对于人们在做的事和人才的水平,我的印象很深。显然,我们一直在寻找相信这个使命的优秀人才加入。
Sam:
接近 40 人了。
好的,在我们结束之前,还有几个问题,你的时间是怎么分配的?你的大部分时间花在哪里?
埃隆:
我的时间主要是花在 SpaceX 和特斯拉。
当然,我努力每周花一些时间在 OpenAI 上。基本上,大多数星期我都会花半天时间在 OpenAI 上。然后,周中也会有一些 OpenAI 的事务。但除此之外,基本就是 SpaceX 和特斯拉。
Sam:
那么,在 SpaceX 或特斯拉时,你会做些什么?你的时间主要花在哪里?
埃隆:
这是个好问题。
我想,很多人认为我一定花了很多时间在媒体或商业的事务上。但其实,我几乎所有的时间,80% 的时间是花在工程和设计上,工程和设计。开发下一代产品,花了我 80% 的时间。
Sam:
你可能不记得这件很久以前的事情了,很多年前,你带我参观了 SpaceX。最令人印象深刻的是,你了解火箭和工程技术的每一个细节。我不认为很多人能做到这一点。
埃隆:
是的,我想,很多人认为我是商人或之类的身份,没问题。
但在 SpaceX,格温·肖特维尔是首席运营官,她负责管理法务、财务、销售和日常的商业活动。然后我的时间几乎完全花在工程团队上,致力于改进猎鹰 9 号和龙飞船,并开发火星殖民架构。
然后,在特斯拉,是从事 Model 3 的工作。有时在设计工作室,通常每周半天,处理美学,界面外观的问题。然后一周的大部分时间是跟进汽车本身的工程工作,以及工厂的工程工作。
我今年最大的感受是,真正重要的,是生产机器的机器,也就是工厂。而这至少比汽车本身难两个数量级。
Sam:
看着机器人在这里工作,而这些车就这样被造出来了,这真是不可思议。
埃隆:
是的,与即将建成的超级工厂和 Model 3 产线相比,这里的自动化程度算低的。
Sam:
这些汽车在生产线上的行进速度是多少?
埃隆:
事实上,生产线的平均速度是很慢的。包括 X 和 S,可能也只有每秒 5 厘米,很慢。
Sam:
那你的目标是多快?
埃隆:
我相信我们至少可以达到每秒 1 米,提速 20 倍。
Sam:
这就很快了。
埃隆:
是的,这少这个速度。
我认为可以这么看,每秒 1 米是慢速行走,或者说是中速行走。快速行走是每秒 1.5 米。然后,速度最快的人类可以每秒跑超过 10 米。
如果我们每秒只前进 0.05 米的话,那真的是非常慢。而每秒 1 米,你的步行速度仍然可以比生产线快。
本文来源: 瓦砾村夫,原文标题:《ChatGPT 之父 Sam Altman 七年前访谈马斯克:创建 OpenAI 的初衷,及未来最重要的事》
风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。