暂停研发 AI 大模型 6 个月?马斯克领衔的这封公开信争议很大

Wallstreetcn
2023.03.30 01:34
portai
I'm PortAI, I can summarize articles.

仔细观察名单,签署呼吁信的主要有三类人群:学者、之前套现的公司创始人以及在人工智能竞备赛中落后的公司负责人。马斯克似乎是与人工智能最相关的上市公司负责人。

人工智能风口正盛,一封呼吁暂停大型 AI 研究的公开信在硅谷科技圈流传开来,激起千层浪。

最具戏剧性的是,OpenAI CEO Sam Altman 的名字也曾赫然出现在公开信上。

不过周三晚些时候被证实是虚假签名,Altman 在接受媒体采访时,他并没有计划呼吁暂停人工智能的开发。

Altman 并不同意这封信的观点,他指出:

OpenAI 不仅非常重视 AI 安全,而且比业内其他公司更重视。我们谈论这些问题的声音最大、强度最大、时间最长。

公开信引发争议

近日,OpenAI 发布了 ChatGPT 升级版 GPT-4,GPT-4 在与人类交互方面和一些最具挑战性的标准化测试中表现出色,但同时这也引起了人们的警觉。

3 月 22 日,非盈利组织生命未来研究所发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比 GPT-4 更强大的人工智能系统的训练,暂停时间至少为 6 个月。图灵奖得主 Yoshua Bengio、马斯克、苹果联合创始人 Steve Wozniak 等上千名科技大佬和 AI 专家均签署了公开信。

在众多大佬的光环下,这封信引起轩然大波,部分认为这就是是 “酸葡萄心理”,AI 竞赛中落后的玩家在为自己争取 6 个月的时间。

不过,也有人认为担忧有一定的合理性,AI 发展太快,监管和审查方面没有跟上步伐。

仔细观察名单,签署呼吁信的主要有三类人群:学者、之前套现的公司创始人以及在人工智能竞备赛中落后的公司负责人。比如,苹果联合创始人 Steve Wozniak 签署了信,Pinterest 联合创始人 Evan Sharp 也是如此。大约 30% 的签署者为学者,马斯克似乎是与人工智能最相关的上市公司负责人。

值得一提的是,尽管图灵奖得主 Yoshua Bengio 名字在内,但深度学习学界三巨头另外两位,泰斗级的 Hinton 没有公开表态,LeCun 则清晰指出不同意这一观点前提。

签署者名单还缺少 Jack Clark,他是人工智能安全和研究公司 Anthropic 的联合创始人。Anthropic 与谷歌云建立了正式合作伙伴关系,谷歌在 Anthropic 上投资了近 4 亿美元,加剧了该公司与 OpenAI 的竞争。

马斯克为什么签署公开信?

本来是 AI 的支持者,特斯拉曾举办两个人工智能日,向投资者介绍该公司的 AI 工作,并招募顶级 AI 科学家为这家电动汽车制造商工作。那马斯克为什么会签署反对的公开信?

分析指出,马斯克并不是 AI 的狂热爱好者,他只是想开发关于汽车的狭义人工智能。

这是马斯克为了改善特斯拉处境而做出的精明举动。”Wedbush 分析师 Dan Ives 表示:

这封信的呼吁将限制微软的发展速度,因为微软几乎在 AI 竞赛中处于霸主地位,谷歌紧随其后。

对于特斯拉来说是一把双刃剑,马斯克下一步的重点是推动自动驾驶技术研发。

分析指出,一方面马斯克下一步的重点是推动自动驾驶技术,其在暂停期间可以加快该技术研发;另一方面暂停大型 AI 研发是否会波及到暂停特斯拉的研发,目前尚不清楚。任何影响自动驾驶汽车潜力的事件都可能影响特斯拉的股价。

特斯拉正在以 15000 美元的价格出售其 “全自动驾驶” 辅助软件,目前这个系统尚不能完全自动化,仍需要驾驶员监督。

而特斯拉最大的投资者之一木头姐 Cathie Wood,相信自动驾驶软件将解锁数千亿甚至数万亿的市值。木头姐预计,到 2026 年,自动驾驶软件将每年为特斯拉带来 2800 亿美元的利润。值得一提的是,木头姐并不在签署者名单上。