Bard 自学外语,还编了五本书?谷歌 CEO 承认:“不完全理解” 它是如何运作的

Wallstreetcn
2023.04.17 12:21
portai
I'm PortAI, I can summarize articles.

Sundar Pichai 认为,社会还没有为人工智能的快速发展做好准备,因此它需要更强有力的监管。

谷歌 CEO 警告称,如果对人工智能的部署不当,可能造成非常严重的危害。

4 月 16 日周日,谷歌的 CEO Sundar Pichai 在接受媒体采访时表示,推动采用人工智能技术必须受到良好且强有力的监管,以避免潜在有害影响。

此前谷歌表示,人工智能存在的一个问题是其 “突发属性”(emergent properties),即它可以自学没有受过训练的技能。谷歌上个月推出了人工智能聊天机器人 Bard,但谷歌发现,Bard 在得到孟加拉国语的提示后,无需训练就能学习孟加拉国语。

Pichai 承认,他并不 “完全理解” Bard 是如何运作的,“我认为我们也没有完全理解人类的思维是如何运作的”:

这其中有一个方面,我们所有人都称之为 “黑匣子”。你知道,但你并没有完全理解。你不知道它为什么会这样说,也不知道它为什么会出错。

我们有一些想法,随着时间的推移,我们的理解能力会越来越强。但这就是目前的技术水平。

值得注意的是,Bard 还写了一篇关于经济学中通货膨胀的文章,并推荐了五本书,但是这些书实际上并不存在。

当被问及是什么让他无法安然入睡时,Pichai 说:“工作的紧迫性,并需要以有益的方式部署人工智能;如果部署不当,它可能造成非常严重的危害。”

谷歌一直是人工智能领域开发和实施的先驱者之一,但该公司部署这项技术的步伐一直是十分谨慎的。Pichai 表示:“我们还没有找到所有的答案,但技术正在快速发展。这让我晚上睡不着觉吗?绝对的。”

谷歌现在正在迎头赶上,希望向其产品注入生成式人工智能,这可以根据用户提示创建文本、图像、音乐甚至视频。但尽管存在紧迫感,Pichai 仍警告企业不要被卷入到竞争态势中。他认为,社会还没有为人工智能的快速发展做好准备:

他们提出的一个观点是,当这种技术非常非常强大时,你不想推出这种技术,因为它没有给社会适应的时间。

我认为这是一个合理的观点。我认为有负责任的人在试图弄清楚如何使用这项技术,我们也是如此。

华尔街见闻此前提及,3 月 22 日,生命未来研究所(Future of Life)向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比 GPT-4 更强大的人工智能系统的训练,暂停时间至少为 6 个月。图灵奖得主 Yoshua Bengio、马斯克、苹果联合创始人 Steve Wozniak 等上千名科技大佬和 AI 专家已经签署公开信。

Pichai 强调,生成式人工智能的风险之一是 “深度伪造技术视频”(Deepfake videos)。此类视频可将已有图像或视频叠加至目标图像或视频上,伪造面部表情并将其呈现至目标视频。在这些视频中,人们所说的话实际上并非出自其口。Pichai 表示,这些隐患说明了监管的必要性。

他还警告称,人工智能将影响 “每一家公司的每一款产品”。将被人工智能颠覆的工作包括 “知识工作者”,其中有作家、会计师、建筑师。具有讽刺意味的是,甚至还有软件工程师。