图灵奖得主约瑟夫·斯发基斯：迈向广义 AI 面临三大挑战

7 月 8 日，以 “智联世界·众智成城” 为主题的 2021 世界人工智能大会正式开幕。2007 图灵奖得主国际嵌入式研发中心 Verimag 实验室创始人、教授约瑟夫·斯发基斯 (Joseph Sifakis) 在开幕式上介绍了从狭义人工智能到广义人工智能面临的三大挑战。

Sifakis 认为，狭义人工智能只提供了构建模块，但智能远不止在数据集上进行插值。光靠机器学习技术的不断进步无法实现广义人工智能这一愿景。

他认为，我们需要采取行动 ，从单个任务、单个目标、单个领域，如智能个人助理、棋手、自然语言翻译等的智能系统发展到响应式/主动式系统。主动式系统集成了许多协调任务，旨在实现可能存在冲突的多领域目标，并在不可预测的机电和人类环境中运行，例如自动驾驶汽车、智能电网、智能工厂。

但是，这面临三大挑战。他提出的第一个挑战关于神经网络敏感性的问题，在某些情况下，神经网络对输入数据的微小变化很敏感。

第二个问题是要提供可信保证。Sifakis 表示，系统的关键性意味着系统制造商需按照标准的规定向认证机构提供最终的可信保证。已经被成功应用于自动化系统（比如飞行控制器）的现有方法和工具遵循的是基于模型的范例。由于人工智能组件的不可解释性以及系统及系统环境的高度复杂性，这些方法和工具只能 “甘拜下风”。

不过，他也提出，虽然人工智能的可解释性很大程度上仍然是个问题，但它不应该成为障碍。

他认为这涉及到三个重要问题，首先，具有成本效益地利用不受信任的组件构建可信系统：开发出 “混合” 架构，以集成运行时可信保证监控器监控之下的不受信任 AI 使能组件，进而应对危险情况并在重大情况下进行接管；其次，共生智能：将人工代理（计算效率和精度）同人类代理（创造力和感知能力）的优点相结合，可以增强可信度——这一挑战远比人机界面（HMI）更为复杂。

此外，标准、法规和接受标准也在演变。法规要求有越来越宽松的趋势，例如美国自动驾驶汽车的自我认证，但由于技术问题和公信度的持续恶化，对这种情况的接受可能会受到影响。

迈向广义 AI 的第三个挑战是如何将符号知识和非符号知识联系起来。想要达到人类水平的性能，系统应具备处理常识世界知识的能力，而这需要将抽象意识思维和快思维结合起来。Sifakis 表示，人类思维具有可描述整个世界的语义模型，人类的理解过程结合了自下而上（从感知层次到思维语义模型）推理和自上而下（从语义模型到感知层次）推理。

Sifakis 认为，目前存在的挑战是如何开发出能够将学习技术和推理技术（外推、类比）相结合，进而逐步构建其环境语义模型的系统——这才是最大的难题，迄今为止在自然语言语义分析方面进展甚微即为证明。

文章作者

来莎莎