人工智能的革命尚未发生

谭永东

人工智能的革命尚未发生

Michael I. Jordan，加州大学伯克利分校电气工程与计算机科学系、统计系教授

2018年4月

Yongdong Tan and Google 协译（2018年5月5日）

***标题为译者所加

对同一个概念（短语）不同描述者的错位或迷惑

“人工智能（AI）是当今时代的口号。 这句话被技术人员、学者、记者和风险投资家一致赞扬。 如同从技术学术领域跨越到公众的许多短语一样，在使用短语的同时存在重大的误解。 但这不是公众不了解科学家的经典情形- 在这里，科学家经常和公众一样迷惑。 我们这个时代的想法在某种程度上看到了硅片中智能的出现，它可与自我娱乐相媲美 - 激励着我们并以同样的方式吓倒我们。 不幸的是，它让我们分心。”

我（译者）不由联想到物理学家Henry Augustus Rowland 1883年关于“科学”的演讲，同样的犀利！
【especially in American newspapers, to have the applications of science confounded with pure science: and some obscure American who steals the ideas of some great mind of the past, and enriches himself by the application of the same to domestic uses. 】
特别是在美国报纸上，把科学的应用与纯科学混杂在一起：一些模糊的美国人偷走了过去的伟大思想观念，并且通过将其应用于自己的行当而富裕自己。

遗传学家看机器读数，统计学家看数据的本真（文脉）

人们何以描述当前这个时代，存在着不同的叙述叙述方式。考虑下面的故事，它涉及人类、计算机、数据和生死决定，但重点不在于硅片智能之幻想。

当我的妻子在14年前怀孕时，我们进行了超声波检查。房间里有一位遗传学家，她指出胎儿心脏周围有一些白色斑点。 “这些都是唐氏综合征的标志”她指出，“现在你的风险已经升高到1/20。”她进一步告诉我们，我们可以通过羊膜穿刺术了解胎儿事实上是否具有唐氏综合症的基因改变。但是羊膜穿刺术风险很大 - 在手术中杀死胎儿的风险大约为1/300。

作为统计学家，我决定找出这些数字来自哪里。长话短说，我发现一个统计分析在英国已经进行了十年，这些反映钙积聚的白色斑点确实是唐氏综合征的预测指标。但我也注意到，在我们的测试中使用的成像机器比英国研究中使用的机器每平方英寸多几百个像素。我回过头来告诉遗传学家，我相信这些白斑可能是假阳性 - 它们实际上是“白噪声”。她说：“啊，这就解释了为什么我们几年前开始看到唐氏综合征诊断的增加;自使用新机器开始”。】

（原来医学家看到的数据有问题，数据的文脉发生了变化）

不理解数据的文脉怎么能好好使用数据呢？（比如图像诊断）

这个事件显示的问题与我个人的医疗保健无关; 它事关一个医疗系统，它可以测量不同时间地点的变量和结果，进行统计分析，并在其他地方和时间使用这些结果。 这个问题不仅与数据分析本身有关，而且与数据库研究人员所称的“来源”有关 - 广义而言，数据出现在哪里，数据得出了什么推论，以及这些推论与当前情况之间的相关程度如何？

一个训练有素的人可能能够在个案的基础上进行所有这些工作，但问题在于设计一个行星级医疗系统，它可以做到这一点而无需进行这种详细的人类监督。（文脉理解问题！）

体系化的AI系统在哪里？

我也是一名计算机科学家，想到建立这种行星级推理和决策系统所需的原则，将计算机科学与统计学相结合，并考虑到人类的效用，在我的教育中无处可寻。 我想到，不仅在医疗领域，而且在商业、交通和教育等领域，这些原则的发展至少与建立AI系统的原理一样重要，这些系统的对局或感觉运动技能可以令我们眼花缭乱。（根本还是一个文脉理解问题）

关于跨学科的“智能学科”构建的出发点

无论我们是否很快就能理解“智能”，我们都面临着一个重大挑战，即将电脑和人类聚集在一起，从而增强人类的生活。尽管有些人认为这种挑战是屈从于“人工智能”的创造，但它也可以被更平常地看待 - 但同样具有崇敬 - 就像创建一个新的工程学分支一样。就像过去几十年的土木工程和化学工程一样，这门新学科的目标是收集几个关键思想的力量，为人们带来新的资源和能力，并且安全地做到这一点。

鉴于土木工程和化学工程建立在物理和化学之上，

这个新的工程学科将建立在前一个世纪构造的实质基础上 –

诸如“信息”，“算法”，“数据”，“不确定性”，“计算“，”推理“和”优化“。

此外，由于新学科的重点将放在源于人类并作用于人类的数据上，其发展将需要社会科学和人文科学的观点支持。

“AI”这个词能作为智能的通配符吗？构思一下“智能基础设施”（Intelligent Infrastructure，II）这个学科

社会尺度的推理和决策系统如何构建？

虽然（构建智能学科的）模块已经开始出现，但将这些模块组合在一起的原则还没有出现，因此这些模块将以特定（ad-hoc）方式组合在一起。

因此，就像在土木工程建立之前，人类建造建筑物和桥梁一样，我们正在构建涉及机器、人类和环境的社会尺度的推理和决策系统。 正如早期的建筑和桥梁有时会坍塌 - 以一种不可预见的方式和悲惨的后果 - 我们早期的许多社会尺度推断和决策制度已经暴露出严重的概念缺陷。

“AI”这个词能作为智能的通配符吗？

不幸的是，我们并不善于预测下一个正在出现的严重缺陷。 我们缺少的是一个具有分析和设计原理的工程学科。

目前关于这些问题的公开对话过于频繁地使用“AI”作为智能通配符，这使得人们很难推断新兴技术的范围和后果。

让我们从更仔细地考察最近和历史上“AI”指称的是什么。

“机器学习”（ML）是真实的，而不仅仅是最近才有的

今天大部分被称为“AI”的东西，特别是在公共领域，被称为“机器学习”（ML），过去几十年来一直是这样。

ML是一个算法领域，它将来自统计学，计算机科学和许多其他学科（见下文）的想法融合在一起，设计算法来处理数据、做出预测并帮助做出决定。就对现实世界的影响而言，ML是真实的，而不仅仅是最近才有的。事实上，ML在20世纪90年代初期已变得非常清晰，到20世纪之交，亚马逊等具有前瞻性的公司已经在他们的业务中使用了ML，从而解决了欺诈行为中的关键任务后端问题检测、供应链预测，以及建立创新的面向消费者的服务，如推荐系统。随着数据集和计算资源在接下来的二十年中快速增长，很明显，ML不仅为亚马逊提供支持，基本上任何公司都可以将决策与大规模数据联系在一起。新的商业模式将会出现。

“数据科学”被用来指代将决策与大规模数据联系在一起

“数据科学”这个短语开始被用来指代这种现象，反映了ML算法专家需要与数据库和分布式系统专家合作构建可扩展的、健壮的ML系统，并且反映了更大的社会和环境范围酿成系统。

思想和技术趋势的这种汇合在过去几年被重新命名为“AI”。 这个品牌重塑值得进行一番审查。

“人类模仿的AI”一词强调人工智能实体应该是我们中的一员

从历史上看，“人工智能”（AI）这个词在1950年代后期被创造出来，指的是在软件和硬件中实现具有人类智能之实体的强烈愿望。我们将使用“人类模仿的AI”一词来指代这一愿望，强调人工智能实体似乎应该是我们中的一员，即使不是身体上的至少也是在精神上（无论这可能意味着什么）的。这主要是一个学术群体。虽然运筹学、统计学、模式识别、信息理论和控制理论等相关学术领域已经存在，并且常常受到人类智能（和动物智能）的启发，但这些领域可以说是集中在“低层次”信号和决策上。例如，松鼠能够感知它所居住的森林的三维结构，并在其分支之间跳跃，这对于这些领域（上述学术群体）来说是鼓舞人心的。 “人工智能”旨在关注事物的某些不同- 人类在“推理”和“思考”时的“高阶层次”或“认知”能力。然而，60年后，高阶推理和思想仍然难以捉摸。目前“人工智能”的发展主要出现在与低级别模式识别和运动控制相关的工程领域，以及统计学领域 - 该学科专注于找到数据中的模式并进行有根据的预测、假设的测试和决策。

将一些特定的成功笼统称为AI合适吗？

事实上，20世纪80年代早期David Rumelhart重新发现的著名的“反向传播”（ backpropagation）算法，现在被视为所谓的“AI革命”的核心，最早出现在20世纪50年代和60年代的控制理论领域。其早期应用之一是优化阿波罗太空船在飞向月球时的推力。

自20世纪60年代以来，取得了很大进展，但可以说这些进展并不是来自追求人类模拟的人工智能。相反，就像阿波罗太空船一样，这些想法常常隐藏在幕后，一直是研究人员关注特定工程挑战的手段。尽管对公众不可见，但文档检索、文本分类、欺诈检测、推荐系统、个性化搜索、社交网络分析-计划-诊断和A / B测试等领域的研究和系统建设取得了重大成功 - 这些都是推动谷歌，Netflix，Facebook和亚马逊等公司发展的动力。

人们可以简单地同意将所有这些称作“AI”，事实上这似乎会导致其他一些事情的发生。 这样的标签可能会让优化或统计学研究人员感到意外，这些研究人员一觉醒来发现自己突然被称为“人工智能研究人员”。但是，除了将研究人员贴上标签之外，更大的问题是，使用这种单一的不明确的首字母缩写词阻碍了人们对智能和商业问题之范围的清晰理解。

“智能增强”（ Intelligence Augmentation，IA）是什么东东

过去二十年来，在工业界和学术界取得了重大进展，对人工模仿AI的辅助愿望通常被称为“智能增强”（ Intelligence Augmentation，IA）。 这里计算和数据用于创建服务来增强人类智慧和创造力。 搜索引擎可以被看作是IA的一个例子（它增加了人类的记忆和事实类的知识），自然语言翻译（它增强了人类沟通的能力）也可以被看作是一个例子。 基于计算的声音和图像生成可以作为艺术家的调色板和创意增强器。 虽然这种服务可能涉及高阶的推理和思想，但目前他们不这样做 - 他们大多执行各种字符串匹配和数字操作，来捕获人类可以使用的模式。

构思一下“智能基础设施”（Intelligent Infrastructure，II）学科

希望读者能够容忍最后一个缩写词，让我们广泛构思“智能基础设施”（II）这个学科，由此存在一个计算网络（Web）、数据和物理实体，使人类环境更具有支持性、趣味性和安全性。 这种基础设施开始在交通、医药、商业和金融等领域出现，对个人和社会有着巨大的影响。 这种浮现有时出现在关于“物联网”（IoT）的对话中，但是这种努力通常指的是仅仅是将“事物”带到互联网上的问题 - 而不是指能够分析与这些“事物”相关的更大的系列挑战---通过分析数据流来发现关于世界的事实，并且在更高的抽象层次上与人类或其他“事物”进行交互。

【译者注：在哲学的语境中，事物“things”是在时空中存在的，事实facts 是可以用概念来定义并设置属性的。】

例如，回到我的个人轶事中，我们可以想象将我们的生活置于一个“社会规模的医疗系统”中，它建立数据流和数据分析流程，位于人体内和周围的医生和设备之间，从而能够帮助人类进行诊断和提供护理。该系统将纳入身体细胞、DNA、血液测试、环境、群体遗传学以及关于药物和治疗方面的大量科学文献的信息。它不仅仅关注单个病人和医生，还关注所有人类之间的关系 - 就像现在的医学检测允许在一组人类（或动物）上进行的实验被带到对其他人类的关怀之中一样。这将有助于保持相关性，连贯性和可靠性的概念，当前的银行体系着重解决财务和支付领域的这些挑战。而且，虽然人们可以预见到这种系统出现的许多问题 - 涉及隐私问题，责任问题，安全问题等 - 这些问题应该被视为挑战，而不是阻碍。

面对更大挑战的最佳亦或唯一方法？

我们现在遇到了一个关键问题：研究传统人类模仿人工智能是面对这些更大挑战的最佳亦或是唯一方法？事实上，最近最受欢迎的ML的成功案例中有一些是与人类模仿AI相关的领域，如计算机视觉、语音识别、人机对弈和机器人等。所以也许我们应该等待这些领域的进一步发展。

这里有两点需要说明。

首先，虽然人们不会从阅读报纸中得知它，但人类模仿人工智能的成功实际上是有限的 - 我们距离实现人类模仿AI的愿望还很遥远。不幸的是，在人类模仿AI方面进展甚微的快感（和恐惧）导致了过度繁荣和媒体关注的水平，而这在其他工程领域并未出现。

其次，更重要的是，这些领域的成功既不足以解决重要的IA和II问题，也不是必需的。考虑自动驾驶汽车。为了实现这样的技术，需要解决一系列工程问题，这些问题可能与人力资源（或人力资源缺乏）关系不大。整个交通系统（一个II系统）可能会更像目前的空中交通管制系统，而不是目前收集的松散耦合的、前瞻性的、走神的驾驶员。它将比当前的空中交通管制系统复杂得多，特别是在使用大量数据和自适应统计建模来触发（通知）细粒度决策（fine-grained decisions）时。正是这些挑战需要摆在首位，而在这样的努力中，专注于人类模仿AI可能会令人分心。

TBC（下回分解）

我们有一个真正的机会来构想一个以人为中心的工程学科

II系统将面对大规模决策能力及各种不确定性问题，仅仅跟随人类模仿AI的议程是不够的

至于必要性的论点，有时认为人类模仿的AI愿望包含了IA（智能增强）和II（智能基础设施）的愿望，因为人类模仿的AI系统不仅能够解决AI的经典问题（例如图灵测试），也是解决IA和II问题的最佳选择。 这样的论点几乎没有历史先例。 土木工程的发展是通过设想创造一个人造木匠或瓦工来实现的吗？ 化学工程是否应该建立一个人造化学家？ 更具挑战性的是：如果我们的目标是建设化学工厂，那么我们是否应该先建立一个人造化学家，然后才能实施如何建造化学工厂？

一个相关的论点是，人类智力是我们所知道的唯一一种智力，我们应该把模仿它作为第一步。 但是人类其实并不擅长某种推理 - 我们有失误、偏见和局限。 而且，关键的是，我们并没有演化出大规模决策能力，这是现代II系统必须面对的，也没有处理II文脉（context）下出现的各种不确定性。

有人可能会争辩人工智能系统不仅要模仿人的智能，而且会“纠正”它，并且还会扩展到任意大的问题。 但是，我们现在处于科幻小说的领域 - 这种推测性的论点虽然在小说创作中有趣，但它不应该成为我们在面临开始浮现的关键性的IA和II问题时向前迈进的主要策略。 我们需要根据自己的优点来解决IA和II问题，而不仅仅是跟随人类模仿AI的议程。

II系统的挑战

我们不难确定II系统中的算法和基础设施挑战，这些并不是人类模仿AI研究的核心主题。 II系统需要管理分布式知识库，这些知识库正在迅速变化，并且可能会在全球范围内不连贯。这样的系统必须在做出及时的分布式决策时应对云端交互，并且他们必须处理长尾现象（long-tail phenomena），即少数人的数据很多，大多数人的数据很少。他们必须解决跨行政和竞争性界限分享数据的困难。最后，特别重要的是，II系统必须将诸如激励和定价等经济理念带入统计和计算基础设施领域，这些基础设施将人与人以及有价物品联系起来。这样的II系统可以被看作不仅仅是提供服务，而是创造市场。诸如音乐、文学和新闻等领域正在呼吁出现这样的市场，数据分析将生产者和消费者联系起来。这一切都必须在不断演变的社会、道德和法律规范的背景（context）下完成。

不要忘了经典的AI问题

当然，人类模仿AI的经典问题仍然值得关注。 然而，目前的重点是通过收集数据进行人工智能研究，部署“深度学习”基础设施，以及模仿某些狭义的人类技能的演示系统- 几乎没有新出现的解释原则 -偏离经典人工智能中重大的开放性问题。 这些问题包括：需要将意义和推理引入自然语言处理系统中，需要推断和表达因果关系，需要开发计算上易于处理的不确定表达，以及需要开发形成并追求长期目标的系统。 这些都是人工模仿AI中的经典目标，但在目前人们对“AI革命”的喧嚣中，很容易忘记它们还没有解决。

深思熟虑的人类和计算机互动来解决最紧迫的问题

IA还将保持相当重要的地位，因为在可预见的将来，计算机将无法与人类相匹配地抽象描述现实世界的情况（译注：想象一下高级同声传译的工作：文脉及时动态匹配！）。 我们需要深思熟虑的人类和计算机互动来解决我们最紧迫的问题。 我们希望计算机能够触发新的人类创造力水平，而不是取代人类的创造力（无论这可能意味着什么）。

维纳的智能研究议程在当今时代占据主导地位

约翰麦卡锡（达特茅斯大学的教授，之后拿到一个在麻省理工学院的职位）创造了“人工智能”一词，显然是为了区分从诺伯特·维纳（当时是麻省理工学院的一位老教授）那里萌芽出的研究议程。 维纳创造了“控制论”来指代他自己的智能系统愿景 - 这一愿景与运筹学、统计学、模式识别、信息论和控制理论密切相关。 另一方面，麦卡锡强调了与逻辑的联系。 在麦卡锡术语的旗帜下，有一个有趣的逆转，维纳的智能研究议程在当今时代占据主导地位。 （然而，这种情况当然只是暂时的，比起大多数领域，摆动幅度更大的是人工智能）。

但我们需要超越麦卡锡和维纳的特定历史观点。

关于人工智能的公众对话需要听到更广泛的声音

我们需要认识到，目前关于人工智能的公众对话-侧重于狭窄的行业子集和狭窄的学术子集-使我们在面对AI、IA和II全域所带来的挑战和机遇时存在风险。

这个（挑战和机遇）范围不是关于实现科幻梦想或超人类机器的噩梦，更多是关于人类理解和塑造技术的需求，因为它在日常生活中变得更加现实和有影响力。 此外，在这种理解和塑造中，需要来自各行各业的不同声音，而不仅仅是技术上的对话。 狭隘地集中在人类模仿AI上将妨碍我们听到更广泛的声音。

虽然行业将继续推动许多发展，但学术界也将继续发挥关键作用，不仅提供一些最具创新性的技术理念，而且将计算和统计学科的研究人员联合起来，非常需要其他学科研究人员的贡献和观点- 特别是社会科学、认知科学和人文科学。

聚焦于数据和学习领域的工程学科尚未出现

另一方面，虽然人文和科学是我们前进的关键，但我们也不应该假装我们正在谈论的话题是规模和范围空前的工程努力之外的事情 - 社会正致力于构建新的加工物，这些工件应该按照要求去工作。 我们不希望这样的事情发生，建立起来的帮助我们获得医学治疗、交通选择和商业机会的系统，事后的事实发现这些系统实际上并不奏效 - 他们（译者注：无效系统）犯下的错误会使人们的生活和幸福受到影响。 在这方面，正如我强调的那样，聚焦于数据和学习领域的工程学科尚未出现。

构想一个以人为中心的工程学科

而且，我们应该接受这样的事实：我们正在见证的是创建一个新的工程学分支。 术语“工程”通常是在狭义上援引 - 在学术界和更广泛的范围内 – 带有冷淡、无感情的机械、以及失去人类控制的负面含义，但是工程学科可以是我们所希望的。

在当今时代，我们有一个真正的机会来构想一些历史上的新事物 - 一个以人为中心的工程学科。

我会拒绝给这个新兴的学科命名，如果首字母缩略词“AI”继续被用作未来的占位符术语，让我们意识到这个占位符的真正限制。 让我们开阔眼界，淡化炒作并认识到未来的严峻挑战。

迈克尔一乔丹