“从先锋到批判者：灵奖得主Judea Pearl的世界”

本篇文章3881字，读完约10分钟

|从| the atlantic中选择

作者| kevin hartnett

编译|本智能(智能man 163 )

期间| 《ai英雄》总第76期

人工智能之所以足够智能，多亏了judea pearl。 20世纪80年代，他率先推进机器，用概率方法进行推论。 但是，他成为了这个行业最尖锐的批评者之一。 他在自己的新书《The Book OFWHY:The NEWS Cience OFCause And EFFECT》中指出，人工智能的快速发展已经受到阻碍。 那是因为不能完全理解智能的真正含义。

30年前，人工智能研究的首要挑战之一是如何编程机器，使其结合潜在的原因和一系列可以注意的条件。 pearl想出了使用贝叶斯互联网这个程序解决这个问题的方法。 贝叶斯网络解释说，让机器能够回答从非洲回来的出现发烧和身体疼痛征兆的患者等问题，疟疾的可能性最大。 年，pearl获得了图灵奖。 这是计算机科学的最高荣誉。 他能得到这个荣誉，都是托了这个事业的福。

但pearl认为，人工智能行业已经陷入了概率相关的泥潭。 最近，许多头条新闻是机器学习和神经互联网的最新突破，可以看到电脑学习旧游戏、开汽车的新闻。 这些对pearl来说没有吸引力。 如他所想，人工智能行业的最新技术不过是上一代机器已经做的事件的强化版:从大量数据中找出隐藏的规律。 他最近说:“在深度学习中取得的所有令人印象深刻的成果都不过是曲线拟合。”

在他的新书中，现年81岁的pearl阐述了关于真正的智能机器是如何思考的设想。 他认为用因果推理代替相关推理很重要。 这不仅需要将发热和疟疾联系起来的能力，机器还需要推测“疟疾引起的发热”的能力。 如果这个因果关系框架就位，机器可能会询问反事实的问题，即因果关系在某种干预下会发生什么样的变化。 pearl认为这是科学思维的基础。 pearl还提出了使这种思考成为可能的正式语言。 这是21世纪版的贝叶斯框架，可以让机器进行概率思考。

pearl认为因果推理使机器具有人类水平的智能。 说明了这样可以更有效地与人进行交流，获得道德实体的地位，具有自由意志和作恶的能力。

Quanta杂志最近在圣地亚哥的会议上对pearl进行了采访，之后通过电话对他进行了后续采访。 以下是与合理化采访的对话。

问:为什么你的新书被命名为《the book of why》？

judea pearl :这本书代表了过去25年中我所做的因果关系的总结。 它代表着一个身体生命中意味着什么，它的应用，以及我们如何处理固有的因果关系的问题。 奇怪的是，这些问题已经被科学抛弃了。 所以我的目的是弥补对科学的忽视。

问:有一种戏剧性的说法是科学放弃了因果关系。 但这不是科学应该研究的吗？

judea pearl :当然，但是在科学方程式中看不到这样崇高的愿望。 代数的语言是对称的。 如果x告诉我关于y的消息，y就会告诉我关于x的消息。 这是明确的关系。

数学不能写简单的事实。 例如，暴风雨一来气压计就下降。 不是上升。 数学还没有迅速发展不对称的语言。 也就是说，x诱发y并不意味着y诱发x。 我知道反对科学听起来像是可怕的事件。 但是科学更宽容。 没有关于不对称关系的微积分，科学会鼓励我们创造一个。 这就是数学用武之地。 我很高兴简单的因果运算能够处理我们时代最伟大的统计学家认为不明确或无法处理的问题。 这些都可以用高中的几何图形来说明。 这很简单，我很感兴趣。

问:几十年前，你因让机器实现概率推理而在人工智能行业出名。 你能描述一下当时人工智能的情况吗？

Jude APEARL:20世纪80年代初出现的问题是可预测的或诊断的。 医生希望从患者那里注意到一系列的症状，确定自己罹患疟疾和其他疾病的概率。 我们希望自动系统，专家系统代替专家。 既是医生，也是矿产资源勘探者，还是其他有偿专家。 基于此，提出了以概率实现这些的想法。 标准的概率计算需要指数空之间和指数时间，问题非常多，变得复杂。 我提出了一个叫做贝叶斯互联网的建议。 多项式时间内可以完成，而且过程非常透明。

问:但是，在你的新书里，你把自己描述成了今天人工智能社区的叛徒。 这是为什么？

judea pearl :我们开发了机器可以不明确推理的工具后，离开了ai社区，追求了更具挑战性的任务——因果推理。 我的多位人工智能行业同事仍然在研究模糊性。 有一个不担心问题的因果关系，继续研究诊断问题的研究小组。 他们想要的只是更好的预测和诊断。 让我举个例子。 我们今天看到的机器学习工作都是在诊断模式下进行的。 例如，将对象标记为“猫”或“虎”。 他们不介意介入。 他们只是想识别物体，预测它如何随时间变化。

当我开发了强大的工具进行预测和诊断，认识到它只是人类智能的一部分时，我觉得自己像个叛徒。 我们如果想让机器说明干预措施(“禁止吸烟怎么办？ ) )或者反省(“如果我高中毕业了怎么办？ 》)，必须采用因果关系模型。 光有相关是不够的。 这只是数学事实，不是一个观点。

问:人们对人工智能带来的可能性感到兴奋。 你有这种感觉吗？

judea pearl :我在深入学习的过程中，发现研究者被困在相关层面的问题——曲线拟合上。 认为在深度学习中取得的所有令人印象深刻的成果都是为了适应数据曲线的想法听起来像是亵渎。 从数学层面的角度来看，无论如何巧妙地操作数据，在操作数据时能获得什么样的新闻，尽管是一个很多复杂麻烦的问题，但也是一个曲线拟合的过程。

问:谈论曲线拟合的方法似乎表明我对机械的学习不太感兴趣。

judea pearl :不，我对机器学习印象深刻。 因为我不认为只通过曲线拟合就能处理那么多问题。 事实证明了那些是可以做到的。 但是我关心的是未来——接下来会怎么样呢？ 让机器人科学家计划实验，能找到未解决的科学问题的新答案吗？ 这是机器学习下一个要处理的问题。

我们还希望能和机器进行一些有意义的交流。 “有意义”的意思是符合我们的认识。 如果机器人没有对因果关系的认识，就绝对不能进行没有意义的交流。 机器人不能像你和我一样说“应该做得更好”。 为此，我们失去了重要的信息表达渠道。

q :对人类因果关系有认识的机器，将来会怎么样呢？

judea pearl :我们必须给机器配备环境模型。 如果机器没有现实的模型，就不能期待机器在这个现实中展现出智能。 第一步是人类编程的现实概念模型，这可能会在十年内出现。 其次，机器自己假设这些模型，根据实证证据进行验证和改进。 这是科学行业一直发生的事件。 我们最初承认地心说，以为一切都是绕着地球转，通过日食发现了日心说。 机器人也相互交流，将这个充满隐喻模型的虚拟世界和狂野世界翻译成它们的语言。

问:今天和在人工智能行业工作的人分享这些想法时，他们会有什么反应？

judea pearl :人工智能目前正在分裂。 首先，有人埋头于机器学习、深度学习和神经互联网的成功。 他们不明白我在说什么，他们想继续曲线拟合。 但是，如果和在统计学习范畴外的人工智能行业工作的人们说话，他们很快就会理解我。 在过去的两个月里，我读了一些关于机器学习极限的文案。

问:你有远离机器学习的倾向吗？

judea pearl :不是趋势，而是包含这些问题的认真的自我反省。 我们要去哪里呢？ 下一步是什么

问:那是我最不想问的问题。

judea pearl :很高兴你没有问我关于自由意志的问题。

问:那么，你对自由意志有什么看法？ (智能菌标记:不自然，提问者的机智如我)

judea pearl :我们开发拥有绝对自由意志的机器人。 我们需要知道如何对它们进行编程，从那里能得到什么。 出于某种原因，对于进化来说，这种自由意志是被计算出来的。

问:用什么方法？

judea pearl :你有自由意志，进化给了我们这样的感觉。 很明显，它提供了一点计算功能。

问:机器人出现自由意志时会暴露出来吗？

judea pearl :我认为最初的证据是，如果机器人反事实地开始交流，比如说“应该做得更好”。 一旦机器人团队开始用这种语言交流，你就会发现他们有自由意志。 “你应该把球传给我——我在等你，但你没有！ “应该做某事”意味着可以控制做或不做某事。 所以第一个征兆是交流，第二个征兆是可以踢得更好。

问:既然你提出了自由意志，我想我应该问你关于作恶能力的问题。 我们认为这取决于我们做出选择的能力。 那么邪恶是什么呢？

judea pearl :邪恶就是相信你的贪婪和不满会取代社会上所有的标准规范。 例如，我们有类似软件模块的东西。 “我饿了，我有权为了满足贪婪和不满而行动。 ”。 但是，也有可以指导其遵守社会标准的软件模块。 其中之一被称为共鸣。 如果把你的不满提高到社会的普遍标准，那是邪恶的。

问:我们怎么知道人工智能有作恶的能力呢？

judea pearl :当机器人明显无视软件组件时，总是无视。 或者，如果机器人只遵从某些软件组件的建议，而不遵从其他组件的建议。 或者，如果机器人忽视了控制行为规范的组件的建议，这些规范将被编程或基于过去的学习而生成。 机器人不再遵守这些规范了。

(选择: the atlantic编译:本智能参与:李擎)

注:《ai英雄》人物访谈隶属于本智能实验室，与领域人士一起发现了内在的技术趋势，抓住了领域机会。 转载请注明出处，违者请务必研究！

请点击“ai英雄”的主题观看，进一步复制过去！

来源：安莎通讯社