图注：Kasparov，前苏联、俄罗斯职业国际象棋棋手，国际象棋特级大师我的第一个人工智能程序是由我的Amiga编程的，我写了一个程序来玩奥赛罗逆向思维，这是一个比国际象棋稍微简单的游戏，但我在当中使用了国际象棋程序的所有原则，即α-β搜索等。第二个阶段是在我16、17岁左右时设计的一个叫 "主题公园 "的游戏，其中涉及到 AI 在游戏中模拟，尽管以今天的 AI 标准来看它很简单，但它会对你作为玩家的游戏方式做出反应，因此它也被称为沙盒游戏。Lex Fridman：可否说一些你同 AI 的关键联系？在游戏中创建 AI 系统需要什么？Demis Hassabis：在我还是个孩子时就在游戏中训练自己，后面经历了一个设计游戏和编写 AI for 游戏的阶段。我90年代写的所有游戏，都以人工智能为核心组成部分。之所以在游戏行业这么做，是因为当时我认为游戏行业是技术的最前沿，像 John Carmack 和 Quake，好像都是在游戏中进行的。我们仍在从当中获取好处，像GPU，是为计算机图形而发明的，但后来被发现对 AI 有重要作用。所以当时我认为，游戏中拥有最前沿的人工智能。早期我参与过一个叫"黑白"的游戏，它是强化学习在计算机游戏中应用最深刻的例子。你可以在游戏中训练一个小宠物，它会从你对待它的方式中进行学习，如果你对它不好，那它就会变得刻薄，并对你的村民和你所管理的小部落刻薄。但如果你善待它，它也会变得善良。Lex Fridman：游戏对善与恶的映射让我意识到，你可以通过你所做的选择来确定结局。游戏可以带来这种哲学意义。Demis Hassabis：我认为游戏是一种独特的媒介，作为玩家并不仅仅是被动地消费娱乐，实际上，你是作为一个代表积极参与的。所以我认为这就是游戏在某些方面比其他媒介，例如电影和书籍等更有内涵的原因。从一开始我们就对 AI 进行了深入的思考，将游戏作为证明和开放 AI 算法的试验场。这也是 Deepmind 最初使用大量游戏作为主要测试平台的原因，因为游戏非常高效，也很容易有指标来查看 AI 系统是如何改进的，思考的方向，以及是否在做渐进式地改进。Lex Fridman：假设我们不能制造一台能在国际象棋中击败人类的机器，那么人们会认为，由于组合的复杂性，围棋是一个无法破解的游戏。但最终，AI 研究者造出了这台机器，人类才意识到，我们没有想象中那么聪明。Demis Hassabis：这是一段有趣的思考旅程，尤其是当我从两个角度（AI 创造者与游戏玩家）来理解时，更觉得神奇，同时又有点苦乐参半的感觉。Kasparov 将国际象棋称为智能“果蝇”，我蛮喜欢这个形容，因为国际象棋从一开始就与 AI 密切相关。我认为每一位 AI 实践者，包括图灵和香农，以及这一领域的所有先辈们，都尝试过编写一个国际象棋程序。香农在1949年写了第一个关于国际象棋的程序文档，图灵也曾写过一个著名的国际象棋程序，但由于计算机太慢无法运行，因此他用铅笔和纸来手动运行程序，跟朋友一起玩。DeepBlue 的出现是一个重要的时刻，它结合了我喜欢的所有东西，包括国际象棋、计算机和人工智能。1996年，它打败了 Garry Kasparov。在那之后，我对 Kasparov 头脑的印象比对 DeepBlue 印象更深，因为 Kasparov 是人类的头脑，他不仅可以与计算机在下棋方面达到同一水平，Kasparov 也可以做人类能做的一切，比如骑自行车、说多国语言、参与政治活动等等。DeepBlue 虽然在国际象棋中有过辉煌时刻，但它实际上是将国际象棋大师的知识提炼成一个程序，无法做其他任何事情。因此我认为该系统中缺少了一些智能的东西，这也是我们尝试做 AlphaGo 的原因。Lex Fridman：让我们简单地谈谈国际象棋中关于人类的一面。你从游戏设计的角度提出，象棋之所以吸引人是因为它是游戏。能否解释一下，在bishop（国际象棋中的“象”）和knight（国际象棋中的“马”）之间是否存在一种创造性的张力？是什么让游戏具有吸引力，并且能跨越几个世纪？Demis Hassabis：我也在思考这个问题。实际上很多优秀的象棋玩家并不一定是从游戏设计师的角度去思考这个问题。为什么国际象棋如此吸引人？我认为一个关键的原因是不同棋位的动态，你可以分辨出它们是封闭的还是开放的，想一下象和马的移动方式有多么不同，而后国际象棋在已经进化到平衡这二者的程度，大致都是3分。
Lex Fridman：所以你认为动态总是存在的，而剩下的规则是试图稳定游戏。Demis Hassabis：也许这有点像鸡生蛋还是蛋生鸡的情况，但二者达到一种美丽的平衡，象和马和骑士权力不同，但在整个宇宙的位置中其价值是相等的。过去的几百年里，它们一直被人类所平衡，我认为这赋予了游戏创造性的张力。Lex Fridman：你认为 AI 系统能吸引人类去设计游戏吗?Demis Hassabis：这是个有趣的问题。如果把创造力定义为想出一些原创的、对某个目的有用的东西，那么最低水平的创造力就像一个插值表达，基础的 AI 系统都具备这样的能力。给它看数百万张猫的照片，然后给我一只普通的猫，这个被称之为插值。还有像 AlphaGo，它可以推断。AlphaGo 与自己对弈了数百万场后想出了一些非常棒的新点子，比如在对弈中走37步，提供了一个人类从未想到的策略，尽管我们已经玩了上百数千年。在此之上还有一个层次，就是能否跳出思维定式做真正的创新。你能发明象棋，而不是想出一个棋步么？是否能发明国际象棋、或其他和国际象棋或围棋一样的东西？我认为有一天 AI 可以做到，而现在的问题是如何给一个程序指定这个任务。我们还不能把高层次抽象概念具体到人工智能系统中，它们在真正理解高层次的概念或抽象概念方面仍然缺少一些东西。就目前而言，它们可以组合和构成，AI 能够做插值和推断，但都不是真正的发明。Lex Fridman：提出规则集并优化，围绕这些规则集制定复杂的目标，是我们目前无法做到的。但是否可以采用一个特定的规则集并运行，观察 AI 系统从头开始学习的时间有多长？Demis Hassabis：实际上我考虑过，这对于游戏设计师来说是惊人的。如果有一个系统拿你的游戏玩上千万次，也许一夜之间就能实现自动平衡规则。可以通过方程或参数来调整游戏中的单位或规则，使游戏更平衡。这有点像给出一个基本集，通过蒙特卡罗方法搜索或类似的方法来探索，那将是超级强大的工具。而为了自动平衡，通常需要从数百场比赛中训练数千小时，平衡像星际争霸、暴雪等这样的游戏是令人震惊的，这需要测试人员年复一年的时间。所以可以想象，当某个时刻这些东西变得足够有效，你可能会想在一夜之间做到。Lex Fridman：你认为我们是生活在模拟（Simulation）中吗？Demis Hassabis：是的。Nick Bostrom 首次提出了著名的模拟理论，但我不太相信它。从某种意义上说，我们是在某种电脑游戏中，或者我们的后代以某种方式在 21 世纪重塑地球。理解物理学和宇宙的最佳方式是从计算的角度将其理解为信息宇宙，实际上，信息是现实的最基本单位。与物质或能量相比，物理学家会说 E=mc²，这是宇宙的基础。但我认为，信息可能是描述宇宙的最基本方式，它本身可以指定能量或物质正确的物质。因此可以说我们处于某种模拟中。但我不同意这些想法丢弃数十亿个模拟。Lex Fridman：基于你对通用术语机器的理解、对计算机的理解，你认为宇宙中存在计算机能力之外的东西吗？你并不认同 Roger Penrose （数学物理学家）的意见？Demis Hassabis： Roger Penrose 很有名，曾参与过许多精彩的辩论，我读过他的经典著作《皇帝新脑》，他解释大脑中的意识还需要更多量子的东西。我工作中也一直在思考我们正在做什么，实际上，我们正将图灵机或经典计算推向极限。经典计算的极限是什么？我也研究了神经科学，这是我博士选择这一方向的原因，从神经科学或生物学的角度来看大脑中是否有量子存在。到目前为止，大多数神经科学家和生物学家会说，没有证据表明大脑中有任何量子系统或效应，大多可以用经典理论和生物学方面的知识来解释。但与此同时，从图灵机可以做的事情开始，包括 AI 系统，这个过程是一直在进行的，尤其是在过去的十年里。我不敢打****通用图灵机和经典计算范式能走多远，但大脑中发生的事情或许可以在机器上模仿，而不需要形而上学或量子的东西。
图注：2021年7月，DeepMind 首次通过与欧洲分子生物学实验室（EMBL）合作建立的数据库公开发布 AlphaFold 预测结果，初始数据库包含了所有人类蛋白质的98%Lex Fridman：蛋白质折叠问题的本质是，你能从氨基酸序列中得到一维的字母串吗？能通过计算立即预测出三维结构吗？这是50多年来生物学界的一个重大挑战。1972年的诺贝尔奖获得者 Christian Anfinsen 首次阐述，他推测，从氨基酸序列到三维结构是可以实现的。Demis Hassabis： Christian Anfinsen 的这句话开启了整个计算生物学的50个边缘领域，他们被困在当中、并没有完成得很好。在 AlphaFold 出现之前，这都是通过实验来完成的，让蛋白质结晶是件非常困难的事情，有些蛋白质不能像膜蛋白那样结晶，必须使用昂贵的电子显微镜或X射线晶体分析仪，才能得到三维结构并将其结构可视化。有了 AlphaFold 后，两个人就能在几秒钟内预测出三维结构。Lex Fridman：有一个数据集，它在这个数据集上进行训练，以及如何映射氨基酸。令人难以相信的是，这个小的化学计算机能以某种分布式方法来计算，且算得非常快。Demis Hassabis： 或许我们该讨论一下生命的起源。实际上，蛋白质本身是一个神奇的小生物和动物机器。提出列文塔尔悖论的科学家 Cyrus Levinthal 大致计算了一下，一般的蛋白质可能有2000个氨基酸碱基长，可以有10到300种不同的蛋白质折叠方式。而在自然界中，物理学以某种方式解决了这个问题，蛋白质会在几毫秒、或是一秒的时间内，在你的身体中折叠起来。Lex Fridman：该序列有独特的方式来自我形成，它找到了一种在巨大可能性中保持稳定的方式。某些情况下可能会出现功能失调等情况，但大多时候是独特的映射，而这种映射并不明显。Demis Hassabis：如果是健康通常有一个独特的映射，那患病时，究竟问题出在哪里。例如，曾经有一个对阿尔茨海默氏症的猜想是，因为以错误的方式折叠 β-淀粉样蛋白导致折叠错位，以至于在神经元中纠缠在一起。因此，要了解健康、功能和疾病，就需要了解它们是如何结构化的，知道这些东西在做什么超级重要。下一步是当蛋白质与某些东西相互作用时，它们会改变形状。因此在生物学中，它们不一定是静态的。Lex Fridman：或许你可以给出一些解决 AlphaFold 的方法，与游戏不同，这是真正的物理系统。这当中什么是非常难解决的？有哪些跟解决方案是相关的？Demis Hassabis：AlphaFold 是迄今为止我们构建的最复杂、可能也是最有意义的系统。我们起初构建的 AlphaGo 和 AlphaZero 都是与游戏相关，但最终目标不仅仅是破解游戏，而是使用它们来引导通用学习系统，并应对现实世界的挑战。我们更多是希望致力于像蛋白质折叠这样的科学挑战，AlphaFold 是我们的第一个重要证明点。就数据来说，创新数量大概需要30多种不同的组成算法，放在一起来破解蛋白质折叠。一些重大的创新是围绕物理学和进化生物学，建立了硬编码来约束像蛋白质中键角之类的东西，但不会影响学习系统，因此，系统仍能从案例中学习物理。假设只有大约15万个蛋白质，即使经过40年的实验，也大概只有约5万种蛋白质结构会被发现。训练集比通常使用的数据量要少得多，但当中使用了像自我提取等各种技巧。因此，使用 AlphaFold 做一些非常有信心的预测时，将其放回训练集中使训练集更大，对 AlphaFold 工作至关重要。实际上，为了解决这个问题，需要进行大量的创新，AlphaFold 产生的是一个直方图，一种蛋白质中所有分子之间的成对距离的矩阵，它们必须是一个单独的优化过程来创建三维结构。要使 AlphaFold 真正地从端到端，可直接从氨基酸的碱基序列到三维结构，跳过中间步骤。从机器学习中也可以发现，越是端到端，就越能使系统变得更好，系统比人类设计者更善于学习约束条件。在这种情况下，三维结构要比有中间步骤更好，因为那必须手工进入下个步骤。最好的办法是让梯度和学习一直流经系统，从终点到想要的最终输出，再到输入。Lex Fridman：关于 AlphaFold 的设想，那或许是生物学中一个漫长旅程的早期步骤，你认为同样的方法是否预测更复杂的生物系统的结构和功能、多蛋白质相互作用；其作为一个起点，能模拟越来越大的系统，最终模拟像人的大脑、人体这样的东西吗？你认为这是一个长期的愿景吗？Demis Hassabis：当然，一旦我们有了足够强大的生物学系统，治疗疾病和理解生物学就是我的 To Do List 上的首要任务，这也是我亲自推动 AlphaFold 的原因之一，AlphaFold 只是一个开始。AlphaFold 解决了蛋白质结构这个巨大的问题，但生物学是动态的，我们所研究的所有东西都是蛋白质液体结合。与分子发生反应，搭建通路，最终形成一个虚拟细胞，那是我的梦想。我一直同很多生物学朋友交谈，其中就包括了克里克研究所的生物学家 Paul Nurse。对生物学和疾病发现来说，构建一个虚拟细胞是不可思议的，因为你可以在虚拟细胞上进行大量实验，最后阶段再进入实验室来验证。就发现新****而言，从确定目标到拥有一个候选****物大约需要10年时间，如果能在虚拟细胞中完成大部分工作，或许可以将时间缩短一个数量级。为了实现虚拟细胞，必须建立对生物学不同部分相互作用的理解。每隔几年，我们就会与跟 Paul 谈论这个问题。去年在 AlphaFold 之后，我说现在终于是我们可以去做的时候了，Paul 非常激动。我们与他的实验室有一些合作。在 AlphaFold 的基础上，相信生物学会有一些惊人的进步，目前也可以看到，在 AlphaFold 开源之后已经有社区在做了。我认为有一天，人工智能系统可能会解决像广义相对论这样的问题，而不仅仅是通过对互联网或公共医疗上的内容进行处理。这将非常有趣，看它会能够想出什么。这有点像我们之前关于创造力发明围棋的辩论，不是仅仅想出一个好的围棋动作。如果想要获得像诺贝尔奖的奖项，那它需要做的是发明围棋，而不是由人类科学家或创造者来指定。Lex Fridman：很多人确实把科学看作是站在巨人的肩膀上，而问题是你在巨人的肩膀上真正达到了多少？也许它只是吸收了过去的不同类型的结果，最终以新的视角提供了突破性的想法。Demis Hassabis：这是一个很大的谜团，我相信在过去十年甚至未来几十年中，很多新的重大突破都会出现在不同学科领域的交叉点上，在这些看似不相干的领域之间会发现一些新的联系。人们甚至可以认为，深层思维是神经科学思想和 AI 工程思想间的一种交叉学科。Lex Fridman：你有一篇论文是“通过深度强化学习对托卡马克等离子体进行磁控制”，所以你在寻求用深度强化学习来解决核聚变，做高温等离子体的控制。你能解释一下 AI 为什么最终能解决这个吗？Demis Hassabis：过去的一两年里，我们的工作非常有趣和看到了成效，我们启动了很多我的梦想项目，这些是我多年来收集的同科学领域相关的项目。如果我们能参与推动，或许能带来具有变革性的影响，科学挑战本身就是一个非常有趣的问题。目前，核聚变面临许多挑战，主要在物理、材料、科学和工程等方面，以及如何建造这些大规模的核聚变反应堆并容纳等离子体。我们与瑞士洛桑联邦理工学院（EPFL）和瑞士技术研究所合作，他们有一个测试反应器愿意让我们使用。这是一个惊人的测试反应堆，他们在上面尝试各种相当疯狂的实验。而我们则看的是，当进入一个新领域如核聚变时，瓶颈问题是什么？从第一原理思考阻碍核聚变运作的底层问题是什么？在这种情况下，血浆控制是完美的。这个等离子体有100万℃，比太阳还热，显然没有任何材料可以容纳它。因此必须有非常强大的超导磁场，但问题是等离子体相当不稳定，就像在一个反应堆中持有许多颗星，提前预测等离子体会做什么，你可以在几百万秒内移动磁场来控制它接下来会做什么。如果你把它看作是一个强化学习预测问题，这似乎很完美，有控制器，可以移动磁场和切割，但此前用的是传统的控制器。我希望有一种可控的规则是他们不能在当下对等离子体做出反应，必须是硬编码的。Lex Fridman：AI 最终解决了核聚变。Demis Hassabis：去年我们在《自然》杂志上发表了关于解决这个问题的论文，把等离子体固定在一个特定的形状。实际上这几乎就像是把等离子体雕刻成不同的形状，控制它并保持在那里创纪录的时间。这是核聚变的一个未解决的问题。把它包含在结构中并保持，还有一些不同形状更有利于能量的产生，称为滴液等等，这是很重要的。我们正与许多核聚变初创公司沟通，看在核聚变领域可以解决的下一个问题是什么。Lex Fridman：论文标题中还有一个迷人的地方，通过解决分数电子问题来推动密度函数的前沿。你能解释一下这项工作吗？AI 在未来能否对任意的量子力学系统进行建模和模拟？Demis Hassabis：人们试图写出密度函数的近似值以及对电子云的描述，观察两个元素放在一起时如何相互作用。而我们试图做的是学习一种模拟，学习一种能够描述更多化学类型的化学函数。到目前为止，AI 可以运行昂贵的模拟，但只能模拟非常小和非常简单的分子，我们无法做到模拟大型材料。因此要建立函数近似值来展示其方程后，描述电子在做什么，所有材料科学和性质都是由电子如何相互作用来控制的。Lex Fridman：通过功能对模拟进行总结来接近实际模拟出来的结果，这项任务的难度在于运行复杂的模拟，学习从初始条件和模拟参数的映射任务，学习函数会是什么？Demis Hassabis：这很棘手，但好消息是我们已经做到了，我们可以在计算集群上运行大量的模拟，即分子动力学模拟，由此产生了大量的数据。在这种情况下，数据是生成的。这就是为什么我们使用游戏模拟器来生成数据，因为可以随心所欲地创造出更多的数据。如果在云端有空闲的电脑，我们就可以运行这些计算。
图注：Demis Hassabis所提到的大过滤器理论Lex Fridman：你认为需要有意识才能有真正的智能吗?Demis Hassabis：我个人认为，意识和智慧是双重分离的，所以我们可以在没有智慧的同时实现意识，反过来也一样。举个例子，很多动物是有自我意识的，也会社交和做梦，它们可以被定义为有一定的自我意识，但是它们没有智慧。但同时，那些在某一任务上非常聪明的人工智能，它们会下象棋，或者执行其他任务执行得非常好，但是它们没有任何的自我意识。Lex Fridman：前段时间谷歌的一个工程师认为某个语言模型是有感知的，你遇到过有感知的语言模型吗？如果一个系统出现了“感知”，你怎么理解这种情况？Demis Hassabis：我不觉得目前世界上的任何一个 AI 系统是有意识或者有感知的，这是我每天与 AI 互动的真实感受。所谓感知，更多是我们大脑自己的投射，由于那是一个语言模型，与智慧息息相关，所以人们就很容易把系统拟人化。这也是为什么我认为图灵测试有缺陷，因为它建立于人的反应和判断上。我们应该和顶尖的哲学家谈谈意识，比如 Daniel Dennett 和 David Charmers，以及其他对意识有深刻思考的人。目前意识还没有公认的定义，如果让我来说的话，我觉得意识的定义是，信息得到处理时带来的感觉。Lex Fridman：让我问一个黑暗的私人问题。你说创造一个世界上最强大的超级人工智能系统。正如老话所说，绝对权力导致腐败，你也很有可能成为其中一员，因为你是最有可能控制这个系统的人。你会考虑这些么?Demis Hassabis：我每时每刻都在思考有什么能对抗这种腐败的防御措施。人类最大利益的工具或技术让我们进入一个激进的世界，我们面临着许多艰巨的挑战。AI 可以帮助我们解决问题，最终使人类走向终极繁荣，甚至找到外星人。而 AI 的创造者，AI 所依赖的文化，AI 拥有的价值观，AI 系统的构建者都会影响它的发展。即使 AI 系统会自己学习，但其大部分知识也会带有一定已有文化和创造者价值观的残留。不同的文化让我们比以往任何时候都更加分裂，也许当我们进入了一个极度富足的时代以后，资源不那么稀缺了，我们就不需要激烈竞争，而是可以转向更好的合作。Lex Fridman：当资源受到重大限制时，一些暴行就会发生。Demis Hassabis：资源稀缺是导致竞争和破坏的原因之一，全人类都想生活在善良、安全的世界里，所以我们必须解决稀缺性的问题。但这还不足以达成和平，因为还有其他东西会产生腐败。AI 不应该任由仅仅一个人、或者一个组织来运行。我认为 AI 应该属于世界，属于人类，每个人都应该对 AI 有发言权。Lex Fridman：你对高中生和大学生有什么建议吗? 如果年轻人有从事 AI 的愿望，或者想以自己的力量影响这个世界，他们应该如何获得一份自己由衷感到自豪的职业？如何找到理想的生活？Demis Hassabis：我总喜欢对年轻人说两句话，第一句话是，你真正的激情在何处？年轻人应该去尽可能地探索这个世界。在人年轻时，我们有足够多的时间，还能够承担探索带来的风险。以自己独特的方式去寻找事物之间的联系，我认为这是寻找激情所在的好方法。第二句话是，了解你自己。要花很多时间去了解自己最佳的工作方式是什么，最佳的工作时间是什么时候，最佳的学习方式是什么?，如何应对压力。年轻人应该在不同的环境下测试自己，尝试改进自己的弱点，找出自己独特的技能和优势，然后磨练它们，这些就是你以后在这个世界上的价值。如果你能把这两件事结合起来，找到自己的激情所在，锻炼出你自己独特而强大的技能，那么你就会获得不可思议的能量，给世界带来巨大的改变。来源：学术头条
*博客内容为网友个人发布，仅代表博主个人观点，如有侵权请联系工作人员删除。
发布文章
