DeepMind创始人Demis Hassabis：AI 的强大，超乎我们的想象(3)

3

AI 与人类

Lex Fridman：你怎么理解生命起源？ Demis Hassabis： 我认为 AI 的最终用途是将科学加速到极致。它有点像知识之树。如果你想象这就是宇宙中要获得的所有知识，但目前为止，我们几乎只触及了它的表面。AI 会加速这个过程，尽可能多地探索这棵知识树。 Lex Fridman：直觉告诉我，人类的知识之树是非常小的，考虑到我们的认知局限。即使有工具，我们仍然不能理解很多事情。这也许是非人类系统能够走得更远的原因。 Demis Hassabis： 是的，很有可能。 但首先，这是两件不同的事情。就像我们今天理解了什么，人类的思想能理解什么，我们要理解的整体是什么，这里有三个同心，你可以把它们想象成三棵更大的树，或者探索这棵树的更多分支。有了 AI 后我们会探索更多。 现在的问题是，如果你思考一下我们能理解的事物的总体是什么，可能有些事物不能被理解，比如模拟之外的事物，或宇宙之外的事物。 Lex Fridman：因为人类大脑已经习惯了这个有时间的三维世界的状态。 Demis Hassabis： 但我们的工具可以超越这些。它们可以是11维，12维的。 我经常举的例子是当我和 Gary Kasparov 下棋时，我们讨论过象棋之类的东西，如果你很擅长下棋，你不能想 Gary 他的走法，但他可以给你解释。你可以将其理解为事后推理。有一个进一步的解释，也许你不可能发明这个东西，但你可以理解和欣赏，就像你欣赏维瓦尔第或莫扎特一样欣赏它的美。 Lex Fridman：我想问一些更疯狂的问题。比如，你认为地球之外有外星文明吗？ Demis Hassabis：我个人的看法是，我们目前是孤独的。我们已经有各种天文望远镜和其他探测技术，尝试着在太空里寻找其他文明的信号，如果现在有许多外星文明在同时做这样的事，那我们应该听到来自外太空的嘈杂声音。可事实是，我们什么信号也没收到。 有很多人会争辩说，世界上有外星文明，只是我们还没有真正好好地去搜索，或者说我们找的波段错误，也有可能使用了错误的设备，我们没有意识到外星人存在的形式非常不同，等等。但我不同意这些观点，我们其实已经做了很多探索了，如果真有那么多外星文明，那我们应该早就发现了。 有趣的是，如果地球是孤独的文明，从大过滤器（Great Filters）的角度来看，这还挺令人欣慰，这意味着我们已经通过大过滤器的筛选了。 说回你刚才问的生命起源问题，生命起源于一些令人难以置信的事物，而且没人知道这些事是怎么发生的。如果在地球以外的地方看到单细胞的某种生命形式，比如细菌，我不会感到惊讶。但就凭其能够捕获线粒体并将线粒体为我所用的这个能力，多细胞生命的出现的难度就是空前绝后的。 图注：Demis Hassabis所提到的大过滤器理论 Lex Fridman：你认为需要有意识才能有真正的智能吗? Demis Hassabis： 我个人认为，意识和智慧是双重分离的，所以我们可以在没有智慧的同时实现意识，反过来也一样。 举个例子，很多动物是有自我意识的，也会社交和做梦，它们可以被定义为有一定的自我意识，但是它们没有智慧。但同时，那些在某一任务上非常聪明的人工智能，它们会下象棋，或者执行其他任务执行得非常好，但是它们没有任何的自我意识。 Lex Fridman：前段时间谷歌的一个工程师认为某个语言模型是有感知的，你遇到过有感知的语言模型吗？如果一个系统出现了“感知”，你怎么理解这种情况？ Demis Hassabis： 我不觉得目前世界上的任何一个 AI 系统是有意识或者有感知的，这是我每天与 AI 互动的真实感受。所谓感知，更多是我们大脑自己的投射，由于那是一个语言模型，与智慧息息相关，所以人们就很容易把系统拟人化。这也是为什么我认为图灵测试有缺陷，因为它建立于人的反应和判断上。 我们应该和顶尖的哲学家谈谈意识，比如 Daniel Dennett 和 David Charmers，以及其他对意识有深刻思考的人。目前意识还没有公认的定义，如果让我来说的话，我觉得意识的定义是，信息得到处理时带来的感觉。 Lex Fridman：让我问一个黑暗的私人问题。你说创造一个世界上最强大的超级人工智能系统。正如老话所说，绝对权力导致腐败，你也很有可能成为其中一员，因为你是最有可能控制这个系统的人。你会考虑这些么? Demis Hassabis： 我每时每刻都在思考有什么能对抗这种腐败的防御措施。 人类最大利益的工具或技术让我们进入一个激进的世界，我们面临着许多艰巨的挑战。AI 可以帮助我们解决问题，最终使人类走向终极繁荣，甚至找到外星人。而 AI 的创造者，AI 所依赖的文化，AI 拥有的价值观，AI 系统的构建者都会影响它的发展。即使 AI 系统会自己学习，但其大部分知识也会带有一定已有文化和创造者价值观的残留。 不同的文化让我们比以往任何时候都更加分裂，也许当我们进入了一个极度富足的时代以后，资源不那么稀缺了，我们就不需要激烈竞争，而是可以转向更好的合作。 Lex Fridman：当资源受到重大限制时，一些暴行就会发生。 Demis Hassabis： 资源稀缺是导致竞争和破坏的原因之一，全人类都想生活在善良、安全的世界里，所以我们必须解决稀缺性的问题。 但这还不足以达成和平，因为还有其他东西会产生腐败。AI 不应该任由仅仅一个人、或者一个组织来运行。我认为 AI 应该属于世界，属于人类，每个人都应该对 AI 有发言权。 Lex Fridman：你对高中生和大学生有什么建议吗? 如果年轻人有从事 AI 的愿望，或者想以自己的力量影响这个世界，他们应该如何获得一份自己由衷感到自豪的职业？如何找到理想的生活？ Demis Hassabis： 我总喜欢对年轻人说两句话，第一句话是，你真正的激情在何处？年轻人应该去尽可能地探索这个世界。在人年轻时，我们有足够多的时间，还能够承担探索带来的风险。以自己独特的方式去寻找事物之间的联系，我认为这是寻找激情所在的好方法。 第二句话是，了解你自己。要花很多时间去了解自己最佳的工作方式是什么，最佳的工作时间是什么时候，最佳的学习方式是什么?，如何应对压力。年轻人应该在不同的环境下测试自己，尝试改进自己的弱点，找出自己独特的技能和优势，然后磨练它们，这些就是你以后在这个世界上的价值。 如果你能把这两件事结合起来，找到自己的激情所在，锻炼出你自己独特而强大的技能，那么你就会获得不可思议的能量，给世界带来巨大的改变。