ChatGPT掀智力革命！OpenAI发布AGI路线图，通向超级智能世界(2)

长远目标：更加繁荣的超级智能世界

相比于短期计划，OpenAI的AGI长远发展显得更为宏大。 OpenAI相信人类的未来应该由人类自己决定，与公众分享有关进步的信息至关重要。因此，应该对所有AGI发展项目进行严格审查，并在重大决策上面向公众进行咨询。 在OpenAI看来，第一个AGI只会是人工智能持续发展中的一个小节点，然后从这个节点开始不断衍生出新的进展。公司预测，AI的未来发展可能会在很长一段时间内和我们过去十年的进展速度类似。 也许有一天，世界会发生翻天覆地的变化，科技的进步也可能带给人类很大的风险。一个「错位的」超级智能AGI可能会对世界造成严重的伤害。

因此，OpenAI认为放缓AGI的发展速度更容易确保安全。即使技术的进展让我们有迅速发展AGI的能力，但保持减速能让社会有足够的时间来适应。 成功过渡到一个拥有超级智能的世界可能是人类历史上最重要、最有希望，但也最可怕的项目。没人能保证这一天何时到来，但人们已经探明的利害关系有助于将所有人团结起来。 无论如何，那将是一个繁荣到超乎想象的世界。而OpenAI希望为世界贡献一个与这种繁荣相一致的通用人工智能。

ChatGPT预示着一场智力革命

近日，前美国务卿Henry Kissinger、前Alphabet执行董事Eric Schmidt、麻省理工苏世民计算机学院首任院长Daniel Huttenlocher撰写了一篇「ChatGPT预示着一场智力革命」的文章。 文章中透露了他们对当前生成式人工智能的担忧： 生成式人工智能提出了自启蒙运动以来从未经历过的哲学和实践挑战。 文章开头便阐述了当前ChatGPT对人类的影响。 一项新技术旨在改变人类的认知过程，因为它自印刷术发明以来从未动摇过。 1455年印刷古腾堡圣经的技术使抽象的人类思想得以普遍而迅速地传播。但今天的这项新技术逆转了这一过程。 印刷机造成了现代人类思想的大量涌现，而新技术则实现了对它的提炼和阐述。 在这一过程中，它在人类知识和人类理解之间造成了差距。 如果我们要成功地驾驭这种转变，就需要发明人类思想和与机器交互的新概念。这就是人工智能时代的基本挑战。 这项新技术被称为生成性人工智能，最具代表性的便是OpenAI研究实验室开发的ChatGPT。 随着它的能力变得变得更加广泛，它们将重新定义人类的知识，加速我们现实结构的变化，并重组政治和社会。 生成式人工智能同样将为人类理性开辟革命性的道路，为巩固知识开辟新的视野。 但两者之间也存在着明显的区别。启蒙知识是逐步实现的，每一步都是可测和可教的。 AI系统，如ChatGPT，可以存储和提炼大量现有信息，并能够在不解释其过程情况下输出结果，这是人类无法做到的。 此外，人工智能的能力不是一成不变的，而是随着技术的进步呈指数级增长。 我们迫切需要开发一种复杂的辩证法，使人们能够挑战生成式人工智能的交互性，不仅要证明或解释人工智能的答案，还要对其进行审问。 带着一致的怀疑态度，我们应该学会有条不紊地探索人工智能，并评估它的答案是否值得信任，以及在何种程度上值得信任。这将需要有意识地减少我们无意识的偏见，进行严格的训练和大量的实践。 问题仍然存在：我们能不能足够快地学会挑战而不是服从？还是我们最终将不得不服从？我们所认为的错误是故意设计的一部分吗？如果人工智能中出现了恶意的因素怎么办？ 另一个关键任务是，反思哪些问题必须留给人类思考，哪些问题可以冒险交给自动化系统。 然而，即使有了强化的怀疑主义和审问技巧，ChatGPT也证明了生成技术的精灵已经离开了瓶子。我们必须对我们所问的问题进行深思熟虑。 随着该技术得到更广泛的理解，它将对国际关系产生深远的影响。除非知识的技术是普遍共享的，否则帝国主义可能专注于获取和垄断数据，以达到人工智能的最新进展。 模型可能会根据收集的数据产生不同的结果。社会的不同演变可能会在日益不同的知识基础的基础上演变，从而对挑战的认识也会不同。 文末提出了让人们值得深思的两个问题： 如果不能完全控制这项技术会怎样？ 如果总是有办法编造谎言、制作虚假图片和视频，而人们永远无法学会不相信他们的所见所闻，那该怎么办？ Meta首席AI科学家LeCun回答道， -人们将学会更好地追踪来源，并评估他们所见所闻的可靠性，这很可能是在新技术的帮助下。 -当前的自回归LLM是出了名的不可控，但新的AI系统在需要时是可控的、真实的并且无毒的。 还有网友引用了Andy Grove的话「有两种选择：适应或死亡」。 要是你会怎么做？