【AI】隔空论战：DeepMind声称用AI首次在量子尺度上模拟物质，俄罗斯科学家不同意了(2)

通过将泛函表示为神经网络，并将这些明确的属性整合到训练数据中，我们学到了泛函结果，而且没有严重的系统性错误——从而更好地描述了一系列化学反应。 学者提出尖锐质疑 DeepMind 的论文通过了最初的正式审查流程，一切顺利。转折点出现在 2022 年 8 月，一个由来自俄罗斯和韩国的八名学者组成的团队在 Science 上发表了一篇评论文章质疑其结论。 根据斯科尔科沃科学技术学院的这篇评论文章：

从已发布的结果中，并不能证明 DeepMind AI 具备推断此类系统行为的能力，论文结论需要重新审视。换句话说：学者们正在争论 DeepMind 的人工智能是如何得出结论的。 根据评论作者的说法，DeepMind 用于构建其神经网络的训练过程教神经网络记住了在基准测试期间将面对的特定问题的答案——这种测试是科学家确定一种方法是否优于另一种方法的过程。 研究人员在评论中写道：

虽然 Kirkpatrick 等人的结论，也就是关于 FC/FS 系统在训练集中的作用可能是正确的，但这并不是对他们观察到的结果唯一可能的解释。

在我们看来，DM21 在 BBB 测试数据集上的性能相对于 DM21m 的改进可能是由一个更平淡无奇的原因引起的：训练数据集和测试数据集之间出现了意外重叠。如果这是真的，那就意味着 DeepMind 实际上并没有教会神经网络来预测量子力学。

DeepMind 迅速回应 Ded 反应迅速。 该公司在上述评论发表的同一天做出了回应，回击迅速而坚定：

我们不同意他们的分析，并认为他们提出的观点要么不正确，要么与论文的主要结论以及对 DM21 总体质量的评估无关。团队在反驳文章中进一步阐述了理由：

DM21 不记忆数据；DM21 的 Exchange-Correlation 会随着 BBB 中考虑的一系列距离参数而变化，并且不等于无限分离极限，如图 1 中对于 H2+ 和 H2 的 A 和 B 所示，从这里就能看出来 DM21 并不会记忆数据了。

例如，在 6Å处，DM21 Exc 与 H2+ 和 H2 的无限极限相差约 13kcal/mol（尽管方向相反）。虽说本文没办法解释清楚上面这段话的含义，但我们可以有把握地假设，DeepMind 很可能已经为这条反对意见做好了准备。

至于这是否能解决问题还有待观察。在这一点上，我们还没有看到俄罗斯和韩国专家组成的学术团队的进一步反驳，不知道他们的担忧是否得到了缓解。 科学“僵局” 这次讨论的影响可能远不止于这一篇研究论文。 随着人工智能和量子科学领域越来越紧密地交织在一起，这方面的研究也逐渐被财力雄厚的企业研究机构所主导。 如果出现了科学“僵局”，对立双方无法通过科学方法就特定技术方法的有效性达成一致——而其中又掺杂了企业利益时，会发生什么？ 问题的核心可能在于人们无法解释人工智能模型如何“处理数字”来得出结论。 这些系统在输出答案之前可以经过数百万次排列。我们不可能解释这个过程的每一步，这正是为什么我们需要算法捷径和人工智能来用蛮力解决人类或计算机无法直接突破的大规模问题。 最终，随着人工智能系统的不断扩展，我们可能不会再有什么工具来了解它们的运行机制。当这种情况发生时，我们可能就会看到企业拥有的技术与通过外部同行评审的技术之间存在差异。 这并不是说 DeepMind 的论文就是一个例子。正如做出评论的学术团队在他们的评论文章中所写到的：