图灵奖得主Jack Dongarra：高性能计算与AI大融合，如何颠覆科学计算(2)

算力之 巅 ——超级计算机

人们一般基于商品化的成熟芯片构建典型的超级计算机，在一个板卡上集成多个芯片，每个芯片中都拥有多个核心（Core）。 同时，通常会在板卡上使用图形处理单元（GPU）等作为增强算力的加速器。 在同一机架柜上，不同的板卡通过高速的链接进行通信，不同的机柜通过交换机（switch）互联在一起，这样组成的一个超级计算机可能需要占用两个网球场那么大的空间。

这样的 超级计算机的并行性非常之高，通常采用的是分布式内存和「MPI+Open-MP」的编程范式。 与数据的浮点计算相比，在HPC系统不同部分之间数据的移动非常的昂贵。 现有的超级计算机支持包括64，32，16，8等位宽的不同的精度的浮点计算。

当前，最快的超级计算机能够提供Exaflop/s级别（1018）的算力。 这是一个非常巨大的数值，如果每个人一秒钟完成一次乘加计算，那么，需要全球所有人花费四年的时间才能完成超级计算机一秒钟完成的计算。 同时，为了维持这样的超级计算机的运转，每年需要花费千万美元的电费。

从 过去近三十年 间 全球超级计算机TOP500的性能变化情况可以发现，超算性能近乎保持着指数级的增长速度。 有趣的是，如今日常所用的MacBook的性能，比1993年当时世界上最先进的超级计算机的性能还要强大，当时那台计算机制造于洛斯阿拉莫斯国家实验室，主要用于核武器设计。 今年6月的数据显示，全球排名前10的超级计算机当中，有5个来自美国，有2个来自中国（分别位于无锡和广州），其余3个来自芬兰、日本和法国。