剑桥大学为超级计算机装上第三个“大脑”,云原生技术正式”吞噬“超算领域

思否编辑部

超级计算 x 云原生

超级计算作为“大计算”领域的另一大分支,一般会被用来与云计算进行优劣势类比。但超算与云计算也存在很多不同,比如 HPC(High Performance Computing,HPC)几乎不用虚拟化技术,因为一个应用就可能把多个机器的 CPU 都跑满了,虚拟化技术似乎没有用武之地。

但随着云计算技术的发展,逐渐出现了云超算的概念。这是一种新型的高性能计算方式,基于云平台技术底座,深度融合高性能计算、边缘计算、人工智能等最新技术,提供统一的算力平台,共享的资源池和高性能的算力,可以解决传统 HPC 在使用过程中易遇扩展性不佳、遭遇性能瓶颈、管理维护难等实际问题。

但随着云计算进入“云原生”阶段,云原生也逐渐成为云超算架构中重要组成部分,“Cloud Native is eating the world”,已不再是业内人士的口号,而是大势所趋。

剑桥大学:打造造福全人类的世界级云原生超级计算机

近日媒体曝出,剑桥大学正在打造全球第一台 TOP500 科研云原生超级计算机 —— CSD3(Cambridge Service for Data Driven Discovery),这也是全球性能最强大的科研超级计算机之一。

这台超级计算机获得了由 STFC DiRAC、STFC IRIS、EPSRC、MRC 和 UKAEA 支持的英国研究与创新中心(UKRI)资助,并委托剑桥大学进行管理。

剑桥大学除了是全球知名的高等学府,同时也是英国最大的科研云基地,目前正在扩容一个算力达 4 PFlops 的全新 Dell-EMC 系统,该系统采用 NVIDIA A100 GPU,NVIDIA BlueField DPU 和 NVIDIA InfiniBand 网络,将为英国学术研究机构在广阔的交叉研究上提供安全的、多租户、裸金属高性能计算 AI 和数据分析服务。

同时,CSD3 也采用了由 NVIDIA 赋能的全新云原生超级计算平台以及由剑桥大学和 StackHPC 共同开发的一款名为“Scientific OpenStack”的云 HPC 软件栈。

剑桥大学高性能计算总监 Paul Calleja 表示:“按照 2020 年 11 月 TOP 500 榜单,这套系统将跻身前 100 名。它将使我们的研究人员能够运用超级计算架构领域的最新成果来充分优化他们的应用。”

简单来说,CSD3 系统有望借助 4 PFlops 的应用性能,在一系列领域进行研究,包括天体物理学,核聚变发电和临床医学应用。

云原生超级计算机 —— 为超算装上第三个“大脑”

image.png

超级计算机通常有两个 “大脑” —— CPU 和加速器 GPU。

GPU 一般会集合数千个处理核,可为 AI 和 HPC 应用中最重要的并行运算提供加速。CPU 是针对需要快速串行处理的算法部分而设计的,但随着其管理的系统日益庞大且日渐复杂,通信的层数不断增多,导致 CPU 的负担越来越重。

云原生超级计算机则为超级计算机引入了第三个 “大脑” —— DPU,旨在帮助构建更快、更高效的系统。DPU 能够卸载安全、通信、存储等需要由现代系统管理的工作。

从实际效果层面来看,云原生超级计算机融合了超级计算机的强大算力和云原生服务的安全性与易用性。

首先,它允许多用户共享一台超级计算机,同时保证每个用户的应用的安全性和私密性。这种能力被称为“多租户隔离”,在当今的商业云计算服务中十分普遍,但一般不会出现在技术和科学应用的 HPC 系统中,因为在这些系统中,裸性能的优先级最高,而安全服务会降低系统效率。

其次,云原生超级计算机使用 DPU 来处理存储、租户隔离安全和系统管理等任务。这样可以卸载 CPU,使其专注于处理任务,从而最大限度地提高系统的整体性能。

云原生超级计算机还有一个特点,就是它的计算和通信是并行处理的。

在传统超级计算机中,运行中的计算任务有时不得不暂停等待 CPU 去处理通信任务,这是业界熟知的一个问题,被称为系统噪声。

云原生超级计算机能有效的解决系统噪声的问题。俄亥俄州立大学 MVAPICH 实验室的一份早期测试结果显示,在云原生超级计算机执行某些 HPC 作业的速度是传统计算机的 1.4 倍。该实验室还展示,云原生超级计算机实现了计算和通信功能的 100% 重合,这比现有的 HPC 系统高出 99%。

如此,一台超级计算机便可以在不损失性能的情况下,实现云原生服务,使系统在运行 HPC 和 AI 应用时时刻保持最高的运行效率。

云原生的未来,是什么形状?

云原生超级计算机离我们可能比较远,但正如前文所说,云原生的出现,无疑将为我们的技术发展和形态带来极大的改变。过去两年的行业调研结果表明,无论是中国还是美国,云计算的新增长点已经都转向云原生相关的领域,如容器即服务(Containers as a Service,CaaS)、编排技术、微服务、DevOps 等。

同时云原生相关的技术栈也得到了快速的发展,以 Docker、Kubernetes、Istio 为代表的容器运行时、编排系统、服务网格已经成为事实上的标准,而 API 网关、无服务框架也在快速演进中。

可以预计,未来 5 年内,云原生相关的技术会在互联网企业、金融、运营商等行业得到大量应用落地,那么云原生的未来发展,将会是什么形状?

相关参考资料:

1、剑桥大学官网(https://www.cam.ac.uk/)
2、https://www.zdnet.com/article...
2、https://zhuanlan.zhihu.com/p/...

segmentfault 思否

阅读 1.6k

SegmentFault_行业快讯
第一时间为开发者提供行业相关的实时热点资讯

思否编辑部官方账号,欢迎私信投稿、提供线索、沟通反馈。

3.5k 声望
114.4k 粉丝
0 条评论

思否编辑部官方账号,欢迎私信投稿、提供线索、沟通反馈。

3.5k 声望
114.4k 粉丝
文章目录
宣传栏