头图
算力时代,视频云需要怎样的CPU?

在数据爆发式增长及算法日益精进的大背景下,属于「算力」的时代俨然到来。随着视频成为互联网流量的主角,日趋饱和的音视频场景渗透率、人类对“感官之限”的追求与突破、更多元化的场景探索及技术需求,为视频编码能力和底层算力及硬件支持带来更大的挑战。

“视频云作为音视频行业的基础设施,能极大地简化视频从采集、处理、编码、传输到分发的全链路流程。”正如阿里云视频云技术负责人在《芯事》访谈中所提到的,阿里云视频云与倚天710一起,正在踏上视频普惠千行百业的新征程。

点击链接查看视频:https://www.eefocus.com/video/1462707.html

视频云与倚天710的结合

2022年北京冬奥会,阿里云承接了一项重要的任务,那就是支撑冬奥全面上云。为此,阿里云视频云推出了全新的云上创新解决方案——阿里云聚“Alibaba Cloud ME”,这也是全球第一次在奥运会上实现异地全息会面,是一次打破时空之距的革命性创新。在感叹云上沉浸之旅的精妙之余,我们不禁要问,阿里云视频云上路即狂奔的硬实力是什么?除了使命必达的奋斗精神和强大的软件、算法支撑能力以外,阿里云视频云技术负责人致凡还提到了倚天710

当我们将目光投射到倚天710上,会发现它诞生于2021年,是一款由平头哥自研的云芯片,经过一年多时间的硬件部署和业务验证,倚天710实例已成功应用到阿里巴巴集团的核心业务中,并服务多家知名互联网及科技公司。正是基于前期优良的表现,倚天710已在阿里云数据中心部署,未来部署规模将继续扩大。

当然,没有一款芯片生来就如此强大,视频云技术负责人谈到:“视频云和倚天710的结合是一段美好的旅程,但中间还是经历了非常多的事情。”

回忆起这段旅程:“由于视频业务的增长速度是非常快的,研制一颗芯片的周期也非常长,不论是芯片研发、还是芯片落地后适配视频云业务成长,都是极具挑战的,但我们一起做好了正视挑战、突破壁垒的准备。当第一版芯片流片回来后,芯片基本性能表现稳定,且由于Arm架构带来的原生优势,再加上阿里云和平头哥的同学双方坐在一起,在了解芯片内部构成的基础上去做了很多算法调优后,能够让代码在芯片上跑得更快。

同时,倚天710还针对特定算法场景进行了指令集加速与优化,比如像SVE等矢量计算技术,其中BF16/INT8 mmla指令可实现高效的矩阵乘法运算,还支持Hash、CRC32等加速指令,可以让单条指令并行处理更多数据,大幅提升视频编解码、AI编解码增强等场景性能,这是一个两边一起迭代的过程。”

所以,从最早的性能挑战传统架构CPU,到现在已经远远超过传统架构CPU,倚天710的“蜕变”是一步一个脚印走过来的。视频云技术负责人认为:“这是一个非常好的案例,阿里云视频云的业务跟平头哥的芯片设计能够完美地结合在一起,利用各自的优势让芯片设计出来,在视频行业中发挥更大的作用。”

谈起平头哥和阿里云视频云业务的这次合作,就不能不提到一个大的产业背景,即视频云的爆发式增长。至于什么是视频云?“视频云就像是音视频行业的水和电,是底层的基础设施,可以大大简化视频从采集、处理、编码、传输到分发的链路。”这个比喻再恰当不过。

社会视频化在狂飙

从2017年开始,短视频的热度持续上升,加上近三年疫情下直播、视频会议、线上教学等领域的崛起,社会视频化成为一种大趋势。根据CNNIC发布的第50次《中国互联网络发展状况统计报告》数据显示,截至2022年6月,我国移动互联网接入流量达1241亿GB,同比增长20.2%;另根据思科发布的数据显示,视频内容约占互联网总流量的90%,占移动网络总流量的64%。

结合这两组数据,我们可以得出视频正在成为互联网流量的主角,而爆炸性的数据量又将会对算力和存储提出更大的挑战。于是视频云的价值被凸显出来,并呈现出了一种不可逆的发展态势。在这样的大背景下,全球以互联网公司为主的科技企业纷纷转型,开启视频云技术的探索之旅,并在安防监控、远程医疗、零售电商以及金融机构等典型场景中得到落地

当前,视频云产业已经形成了相对稳定的头部战队,包括微软、AWS、阿里云等主流云厂商。关于国内视频云的市场体量方面,根据IDC发布的数据显示,2022上半年中国视频云市场规模达到50.5亿美元,同比增长15.7%,预计到2026年,市场规模接近300亿美元。值得一提的是,通过报告显示,阿里云视频云连续5年占据中国视频云整体市场份额第一,并且渗透率还在不断攀升。

视频产业倒逼技术迭代

对于视频云产业来讲,以在线视频为例,从最早国外的Livestream、国内的斗鱼直播到现在,已经经历了25年的历史,其实从技术的角度来看,整个行业发展的速度没有想象中的快。比如,视频编码从H.264到H.265,再到H.266,平均10年升级一代。为什么速度不是很快?因为它要解决的问题比较多:算力、网络传输、标准等等。但是,我们看到今天的视频产业发展非常迅猛,这也倒逼技术要去完成快速迭代。这几年已经初显效果,比如现在编码器的升级迭代速度是5年,以前是10年,预计后面可能是3年。

为什么这里要强调编码?事实上,视频云是一个算力密集型行业,视频信息量很大,假如采用和文本、图片一样的压缩模式,那么还原度是不够的,所以视频必须进行编码处理。编码要是做不好,不仅会损失视频质量,还会带来传输难度高的问题。从MPEG2开始,每一代视频编码的升级,其压缩率大约可以提升50%,远低于视频分辨率每更新一代提升4倍的速度,即使这样,每一代升级对CPU算力的需求,以及算法复杂度都会提高至少10倍以上,这对芯片的架构、芯片底层的指令集优化、芯片的存储器和cache结构都会带来新的挑战,很多核心的算法要用新的指令集重新写一遍,这意味着视频编码和芯片成长是需要同步的

视频云需要怎样的CPU?

通过前面的介绍,我们了解到视频编码对算力的要求很高,因为我们常常试图用算力换存储,用算力换传输带宽,所以我们希望算力越高越好。

那么如何提升CPU的算力?首先要选择好的内核架构。在视频领域,传统架构已经有三十几年的历史了,目前市占率依然能达到90%以上的份额,但裹挟着沉重的向后兼容包袱。而Arm作为一种精简指令集,不仅没有历史包袱,还可以根据需求增加很多寄存器,同时从内存cache结构的设计和指令集的设计上面,能够更贴合需要大算力的视频处理需求。此外,不管是Hyper-Threading还是其他,采用传统架构的CPU走的都是提高主频的路子,在视频处理时就会遇到一些问题,比如视频压缩的时候会分成I帧、P帧、B帧,每一帧的算力并不是平均分配的,就会带来对算力需求不稳定的问题。

所以为了让芯片不跑超频,就可能会做一些降频处理,这时候它的算力就可能达不到相应的编码需求。在实际业务中,由于视频业务不是单机运行的,会有很多的服务器集群配合来处理,为了防止CPU跑超等复杂情况的出现,就不得不把服务器集群的水位降低,这是传统架构CPU比较大的问题。

然而,Arm整体的设计是比较稳定的,不管任务有多复杂,都能实现稳定输出,做到良好的资源调配和水位调配,不用预留很多冗余来防止芯片跑超,这对于to B业务来说非常重要。除了主频高以外,传统架构CPU的核不多,通常是两个vCPU/HT共享一个物理核、1份ALU,但Arm可以实现128/256/512或更多的核,类似GPU的设计,如此一来,对于不同应用场景而言,就可以用少核应对低算力需求的场景多核应对高算力需求的场景,实现更优的业务调配,降低投入成本。以倚天710为例,内含128核CPU,主频2.75GHz,可适配云的不同应用场景。

与此同时,随着数据上云越来越多,对于数据中心而言,功耗性能也是非常重要的,对运营者来说,低功耗就意味着低成本,除了软件层面的优化以外,倚天710能同时兼顾高性能和低功耗

以上要素叠加,就让视频云的头部企业阿里云与倚天710的结合看起来水到渠成。当前,倚天710已大规模部署并提供云上服务,根据实践反馈,倚天710让阿里云平台的算力性价比提升了超30%,单位算力功耗降低了60%,这是一个相当大的进步。

探索一种平衡

纵观视频云产业,人们对体验的极致追求,将成为视频云持续深耕的动力。在云应用场景下,CPU的发展之路将循着算力、I/O、网络协议适配、推理能力、从无到有的创造能力不断演进下去。未来,Arm会成为视频云中一种重要的架构,整体份额一定会增加,但不会是唯一的架构,传统架构、异构的ASIC和FPGA都会有一席之地。而对于Arm架构而言,未来的改进方向是降低功耗、提高算力、做好专用性和通用性的选择平衡

同时,我们要意识到,未来视频对算力的挑战是非常高的,简单地靠CPU的升级已经满足不了需求,需要一些特殊的处理,包括越来越多的AI算法、专用算法,比如模型搜索的算法等,再把通用的模块部分地固化在芯片里面,极大地提升视频处理的效率。

所以在视频云市场,人们总是在做权衡,云芯片厂商要处理好芯片能效和通用性的关系,云服务商要在算力有限的情况下使用很多快速算法。 而正如阿里云视频云技术负责人所强调的:“我们的愿景都是一样的,就是让视频普惠各行各业,再反哺视频行业,实现更茁壮的发展。”


CloudImagine
222 声望1.5k 粉丝