10月18日-10月19日,QCon全球软件开发大会2024·上海站成功举办,火山引擎边缘云资深架构师徐广治、火山引擎边缘云网络研发工程师赵彦奇受邀参与,在“边缘计算与人工智能的创新实践”专题中发表精彩演讲,与多位行业资深专家,共同探讨技术革新的前沿趋势和行业实践,一起探索如何利用技术塑造智能未来。

01火山引擎边缘云原生操作系统设计与思考

据IDC报告显示,到2024年底,全球在边缘计算上的支出预计将达到2320亿美元。同时,Gartner报告显示,到2025年底,全球75%的企业生成数据将会在边缘产生和处理。从发展趋势来说,目前业务正在驱动云计算走向边缘,应用迈向云边端混合新架构,云计算将开启边缘时代。然而,在边缘场景,存在着管理广域分布的边缘算力资源、在节点内实现资源的最大化利用、保证弱网环境下的服务连续性、满足边缘业务场景的多形态算力需求4大技术挑战,这些挑战促使了边缘技术架构的演进。

图片

火山引擎边缘云资深架构师徐广治重点介绍了火山引擎边缘计算产品背后的算力底座 - 火山引擎边缘云原生操作系统,其统一纳管字节跳动边缘计算硬件资源,在小型化、集成化、轻量化的基础上,为业务就近提供虚拟机、裸金属、容器等多形态算力,实现算力服务混部部署、跨区域弹性调度。

边缘云原生操作系统拥有4个核心特点:

  • 统一资源纳管&调度:纳管全球边缘云硬件资源,为边缘应用提供多形态算力
  • 支持算力&服务按需混部:按需混部单节点计算实例和关联服务,降低节点资源开销,提高服务灵活性云边分层
  • 轻量化管控:部分上移边缘管控逻辑,在保证自治能力的基础上最大化节点可售卖资源
  • 云边&边边协同支持:基于全球云网基础设施和云边、边边数据通道,提供可靠数据传输支持

从架构上来看,火山引擎边缘云原生操作系统由8大中心组成,分别是编排中心、调度中心、可观测中心、运维中心、云边中间件、边缘轻量管控、边缘云原生套件、边缘轻量基础环境,这是火山引擎边缘云原生操作系统最核心的组成部分。在8大能力之下是底层的资源池,包括现场边缘、近场边缘、云边缘的硬件资源,在这之上是算力应用,包括边缘计算节点(虚拟机/裸金属)、边缘容器、边缘函数及周边服务,这些共同构成了小型化、集成化、轻量化的边缘云原生操作系统。

图片

火山引擎边缘云原生操作系统概要架构

火山引擎边缘云,基于边缘云原生操作系统这一坚实基础,构建了以计算、网络、存储、安全和智能为核心的新一代分布式云计算解决方案。目前,火山引擎边缘云已在多个行业领域实现应用落地,包括但不限于:泛互联网领域的视频直播、实时音视频、影视娱乐、移动终端、在线教育、电商零售和媒资信息处理;汽车行业的辅助驾驶和车联网技术;媒体行业的数字人和影视渲染;游戏行业的游戏加速、AR/VR体验;以及金融行业的电子发票和分布式计算等。

展望未来,火山引擎边缘云将继续追求极致轻量化,致力于提供高性价比边缘算力。在持续优化基础设施成本的基础上,构建更轻量基础环境,叠加细粒度资源管理、轻量化管控、按需混合部署的持续建设,结合资源调度优化,实现物理资源的最大化利用客户业务资源的最优配比。

同时,作为云服务提供者,火山引擎边缘云立足于业务需求,紧跟技术发展趋势,将从以下三个维度持续提升产品与服务能力:

  • 在地域覆盖方面,随着边缘云服务内外部客户业务的增长,边缘云覆盖的节点范围也将持续扩大。火山引擎边缘云将从节点管理规模和合规性两个技术维度,满足业务发展诉求。
  • 在技术链路方面,随着部分业务场景的成熟,在成本、性能等核心技术点的建设将成为边缘云的强技术竞争力和业务探索的基础。火山引擎边缘云将持续建设该部分能力,帮助业务实现单位性能的大幅提升。
  • 在前沿技术领域,随着人工智能的发展,大量的AIGC(AI生成内容)将推动AI计算能力向边缘端延伸,以降低带宽需求和减少延迟。火山引擎边缘云也将持续探索边缘计算与AI技术的融合,致力于让AI触手可及,从而为用户带来更加卓越的体验。

02 火山引擎HTTPDNS边缘云原生技术实践

火山引擎HTTPDNS是面向多端应用的域名解析服务,适用于移动端APP、PC客户端等多种应用场景。在字节跳动集团内部,服务于抖音、头条、豆包等产品的移动端域名解析服务,支撑起峰值达到千万级的QPS ,日达万亿次的解析请求量。基于业务针对性能与成本优化的诉求,火山引擎HTTPDNS团队决定对HTTPDNS服务实施边缘云原生技术改造,将服务从中心迁移至边缘。

图片

火山引擎边缘云网络研发工程师赵彦奇介绍了火山引擎HTTPDNS边缘云原生技术实践经验,从火山引擎HTTPDNS迁移至边缘的必要性出发,围绕实践过程当中遇到的困难和挑战,打造HTTPDNS下沉边缘解决方案,最终实现了性能提升、成本下降的全过程。

在HTTPDNS边缘云原生技术改造的实际工程应用中,面对复杂需求场景,存在以下四方面挑战:

  • 实现最优部署难:HTTPDNS支撑起千万级QPS、亿级连接,流量分布不均,基于业务现状,想实现最优部署对于资源需求十分严苛;
  • 精准流量调度难:边缘计算节点的QPS容量从5万到50万不等,面对多数量节点、复杂流量分布,以及运营商跨省限流,使得实现精准流量调度难度上升;
  • 运维复杂度提升:随着部署的边缘节点越来越多,分布式系统控制面需要重构,这个过程中会带来运维复杂度提升,此外,由于使用公网做控制面管控,系统的安全风险会变高,还需要重建可观测系统;
  • 交付速度慢:改造过程中会面临热点区域资源不足的问题,而新建边缘节点,资源交付慢,基础组件部署验证周期长,影响整体交付速度。

针对风险和挑战,火山引擎HTTPDNS团队在充分调研之后,对云边端架构进行下沉服务设计和工程实施;同时,基于流量、容量和稳定性指标,开发了智能云边端调度策略。这些措施有效应对了边缘计算资源局部紧张、全局分散以及稳定性波动的问题,减少了边缘服务放置带来的资源成本,并显著提高了流量调度效率、资源利用率,同时降低了容灾和运维的复杂度。

图片
云边端全链路流量调度

通过HTTPDNS边缘云原生技术改造,从产品收益方面来说,整体实现了服务成本下降35%,性能提升20%。同时,通过抖音客户端采集的真实网络数据,总耗时平均值下降了20%,P95的分位值下降到12%,首包的平均耗时下降了35%, P95下降了30%;从工程实践收益方面来说,通过敏捷式交付,打造演进式架构,平衡了流量与资源的冲突、性能与稳定性的冲突,进一步优化了软件和系统架构。

展望未来,HTTPDNS致力于增强安全防护体系,确保实现全链路的安全解析,致力于提供免费、高效且安全的公共DNS服务。同时,也将深耕云边端协同技术,打造精细化的调度策略,以适应边缘计算场景的需求。此外,还计划在海外市场推进递归服务的本地化部署,以此进一步提升产品服务能力和用户体验。

END

随着技术的不断进步,云服务领域正迎来新的发展方向,面向未来,火山引擎边缘云,秉承着连接与计算无处不在,让AI触手可及的品牌理念,在坚持自身发展路线中,将与行业共同探索时代下的技术前沿,共享行业最新成果,助力产业蓬勃发展。


火山引擎边缘云
25 声望7 粉丝

欢迎关注火山引擎边缘云,让连接与计算无处不在。