最佳实践|如何写出简单高效的 Flink SQL?

2023-05-30
阅读 1 分钟
565
Flink 作为流批一体计算引擎,给大家提供了统一的 API,统一的算子描述,以及统一的调度。但 Flink 算子的底层仍有一些细微的差别。对于一个批算子而言,它的输入是一个有限数据集。批算子会基于完整数据集进行计算,计算过程中如果内存装不下,数据会 Spill 到磁盘。对于流算子而言,它的输入是一个无限数据集。与批算...

Elastic产品技术回顾与前瞻

2023-05-29
阅读 1 分钟
1.4k
该项目创建时间较久,可以在GitHub里通过number77466进行查看。项目包含了大量任务,涉及88个task,目前优化进度为69个。我们从Elasticsearch的各个不同部分,比如general、search以及网络方面做大量测试与发掘,查看哪些点阻碍了Elasticsearch的扩展性。此处的扩展性主要指在大集群里,具有大量分片的情况下,集群消耗...

Apache Flink ML 2.2.0 发布公告

2023-05-29
阅读 1 分钟
563
Apache Flink 社区很荣幸地宣布 Apache Flink ML 2.2.0 版本正式发布!本次发布的版本重点添加了 Flink ML 中的特征工程算法。现在 Flink ML 包含了 33 个开箱可用的特征工程算法,可以支持很多常见的特征工程任务。随着这些算法的添加,我们相信 Flink ML 已经准备好用于需要特征工程的生产作业,例如预处理离线和在线...

B 站构建实时数据湖的探索和实践

2023-05-29
阅读 1 分钟
365
在大数据场景应用中,业务不仅要计算数据结果,而且要保障时效性。目前,我司演化出两条链路。时效性高的数据走 Kafka、Flink 实时链路;时效性要求低的数据走 Spark 离线链路。上图简单描述了 B 站数据上报、处理和使用的链路。数据采集主要通过 APP 端上报的行为事件数据。服务端上报的日志数据会通过网关以及分发层,...

阿里云Elasticsearch智能存储引擎能力再升级,索引存储大小降低超40%!

2023-05-29
阅读 1 分钟
439
在Elastic中国开发者大会2023上,阿里云首次对外公开Elasticsearch全面Serverless化背后的产品技术架构,阿里云Elasticsearch依靠云原生底座技术升级,持续进行内核优化,并在日志场景大幅提升使用性价比,向用户提供更简单、更稳定、更弹性的搜索云服务。 

阿里云Elasticsearch 让搜索上云像使用“水电”一样简单

2023-05-26
阅读 1 分钟
488
阿里云Elasticsearch 为用户提供了一套云原生的运管平台,支持弹性伸缩、智能巡检等,帮助用户轻松应对日常管理运维。基于云原生的读写分离、存算分离架构,集群写入性能可提升60%,索引存储大小降低40%以上,查询性能提升至少30%。企查查作为搜索上云的代表性企业,利用阿里云Elasticsearch 的 QoS 限流插件,对集群内...

Soul 云原生网关最佳实践

2023-05-26
阅读 1 分钟
417
Soul 是基于兴趣图谱和游戏化玩法的产品设计,属于新一代年轻人的虚拟社交网络。成立于2016年,Soul 致力于打造一个“年轻人的社交元宇宙”,最终愿景是“让天下没有孤独的人”。在 Soul,用户可以无顾虑地表达自己,认知他人,探索世界,交流兴趣和观点,获得精神共鸣和认同感,在交流中获取信息,并获得有质量的新关系。

CNStack 多集群服务:基于 OCM 打造完善的集群管理能力

2023-05-26
阅读 1 分钟
411
随着 Kubernetes 在企业业务中的应用和发展,单集群内的管理能力已经趋于完善,越来越多的客户期望在多云、多集群场景部署其业务,因此需要提供相应的多云、多集群管理能力。

OpenYurt v1.2 新版本深度解读(一): 聚焦边云网络优化

2023-05-26
阅读 1 分钟
788
云原生边缘计算智能开源平台 CNCF OpenYurt 于近期发布了 v1.2 版本。OpenYurt 是业界首个对云原生体系无侵入智能边缘计算平台,具备全方位的“云、边、端一体化”能力,能够快速实现海量边缘计算业务和异构算力的高效交付、运维及管理。在 v1.2 版本中,OpenYurt 遵循社区提出的“节点池治理”理念,新增组件 Pool-Coordina...

全景剖析阿里云容器网络数据链路(四):Terway IPVLAN+EBPF

2023-05-25
阅读 2 分钟
516
近几年,企业基础设施云原生化的趋势越来越强烈,从最开始的IaaS化到现在的微服务化,客户的颗粒度精细化和可观测性的需求更加强烈。容器网络为了满足客户更高性能和更高的密度,也一直在高速的发展和演进中,这必然对云原生网络的可观测性带来了极高的门槛和挑战。为了提高云原生网络的可观测性,同时便于客户和前后线...

IoT Studio 物联网可视化应用搭建开发实践

2023-05-25
阅读 1 分钟
511
在物联网业务场景中设备数据可视化应用是最普遍的需求,阿里云物联网应用开发(IoT Studio)提供了Web可视化开发、移动可视化开发、业务逻辑开发与物联网数据分析等一系列便捷的物联网开发工具,解决物联网开发领域开发链路长、定制化程度高、投入产出比低、技术栈复杂、协同成本高、方案移植困难等问题。

定位任意时刻性能问题,持续性能分析实践解析

2023-05-25
阅读 1 分钟
395
更好的应用性能,可以提供更好的用户体验,可以降低企业IT成本,可以让系统更稳定和可靠。在应用性能剖析技术出现以前,开发人员排查问题只能依赖各种日志和监控,这需要提前在应用代码中埋点,不但对应用代码侵入性较大且可能由于埋点不全而无法提供足够信息,诊断问题非常费时,很多时候无法找出原因。

如何轻松应对偶发异常

2023-05-25
阅读 1 分钟
392
在之前的文章中,我们已经介绍了如何通过 MSE 提供的无损上下线和全链路灰度这两个功能来消除变更态的风险,相信您已经能够在变更时得心应手。但是在应用运行过程中突然遇到流量洪峰、黑产刷单、外部依赖故障、慢 SQL 等偶发异常时,您如何能够继续轻松应对呢?

快速玩转 CNStack 2.0 流量防护

2023-05-24
阅读 1 分钟
429
在云原生技术的演进过程中,依托云原生技术能力,形成一个可以向下管理基础设施,向上管理业务应用的技术中台,越来越成为企业期望的云原生技术落地趋势。随着云原生技术中台 CNStack 发布具有革新意义的新一代 2.0 版本,其提供的云原生技术能力不仅可以支撑大规模业务系统,也可以将内部不统一的体系集中管理起来,通...

OpenYurt v1.2 亮点速览丨云边流量峰值相比原生 K8s 降低 90%

2023-05-24
阅读 2 分钟
440
北京时间 1 月 30 号发布的 OpenYurt v1.2.0 版本,社区呼声最高的几大特性终于落地,OpenYurt 的特点更加鲜明,主要特点包括:Kubernetes 无侵入,云边端全协同,可编程的资源访问控制,以及声明式云原生设备管理。

OpenYurt 在龙源 CNStack 云边协同项目的应用

2023-05-24
阅读 1 分钟
625
介绍OpenYurt 是业界首个对云原生体系无侵入的智能边缘计算平台,具备全方位的“云、边、端一体化”能力,能够快速实现海量边缘计算业务和异构算力的高效交付、运维及管理。其在云平台、云游戏、AI、IOT 领域早已有众多落地用户。OpenYurt 完美适配和解耦于原生 K8s 组件,例如 Kubelet、Kube-Proxy、CoreDNS 等。其核心能...

TCL 拥抱云原生,实现 IT 成本治理优化

2023-05-24
阅读 1 分钟
481
TCL 工程师团队基于阿里云企业云原生 IT 成本治理方案沉淀了一套成熟的 IT 企业成本治理流程与系统,通过阿里云容器服务提供的开箱即用的成本洞察、资源智能画像等功能,进行业务成本拆分、闲置资源可视化发现,并制定弹性伸缩与混部等优化策略,为集团优化了 10% 闲置的资源, 各类业务降低了 30% 的配额, 每年节省近...

CNStack 助推龙源电力扛起“双碳”大旗

2023-05-23
阅读 1 分钟
435
龙源电力集团是世界第一大风电运营商, 随着国家西部大开发战略推进,龙源电力已经把风力发电场铺设到全国各地,甚至是交通极不便利的偏远地区,这使龙源电力成为全球装机容量、风电占比最大的运营商,但与此同时企业也面临诸多基础设施建设和维护的挑战。分设在全国 30 多个省的 240 多座风电场站有近千台服务器,因为...

听说你没法在 JRE 中使用 arthas?不,你可以

2023-05-23
阅读 1 分钟
550
本文是《容器中的 Java》系列文章之 5/n ,欢迎关注后续连载 :) 。之前经常遇到的问题是,排查问题需要挂arthas,但客户用的是JRE,没法挂载arthas。就只能让客户更换成JDK,再重新部署、排查问题。很多有用的现场,在这个过程中也会丢失,最终导致问题排查效率降低。于是就探索了下如何在JRE环境中,使用artahs。复现问...

Kruise Rollout v0.3.0:教你玩转 Deployment 分批发布和流量灰度

2023-05-23
阅读 1 分钟
480
Kruise Rollout 是 OpenKruise 社区开源提出的一个渐进式交付框架。其设计理念是提供一组能够将流量发布与实例灰度相结合,支持金丝雀、蓝绿、A/B Testing等多样化发布形式,以及支持基于 Prometheus Metrics 等自定义 Metrics 实现发布过程自动化,无感对接、易扩展的旁路式标准 Kubernetes 发布组件。

KubeVela 为 CNCF 孵化器带来软件交付控制平面能力

2023-05-23
阅读 1 分钟
378
CNCF TOC(Technical Oversight Committee,技术监督委员会)已经投票接受 KubeVela 作为 CNCF 的孵化项目。KubeVela[1]是一个应用交付引擎,也是基于 Kubernetes 的扩展插件,它可以让你的应用交付在当今流行的混合、多云环境中变得更加简单、高效、可靠。KubeVela 可以通过基于工作流的应用交付模型来编排、部署和操作...

对话开发者:Serverless 落地的困境与破局

2023-05-22
阅读 1 分钟
559
从 2012 年提出 Serverless 到今年 2022 年刚好十年。过去十年,上云是确定性趋势,在这个阶段企业一开始的关注点在于如何实现平滑上云。随着越来越多的企业上云,甚至很多企业系统第一天就是在云上构建,企业的核心关注点转变为如何更好地利用云的能力。

MSE ZooKeeper 数据导入导出功能上线

2023-05-22
阅读 1 分钟
874
MSE 提供了托管版的 ZooKeeper,拥有比自建开源 ZooKeeper 稳定性更高的SLA,同时管控面提供了丰富的服务自治功能。赶在2022年的岁末,MSE ZooKeeper 上线了一个非常实用的功能-数据导入导出功能,彻底解决了困恼用户长期以来无法自助处理数据的问题。通过阅读本文,你可以快速获得以下知识点和能力:• ZooKeeper 的持久...

让 Java Agent 在 Dragonwell 上更好用

2023-05-22
阅读 1 分钟
560
随着越来越多的云原生微服务应用的大规模部署,大家对微服务治理的能力需求越来越强。Java Agent技术能够让业务专注于业务逻辑,与此同时,中间件通过Java Agent支持无侵入修改程序行为,提供微服务治理能力。

Sealer 0.9 :帮助集群和分布式应用实现 Build、 Share、Run

2023-05-22
阅读 1 分钟
446
新春之际,很高兴在此时宣布 Sealer[1] 0.9 版本的正式发布。Sealer 是一款致力于探索面向分布式应用的快速打包、交付和运行的解决方案。2021 年5月 Sealer 项目正式开源;短短一年时间,Sealer 在 2022 年 4 月成为 CNCF Sandbox 项目。Sealer 0.9 版本中,其在核心定位上由专注 “集群维度的 Build,Share,Run” 升级为...

全景剖析阿里云容器网络数据链路(三):Terway ENIIP

2023-05-19
阅读 1 分钟
617
近几年,企业基础设施云原生化的趋势越来越强烈,从最开始的 IaaS 化到现在的微服务化,客户的颗粒度精细化和可观测性的需求更加强烈。容器网络为了满足客户更高性能和更高的密度,也一直在高速的发展和演进中,这必然对客户对云原生网络的可观测性带来了极高的门槛和挑战。为了提高云原生网络的可观测性,同时便于客户...

RocketMQ 监控告警:生产环境如何快速通过监控预警发现堆积、收发失败等问题?

2023-05-19
阅读 1 分钟
706
本文主要向大家介绍如何利用 RocketMQ 可观测体系中的指标监控,对生产环境中典型场景:消息堆积、消息收发失败等场景配置合理的监控预警,快速发现问题,定位问题。

CNStack 2.0:云原生的技术中台

2023-05-19
阅读 1 分钟
565
在进入千禧年后,随着计算机技术的发展和业务创新的不断涌现,许多大公司内的 IT 计算中心也在酝酿着变革。一方面,各部门相对独立的 IT 管理平台已经难以满足日益增长和不断变化的计算管理需求;另一方面,IT 计算中心也越来越多的成为业务创新的发源地,从一个成本中心向营收来源发展。相应的,一种围绕着资源和负载管...

基于 Kubernetes 的企业级大数据平台,EMR on ACK 技术初探

2023-05-19
阅读 1 分钟
417
当前,大数据与机器学习领域颇为关注存储与计算分离架构,逐渐向云原生演进。以Spark 为例,云下或自有服务器可以选择 Hadoop 调度支持 Spark,云上的 Spark 则会考虑如何充分享有公共云的弹性资源、运维管控和存储服务等,并且业界也涌现了不少 Spark on Kubernetes 的优秀实践。

ZooKeeper 避坑实践: Zxid溢出导致选主

2023-05-18
阅读 1 分钟
678
线上 flink 用户使用 ZooKeeper 做元数据中心以及集群选主,一些版本的 flink 在 ZooKeeper 选主时,会重启 Job,导致一些非预期的业务损失。而 ZooKeeper 在 zxid溢出时,会主动触发一次选主,就会导致 flink Job 的非预期重启,造成业务损失。本篇从原理和最佳实践上分析和解决由于 ZooKeeper zxid 溢出导致的集群选主...