国产 ETL工具 ETL产品 数据交换系统 ETL工具选型 需要考虑哪些因素
如何选型
ETL产品的选型工作一直以来都是困扰架构师的一块心病,国外付费产品用不起,国外免费产品学习成本高、不易实施。
- 多数软件又为什么逐渐国产化?
长期以来,国内数据技术都由海外厂商主导。然而随着国际竞争环境日益激烈,争端所引发的技术卡脖子事件频发,面对特殊的大环境,全球化带来的科技创新共同体背后,国家IT产业实现自主可控的重要性不言而喻。为确保国家信息安全,政府部门出台了一系列的相关政策以支持IT系统的国产化。 - 落地项目中真正的需求又是什么?
传统的数据导出、格式各种转换、装载;
上游对接消息中间件、格式各种转换、数据分发;
移植到设备终端上运行是否会省去更多复杂因素?是否会更加接地气?
适配各种当下流行的非关系型数据库、时序数据库; - 真的是靠拖拉拽就能解决所有问题吗?
拖拉拽只解决了部分实施性工作,但业务场景往往是复杂多元化的,需要实施人员能在此基础上进行适应性开发。
轻量级 跨平台 易集成
- go语言开发,部署简单,开箱即用。
不需要JVM虚拟机等环境的部署,不需要依赖各种静态库、动态库,go编译出的二进制文件是可以独立运行的、而且跨平台,实施简单方便集成。 - 不只是数据交换工具,还是可以嵌入并解析go语言脚本的开发工具。
嵌入脚本并能解析性运行解决了动态需求的场景,是必不可少的一项功能。 - 完善的ETL解决方案,提供可视化任务设计器、调度配置及日志查看功能。
为方便实施与监控需要有图形化功能来支撑。
支持丰富的数据源
- 关系型数据库
Oralce、MySQL、PostgreSQL、Sqlite - 非关系型数据库
ElasticSearch、Redis
= 时序数据库
InfluxDB、ClickHouse、Prometheus - 消息中间件
Kafka、RocketMQ - 文件
Excel、CSV
资源地址
1 声望
0 粉丝
推荐阅读
etl 增量对比解决方案 etl-engine 如何实现增量对比
增量对比实现的逻辑是将原表与目标表的数据通过算法进行对比,然后只将差异数据(增加、删除、修改)同步到目标表,在最小化操作目标表的同时还保证了目标表数据的完整性。
weigeonlyyou阅读 80
prometheus remote-write解析(二) -- 源码解读
整体流程remoteConfigs支持配置多个remoteStorage,每个remoteStorage使用1个QueueManager;watcher将sample发送给QueueManager;1个QueueManager中管理多个shard,每个shard的容量为capactiy;每个shard会定时(ba...
a朋赞 2阅读 2.8k评论 1
ElasticSearch必知必会-基础篇
定义: 相同文档结构(Mapping)文档的结合 由唯一索引名称标定 一个集群中有多个索引 不同的索引代表不同的业务类型数据 注意事项: 索引名称不支持大写 索引名称最大支持255个字符长度 字段的名称,支持大写,...
京东云开发者赞 2阅读 573
ElasticSearch 必知必会 - 进阶篇
京东物流:康睿 姚再毅 李振 刘斌 王北永说明:以下全部均基于 ElasticSearch 8.1 版本一.跨集群检索 - ccr官网文档地址: [链接]跨集群检索的背景和意义跨集群检索定义跨集群检索环境搭建官网文档地址: [链接]...
京东云开发者赞 2阅读 516
vivo 超大规模消息中间件实践之路
作者:vivo 互联网存储技术团队-Luo Mingbo、中间件团队- Liu Runyun本文根据“2022 vivo开发者大会"现场演讲内容整理而成。
vivo互联网技术赞 2阅读 492
Clickhouse查询性能优化
虽然clickhouse在大数据量查询速度会比关系型数据库如mysql或者postrges快很多,但还是有很多地方需要去了解和配置,达到提供最低资源获取最大产出
龚正阳阅读 1.9k
Prometheus的使用
在Prometheus的架构设计中,Prometheus Server 并不直接服务监控特定的目标,其主要任务负责数据的收集,存储并且对外提供数据查询支持。因此为了能够能够监控到某些东西,如主机的CPU使用率,我们需要使用到Expo...
代码的路赞 2阅读 383
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。