Databend 参加 PingCAP 用户峰会 2022

2022-09-22
阅读 2 分钟
1.2k
Databend Cloud 产品手册终于和大家见面了! Databend Cloud 由 Databend 强力驱动,是一款基于 Databend 内核打造的 SAAS 云数仓平台,具有简单、弹性、安全、速度快、成本低等特性,专注于云端大数据一站式解决方案,以解决传统大数据项目中运维难,成本高,使用复杂的问题。很荣幸,本次参加 PingCAP 用户峰会 2022 ...
封面图

Databend JSON 复杂数据类型的设计与使用 | Databend 特性系列

2022-09-20
阅读 7 分钟
1.9k
JSON 是一种常用的半结构化数据,通过自描述的 Schema 结构,可以表示任何类型的数据,包括多层嵌套的数据类型,例如 Array、Object 等。与必须严格遵循表结构字段的结构化数据相比,具有灵活性高,易于动态扩展的优点。近年来,随着各平台数据量的迅速增加,JSON 等半结构化数据的使用越来越流行,例如,平台通过开放接...
封面图

精讲数据归档分析 |Data Infra 研究社第四期

2022-09-15
阅读 1 分钟
1.3k
【Data Infra 研究社】来到了我们的第四期活动,本期的内容我们定位在和【数据归档】相关的内容,特邀请了现任数字化零售多点 Dmall 数据库负责人冯光普老师以及 Datafuse Labs 联合创始人&架构师 吴炳锡老师来给大家从多方面出发进行交流,带大家体验云环境中对象存储的魅力!感兴趣的朋友们不要错过,赶紧扫描下方二维...
封面图

Databend 特性系列(1)|Databend 数据生命周期

2022-09-15
阅读 8 分钟
1.7k
Databend 是一个使用 Rust 研发、开源、完全面向云架构的新式数仓,提供极速的弹性扩展能力,致力于打造按需、按量的 Data Cloud 产品体验。具备以下特点:
封面图

Sqlite 并发读写的演进之路

2022-09-08
阅读 4 分钟
2.6k
sqlite 底层的存储基于 B-tree,B-Tree 对底层存储的基本读写单位是页面,而每个页面都由全局唯一的页面编号与之对应,一般来说页面编号从 1 开始递增。类 B-Tree 的存储引擎修改数据的流程如下图所示:
封面图

五分钟了解 Databend 全新 SQL 类型系统

2022-09-06
阅读 4 分钟
1.4k
类型系统是数据库的一个重要组成部分,它提供了一种一致的方式来确定 SQL 中的数据类型。类型系统的设计很大程度影响数据库的易用性和健壮性,一个设计合理且一致的类型系统容易让使用者判断 SQL 的行为。反之,一个没有经过正式设计的类型系统会带来各种暗坑和不一致行为在暗中背刺用户。我们用编程语言举个例子,JavaS...
封面图

图解一致性模型

2022-08-31
阅读 7 分钟
1.8k
引言:本文使用大量的图例,同时没有难懂的公式,意图解释清楚一致性模型要解决什么问题,以及三种一致性模型:顺序一致性、线性一致性、因果一致性。
封面图

Databend 源码阅读系列(二):Query server 启动,Session 管理及请求处理

2022-08-30
阅读 12 分钟
1.6k
Databend-query server 的启动入口在 databend/src/binaries/query/main.rs 下,在初始化配置之后,它会创建一个 GlobalServices 和 server 关闭时负责处理 shutdown 逻辑的 shutdown_handle
封面图

详解 Sqllogictest

2022-08-24
阅读 7 分钟
1.6k
之前的文章《如何为 Databend 添加新的测试》介绍了 Databend 如何进行测试,其中 SQL 的测试方法中提到了 sqllogictest,大家对这种新引入的测试方法比较感兴趣,但当前介绍这个的中文资料很少,因此我们整理下近期的一些工作和思考,跟大家分享一下 sqllogictest 的设计、实现及应用。
封面图

Databend v0.8 新版本上线!

2022-08-22
阅读 6 分钟
1.6k
Databend v0.8 的开发于 3 月 28 号开始,总计 5000+ commits,4600+ 文件变更。在过去的 5 个月中,社区的 120 余位贡献者新增了 42 W 行代码,删除了 16 W 行,相当于把 Databend 重写了一遍。在该版本中,社区对 SQL Planner 框架做出了重大改进,并将所有的 SQL 语句都迁移到了新的 Planner 上,提供了完整的 JOIN ...
封面图

Databend 源码阅读系列(一): 开篇

2022-08-04
阅读 5 分钟
2.4k
Databend 在 2021 年开源后,陆续受到了很多社区同学的关注。Databend 使用了 Rust 编程语言。为了吸引更多的开发者,特别是没有 Rust 开发经验的新同志,我们设计了 Rust 相关课程,同时建立了多个 Rust 兴趣小组。 Databend 在 issue 中还引入了“Good First issue”的 label 来引导社区新同学参与第一次贡献,目共有超...
封面图

OpenRaft 在交易撮合引擎中的应用

2022-08-03
阅读 15 分钟
2.1k
由于工作需要,一直对原子多播应用有非常浓厚的兴趣。通过一段时间的技术选型。我们非常幸运的得到了 Openraft 实操分享 Databend 社区的热心支持。我也想通过我们的实际工作,对 Openraft 的未来应用尽一些微薄之力。
封面图

如何设置 Databend 开发环境

2022-07-29
阅读 4 分钟
1.5k
为方便开发者快速建立开发环境,Databend 维护了一个复杂的 shell 脚本,位于 scripts/setup/dev_setup.sh。只需执行一条指令即可完成开发环境配置:
封面图

Rust 并发安全相关的几个概念(下)

2022-07-27
阅读 6 分钟
2.3k
本文介绍 Rust 并发安全相关的几个概念:Send、Sync、Arc,Mutex、RwLock 等之间的联系。这是其中的下篇,主要介绍 Arc,Mutex、RwLock 这几个线程安全相关的类型。
封面图

Databend 性能剖析方法与工具

2022-07-21
阅读 6 分钟
1.8k
Databend 整合了一些性能剖析工具,可以方便进行深入分析。本文将会介绍如何进行 CPU / Memory Profiling。CPU Profiling
封面图

Rust 并发安全相关的几个概念(上)

2022-07-20
阅读 5 分钟
1.5k
本文介绍一下 Rust 并发安全相关的几个概念:Send、Sync、Arc,Mutex、RwLock 等之间的联系。这是其中的上篇,主要介绍 Send、Sync 这两个trait。
封面图

100 行代码的压缩前缀树:50% smaller

2022-07-14
阅读 8 分钟
1.5k
用前缀树存储一个排序数组,去掉指针,压缩掉 50% 的空间;例如在本文的例子中, 存储 2.4 MB 的 200 万个单词, 只需要 1.2 MB。
封面图

如何对 Databend 进行基准测试

2022-07-12
阅读 7 分钟
1.7k
Databend 的设计目标之一就是保持最佳性能,为了更好观测和评估性能,社区不光提供一套简单的本地基准测试方案,还建立了可视化的持续基准测试。
封面图

如何为 Databend 添加新的测试

2022-07-08
阅读 7 分钟
1.2k
Databend 的单元测试组织形式有别于一般的 Rust 项目,是直接一股脑放在 tests/it 目录下的。同时,在各个 crate 的 Cargo.toml 中,也针对性地禁用了 doctest 和 bin/lib test 。 优点:
封面图

Databend Cloud 入选中国信通院《云原生产品目录》

2022-07-07
阅读 2 分钟
1.6k
中国信通院为解决云原生用户选型困境,全面拉齐行业认知,推动云原生产业蓬勃发展,而发起、征集和评选出来的,Databend 的技术能力获得了权威认可,成功入选目录。本次发布的《云原生产品目录》共收录云原生技术服务产品及解决方案 251 个,涉及容器、微服务、服务网格、无服务器、中间件服务、云原生安全,以及云原生...

开源,无禁止即可为

2022-07-05
阅读 3 分钟
1.4k
尽管我们经常说代码贡献并不是唯一的开源贡献方式,参与讨论,Review RFC 也是参与开源的良好途径。但是很多同学仍然会有疑虑:我不是项目的 Maintainer/Committer/Reviewer,我有资格 Review 别人的 PR 吗?本文以我在 envd 中的实践来阐述这样的观点:开源,无禁止即可为。
封面图

如何贡献复杂的项目

2022-06-29
阅读 4 分钟
1.5k
​Iteration 121 从 4/23 开始到 5/6 结束,为期两周。这个周期成功走出了自己的舒适圈,探索了不少之前自己从未了解的东西,比如 tree-sitter,parser,hdfs,java 等等,感觉收获非常多。最近反复读了很多遍 @mitchellh2 写的 Contributing to Complex Projects3,今天这份周报就结合自己从零开始参与贡献 difftastic4 ...

使用 Databend 助力 MySQL 的数据分析

2022-06-29
阅读 3 分钟
1.4k
Databend 是一个非常先进的基于对象存储云原生数仓1可以提强大的计算分析及存储能力。让 MySQL DBA 非常眼馋。今天想把 MySQL 的 wubx 库从 MySQL 全量迁移到 Databend 中。借助工具: dumpling2
封面图

Read-Write Quorum System 及在 Raft 中的实践

2022-06-24
阅读 5 分钟
1.6k
在 Paxos、Raft 这类一致性算法的描述里,经常会看到 Majority、Quorum 这两个词,在以前我以为都是表达“半数以上”的含义,最近才发现两者有不小的区别。本文介绍这两者的区别,以及在 Raft 中实践中的问题。有了 Quorum 的视角,能更好得理解一致性算法。
封面图

Databend SQL Planner 全新设计

2022-06-21
阅读 5 分钟
2.7k
为了支持复杂的 SQL 查询,并且提供更好的使用体验,我们在最近的几个月里对 Databend 的 SQL planner 进行了大规模的重构。目前重构已经接近尾声,感兴趣的朋友可以通过修改 Databend 的 Session settings
封面图

Multi-Master-Paxos-3

2022-06-16
阅读 10 分钟
1.3k
200 行代码实现 paxos-kv 中介绍了一款非常简洁的分布式 kv 存储实现,它是基于 classic-paxos 实现分布式一致性。在 paxos 的直观解释 中我们提到,每次写入,也就是每个 paxos 实例需要 2 轮 RPC 完成,效率低。
封面图

利用云原生数仓 Databend 构建 MySQL 的归档分析服务

2022-06-16
阅读 4 分钟
1.7k
MySQL 常用 OLTP 业务环境,一般会使用比较好的硬件资源来提供对外服务。现在 MySQL 数据对外提供的数据动不动好几个 T 也是正常的。在很多业务中,数据有较强的生命周期,在线一段时间后,可能就是失去业务意义,如:

Databend 在数据归档分析中的优秀表现

2022-06-13
阅读 6 分钟
2.3k
前言本篇文章基于 Databend 的用户测试体验整理,详情可戳原文链接查看,正文总体分为四部分:Databend 产品简介Databend 对 Ceph 的支持Databend 在数据归档中的优秀表现产品使用总结Databend 产品简介atabend 是一个使用 Rust 研发、开源、完全面向云架构的新式数仓,提供极速的弹性扩展能力,致力于打造按需、按量的 ...
封面图

深度探究 OpenRaft |Data Infra 研究社第二期

2022-06-10
阅读 1 分钟
1.3k
第二期的议题我们将和大家分享关于【OpenRaft 】的相关知识,感兴趣的朋友们不要错过,赶紧扫描下方二维码或点击文末「阅读原文」报名约起来吧~⏰ 时间:北京时间 6 月 18 日上午 10:00 - 11:00(周六)
封面图

技术配图的一些心得

2022-06-08
阅读 6 分钟
1.3k
对于理工科出身的同学,对于可以量化的事情,总是很习惯根据量化差异来做出判断,比如一个程序性能优化之后,对比优化之前快出多少,都能很容易的通过一个量化的数字来说明。
封面图