共计 2292 个字符,预计需要花费 6 分钟才能阅读完成。
导读 | TensorBase 的元数据层、运行时层和存储层。在存储层,TensorBase 非经典的列式存储。这其中最重要的,我们给出了一个反重力设计:No LSM。我们不再使用在目前开源数据库及大数据平台流行的 LSM Tree(Log Structured Merge Tree)数据结构。 |
TensorBase 是使用 Rust 实现的现代化实时开源数据仓库。
All in Rust。TensorBase 称已经在日常测试中经历数十 TB 的数据注入锤炼,是目前 Rust 社区中,面向用户特别是中小企业实际场景深度优化的、生产完成度最高的通用数据仓库类项目。
开箱即用。TensorBase 已经支持从数据插入或导入到查询完整数据仓库流程,具备了较高的早期完成度,用户可以从 TensorBase 的 Release 页下载相关 Linux 环境下的二进制文件,进行尝试。(Windows 10 的 WSL2 目前应该也可以使用)
兼容 ClickHouse 协议。ClickHouse 是一个 C++ 编写的数据仓库。TensorBase 则使用 Rust 语言从头开始实现了一个高性能的 ClickHouse SQL 方言解析器和 TCP 通讯协议栈。ClickHouse TCP 客户端可以无缝连接 TensorBase。
性能为先。TensorBase 期望通过新的软件和系统设计将现代硬件的所有潜力发挥出来。TensorBase 首次在核心链路代码上实现了“F4”:Copy-free,Lock-free,Async-free,Dyn-free(无动态对象分发)。初步的性能评估显示:在 14.7 亿行的纽约出租车数据集上,TensorBase 的简单查询的性能上已经领先 ClickHouse。
化繁为简。目前的大数据系统使用非常复杂,即使想运行一个最简单的系统,都需要配置大量难以理解的参数或者安装大量第三方依赖。
对于用户,除了现在已经达成的开箱即用,TensorBase 希望系统在运行时能在自治运行,而不是依赖运维管理员。
对于开发者,TensorBase 希望将贡献门槛降低。整个项目架构设计简洁高效(更多信息参见后文),项目外依赖很少,完全重新编译(cargo clean 到 cargo build)的单机时间在 1 分钟之内。(大数据系统或者 C++ 数据库的完整构建时间往往以小时计。)
互联未来。TensorBase 在核心上改造了 Apache Arrow 和 DataFusion,无缝支持 Arrow 格式查询、分析和传输。Arrow 格式作为越来越广泛采用的大数据交换中间格式,已经被多个数据库及大数据生态平台所支持。TensorBase 在引擎上兼容 Arrow,未来可以同时支持云原生和云中立场景下的数据仓库体验,提供存储中立的数据湖服务。
注意,架构图中的虚线连接尚未实现,这是一个全景式的架构蓝图。
![post-qrcode](https://www.xgss.net/wp-content/uploads/2023/07/二维码-微信公众号256x256.jpg)