共计 3908 个字符,预计需要花费 10 分钟才能阅读完成。
导读 | 软件定义存储是行业发展的趋势,可以保证系统的存储访问在精准的水平上更灵活地管理,本文分享软件定义存储的数据库云化实践,来自上周四大讲堂分享整理。 |
软件定义存储 (Software-defined storage,SDS) 是一种数据存储方式,所有存储相关的控制工作都放置在相对于物理存储硬件的外部软件中。这个软件不是作为存储设备中的固件,而是在一个服务器上或者作为操作系统 (OS) 或 hypervisor 的一部分。
软件定义存储是行业发展的趋势,可以保证系统的存储访问在精准的水平上更灵活地管理,将软件从硬件存储中抽象,这意味着它可以变成一个不受物理系统限制的共享池,以便更有效地利用资源。存储也可以通过软件和管理进行部署和供应,其管理程序可以通过基于策略的自动化管理来进一步简化。
可扩展。软件定义存储系统可以扩展到几百台甚至几千台的集群规模,而且,随着集群规模的增长,系统整体性能表现为线性增长
低成本。软件定义存储系统的自动容错、自动负载均衡机制使其可以构建在普通 X86 服务器之上。另外,线性扩展能力也使得增加、减少机器非常方便,可以实现自动运维。
高性能。无论是针对整个集群还是单台服务器,分布式存储系统具备高性能。
传统的 IT 架构模式:
一直以来,传统架构的数据库运行在小型机和集中式 SAN 存储上。随着业务的高速发展,业务系统的交易量及数据量越来越大,对业务系统的处理能力及存储能力要求越来越高。而传统的架构扩展性差,计算能力有限,IO 能力严重不足,如需达到相应的处理能力,则需要用更高配置的小型机和更高端存储来代替现有的小型机和存储,技术复杂,代价昂贵。同时,随着设备的老化,设备性能越来越不足以支撑业务需要,业务系统的架构改造和升级势在必行。
数据量:M 级–>G 级–>T 级 -> 海量已在眼前
数据量 * 用户量–> 关系用户量:几万–> 几十万–> 几百万–> 互联网全开放
关系型数据库之痛
中心化的存储系统成为 I/O 存取的瓶颈:
1、传统架构的数据库节点需要高性能主机,成本高。对于多节点 RAC 数据库,由于节点间的通信带 宽通常为 1Gb s,较高的为 10Gb s,这个数量级的带宽使得节点间 的并发处理能力没有充分利用。同时,传统的磁盘阵列受限于控制器的处理能力和 FC 端口带宽,IO 吞吐量通常只能几百 MB/s,在数据库要求大量的磁盘读写时,IO 消耗的时间过长。
2、小型机配高端存储,成本高昂,相对比较封闭,扩展能力差: 传统架构的存储扩展能力较差,在容量增加时,性能没有相应提高。同时扩容成本高,扩容周期长。
3、复杂的系统带来部署及操作、运维和管理的复杂性: 在传统架构下,需要了解多维度的运维知识和技能,如: 数据库、U ix、存储等,对运维人员要求极高,部署及操作、运维和管理异常复杂。
IT 架构的演变 - 烟囱状到云化
两层的计算 - 存储架构有以下缺陷:
中心化的存储系统
IO 存取边界,扩展成本高昂
部署与运维复杂
不能快速应对 IT 人员资源需求
基于云化的高性能高可用架构的优势:
高性能
弹性, 可灵活多维动态扩展
统一运维管理,完善数据容灾及保护
将带来 IT 基础设施性能的提升,x86 平台 CPU 性能提升。过去的 10 年,CPU 处理速度提升 8 -10 倍;DRAM 处理速度提升 7 - 9 倍。
针对 IT 基础架构的发展和 IT 基础设施的发展,以 x86 服务器为基础、使用闪存卡、Infiniband 交换机可以使 Oracle RAC 达到很高的处理能力和 IO 吞吐量的分布式存储方案 zData 应运而生。
zData 软件定义存储基于 x86 的 PC 服务器,在大幅度提升系统性能,保持系统的扩展性和敏捷响应能力的情况下,成本相对于传统架构还大大降低。zData Light Storage 分布式存储软件可支持上千个节点,存储池容量可以达到 32PB。支持不同存储介质构成的存储资源池。在基础配置(3 个存储节点)下,高达数百万 IOPS,吞吐量超过 20GB/s。
实施方式:
1. 用户可以自购硬件或利旧。
2. 云和恩墨提供 zData 软件及服务,包括性能及容量规划,zData 最佳实践,数据库迁移及优化,整体维保。
方案价值:
1. 标准的 x86 开放架构,方案灵活方便。
2. 无需采用高端小型机及高端存储,建设及扩容性价比极高。
zData Light Storage 存储管理软件
zData Light Storage 是云和恩墨自主研发的分布式存储管理软件,是一套灵活的软件定义存储软件,它充分利用基于 PC 服务器的内部直连式存储来创建一个虚拟的、可扩展的存储池,性能大大优于外部传统光纤通道 SAN,而成本和复杂性成倍降低。在 zData 中,通过 zData Light Storage 存储管理软件可以将高性能的 x86 服务器作为存储节点, 从而可以将多个存储节点的内部磁盘资源整合起来形成虚拟的 SAN 存储资源池,在数据库节点(计算节点)上安装 zData Light Storage 客户端就可以使用其中虚拟 SAN。zData Light Storage 支持 Infiniband 网络下的 RDMA 协议, 大幅减少 CPU 占用的同时能够显著降低 IO 访问延迟, 具有无可比拟的性能优势 zData Light Storage 支持主流存储介质,包括 PCIe、NVMe、SAS、SATA 等接口的 SSD 盘和卡以及 SAS、SATA 接口的传统机械硬盘。
Infiniband 网络
zData 基于 40~100GbInfiniband 高速网络,采用全冗余网络架构,一方面可以提供足够的带宽承载 zData LightStorage 存储管理软件的数据传输,使其性能大幅优于外部传统 FC SAN, 且成本和复杂性成倍降低; 另一方面为 Oracle RAC 集群的高性能读写提供了保障。
zData 智能管理工具 zMan
根据云和恩墨在 Oracle 数据库领域的专业知识和强大团队,研发了人性化的管理和运维工具 zMan(zData Manager),zMan 为 zData 提供智能方便一键化的安装,部署,管理功能,极大的降低了管理和运维的成本并在管理功能上为用户提供更简单便利友好的操作体验。
存储节点和计算节点通过高速 40~100Gb 的 Infiniband 网络互联,每个连接的链路均可进行存储数据传输。通过 zDataLight Storage 存储管理软件,在使用闪存卡的情况下,可以使单存储节点提供 IO 吞吐量达到 12GB/ s 以上,IOPS(每秒磁盘 IO 请求次数)可以达到 40 万以上,磁盘访问延迟在 0.6ms 以内。单计算节点上的 IO 吞吐量达到 12GB/ s 以上,IOPS(每秒磁盘 IO 请求次数)可以达到 100 万以上,磁盘访问延迟在 0.6ms 以内。存储的三项关键能力是传统阵列的 10 倍以上。
在 zData 软件定义存储架构中,可以根据业务和应用的需求动态扩展计算节点和存储节点,容量和性能线性增长。同样,也可以根据业务和应用的需求动态减少计算和存储节点,保证资源的最大可用度
在 zData 软件定义存储架构中,计算资源和存储资源池化,统一管理, 按需分配扩展。
在 zData 软件定义存储中,服务器,Infiniband 交换机,Infiniband HCA 卡及 PCIe 闪存卡等均冗余,任何一个设备和节点出现故障,均不影响在线业务的可用性,无单点故障。同时,zData 存储管理软件自动管理和维护存储资源,当分布式存储网络中有节点损坏,或移动增加存储节点,zData 存储管理软件会在已有的或完好的节点上重构完好的存储“块”,使得每一份存储“块”仍然有镜像,保证数据的安全性,重构速度每小时可达 2TB,可在线自动操作,无需人工干预和不影响在线业务。
整个 zData 的资源通过 zdata 管理平台统一管理,自动化运维,大大降低对 IT 管理人员技能要求。
云和恩墨 zData 软件定义存储独有的智能缓存工具 zCache,提供以下功能:
• 支持 writeback 和直通模式
• 支持在线启动和关闭 cache
• 支持自动 / 手动刷新脏数据
• 支持脏块的刷新频率和速度动态的控制
1、数据仓库和报表(OLAP)类系统:这类系统的数据库对 IO 性能要求非常高,存储容量扩容需求大,但是对可用性、容灾要求不高。这类系统在企业应用中属于核心系统之外的次重要系统,如果购买最高端的大容量集中存储,成本很高。这类系统是 zData 软件定义存储解决方案的最佳使用场景。
2、联机事务处理(OLTP)类系统:这类系统对实时性,并发性要求很高,对数据操作频繁,相应对 CPU 及 IO 要求很高。由于 zData 软件定义存储解决方案能提供充足的计算能力及显著降低 IO 延迟,这类系统也是 zData 软件定义存储解决方案的最佳使用场景。
3、数据库云化和整合:一些大型企业,数据库数量多,需要将很多不重要的数据库整合起来,减少运维复杂度和减少成本。使用 zData 软件定义分布式存储解决方案构建数据库云化和整合平台,提高系统整合后的性能,增加系统的弹性(便于扩容),并且使用 zMan 软件定义存储管理工具,让用户易于维护整合后的系统。zData 支持 OpenStack 和 VMware 平台的云化和管理。
4、X86 架构下的数据库备份容灾:适用于很多传统 X86 架构的数据库系统建立以 zData 软件定义分布式存储为核心的低成本,高效率的备份及容灾平台。
![post-qrcode](https://www.xgss.net/wp-content/uploads/2023/07/二维码-微信公众号256x256.jpg)