Architecture系列之系统概述(System Overview)

系统概述(System Overview)

Aerospike是一个分布式可扩展的NoSql数据库,为一下三个主要目标而构建:

创建一个满足当今网络平台应用的弹性,可扩展平台提供与传统数据库一样的鲁棒性和可靠性(例如,ACID)提供操作效率(最小人工参与)

最早发布于Proceedings of VLDB (Very Large Databases) in 2011,Aerospike架构包括三层:

集群可感知客户端层(Client Layer)包括实现Aerospike API的开源客户端函数库,追踪节点并感知数据在集群中的所在位置自管理集群(Clustering)与数据分布层(Data Distribution Layer)监控集群通讯与自动故障转移,数据复制,跨数据中心同步,智能再平衡,数据迁移flash-optimized数据存储层(Data Storage)可靠存储数据于内存和闪存客户端层

Aerospike“智能客户端”为速度而设计。它被实现为一个开源可链接库用于C、c#、Java、PHP和Python开发,开发者可用自由按需发布或修改。客户端包括以下内容

这种架构减少了事务延迟,分流集群工作并消除开发者工作量。它确保在节点启停是应用不必重启。总之,它消除了对于额外集群管理服务器或代理服务器的需要。

分布层

Aerospike “shared nothing”架构被设计目的是可以可靠存储TB及数据并支持自动容错、复制、跨数据中心同步。本层实现线性扩展及ACID guarantees。分布层也旨在消除手工操作,实现系统所有集群管理功能的自动化。它包括3个模块:

Cluster Management Module用于追踪集群节点。关键算法是确定哪些节点是集群的一部分的Paxos-like一致投票过程。Aerospike实现专门的心跳检测(主动与被动),用于监控节点间的连通性。

当一个节点被添加或移除并且集群成员被确定,每个节点使用哈希算法讲主索引空间切分为数据切片并指派其拥有者。Data Migration Module(数据迁移模块)然后智能平衡跨集群中各节点的数据分布,并按照系统配置的复制因子确保每个数据块夸节点和夸数据中心复制。数据分割是纯粹算法,系统扩展无master,从而消除了在共享环境下的其他额外配置。

Transaction Processing Module(事务处理模块)用于读写数据请求并保障一致性与隔离性,该模块负责Sync/Async Replication(同步/异步复制):为保证写一致性,在提交数据之前向所有副本传播更新并将结果返回客户端。Proxy (代理):集群重配置期间客户端可能出现短暂过期,透明代理请求到其他节点。Duplicate Resolution(副本解析):当集群从活动分区恢复时,解决不同数据副本之间的冲突。自动,以数据最晚的时间戳为标准用户驱动,为判定数据等级,所有数据副本返回应用。

Clustering

一旦启动集群,你可以在其他数据中心安装配置cross data-center replication的其他集群,如果集群崩溃,远端集群可以承接负载。

数据存储层

Aerospike以无模式数据模型存储键值对。组织数据的容器称作命名空间(records)(类似数据库中的行)。在set中每个record有一个唯一的索引key以及一个或多个bin(类似数据库中的列)与之相关联。

set和bin不需要预先定义,可以再运行时添加。bin中的值是强类型,包括任何被支持的数据类型。bin本身不是类型,所以相同的bin名可以是不同类型的数据。

为了快速访问,索引(secondary keys)存储于内存,数据可以存储于内存或SSD硬盘。每个namespace可以分别配置,这样小的namespace可以存储在内存而大的namespace可以存储在SSD上。

数据层特别为提高速度同时减少硬件成本而设计。它可以作为缓冲层所有操作在内存中进行或者利用优化过的flash存储,后者数据不会丢失。

1亿个keys只占用6.4GB空间。虽然key没有大小限制,每个key的有效存储也只有64bytes原生,多线程,多核Flash I/O以及Aerospike日志结构文件系统利用低水平的SSD读写模式。此外,写盘执行块写操作以减少延迟。这种方式绕过标准文件系统优化传统磁盘。内Smart Defragmenter(建智能碎片整理)和Intelligent Evictor(智能清理器)。这些进程协同工作确保内存中的数据不丢失并安全的写入磁盘碎片整理程序跟踪活动记录在每一块并回收那些低于最低使用率的块清理器移除过期的记录并在系统达到高水位线时回收内存。过期时间配置在每个namespace中,record存活期从最后一次修改的时间开始计算,应用可以越过默认的数据生命周期重新指定过期时间,可以设定数据永不过期。操作Aerospike

在传统(非分布式)数据库系统中,安装完软件你需要设置schema、创建数据库和表。这与Aerospike数据库有很大不同。

在分布式数据库中,数据分布在集群中的各个服务器上。这意味着你不能在一台服务器上访问到所有数据。

通过配置初始化数据库设置。按Aerospike的术语,当安装系统时一个库被称作一个namespace,集群中的每个节点必须指明每个namespace如何创建及副本数量。数据库讲在你重启服务的时候被创建

通过应用程序执行数据库操作。当应用程序第一次引用set和bin的时候数据库schema被创建,应用程序简单地将数据存储于指定的bin。在Aerospike数据库中,,任务通常由DBA通过命令行程序执行。

根据需要修改配置文件。要更新namespace的配置参数,你需要动态修改或使用新的配置文件重启服务。

为满足性能和冗余需求,Aerospike需要规划和配置具体的节点数量,具体细节请参考Capacity Planning

monitoring tools管理和监控急群众的节点。当添加节点或因升级维护需要宕机时集群会自动配置。当节点发生故障集群会再平衡负载,以便达到对最终用户影响最小的目的。

构建应用程序而消极的人则在每个机会都看到某种忧患。

Architecture系列之系统概述(System Overview)

相关文章:

你感兴趣的文章:

标签云: