当前位置：文档之家 › 阿里HBase高可用之路

阿里HBase高可用之路

  • 格式：pdf
  • 大小：1.08 MB
  • 文档页数：17

RS3
Table4
RS4
• 保证用户表在HBase层面上的相互隔离，使得在单个HBase集群中不 同用户读写访问不同的表不会相互影响
• 三个组成部分：Group名、RS列表已经Table列表
高可用之路
• 调度优化解决大请求
什么是大请求？大请求有什么影响？ 大请求是指对系统资源消耗特别大的请求，典型的例子就是带有filter的scan， 这个filter过滤掉了大量的数据，导致一个next操作会访问成百上千个block。当 block大部分都在内存时，这种scan就会消耗大量cpu资源
客户端通过配置zk集群地址以及parent znode访问HBase，为了实现客户端在主备集群之间的无 缝切换使用了虚拟parent znode（vznode）代替了物理parent znode，vznode存储的内容就是 实际指向的物理parent znode，通过vznode指向不同的物理node实现客户端在主备集群之间的 无缝切换。
何进行优化保证可用率
集群灾备
程序BUG、断网、断电等情况造成单 个HBase集群挂掉，如何保证可用率
异地灾备
极端灾害情况下，某地域整个单元不 可用，如何保证异地灾备能力
高可用之路
• RS宕机自动恢复
(00-99)
Table
…...
(00-24) RegionA
(25-49) RegionB
(50-74) RegionC
优化
RS宕机
请求失败
判断RS是否宕机
将RS加入宕机列表， 访问快速抛错
后台进程间隔探测是 否假死
允许继续访问
高可用之路
• 大集群下的多租户隔离
大集群还是小集群？大集群下如何实现RS宕机的影响隔离？
HBase Cluster
Master
Default
Table1
RS1
Table2
RS2
GroupA
Table3
高可用之路
• ZK耦合灾备部署
机房A
ZK1
ZK2
/hbase-master
机房A Master Cluster
Master
机房B
机房C
ZK3
ZK4
ZK5
/hbase-standby
Standby Cluster
Replication
Master
机房C
RS
RS
RS
RS
RS
RS
RS
RS
高可用之路
• 去耦合高可用灾备部署
高可用之路
HBase – Hadoop Database，是一个高可靠性、高性能、易伸缩的分布 式存储系统。 Ali-HBase基于阿里巴巴本身业务场景和特点，对社区HBase进行深度定 制与改进，从解决方案、稳定护航、发展支撑等全方位提供一站式分布式 NOSQL数据库的产品与服务。
• 高可靠性 • 易伸缩 • 高灵活性
• 限制大请求的资源消耗，让正常的请求可以获取资源。通过sleep达到目的。
• 中断掉对客户端来说已经超时的请求，这种请求继续运行没有意义。 中断请求释放资源。
高可用之路
• HBase单集群部署
ZK1
ZK2
Master
RS
RS
ZK3
Zk4
Zk5
Backup Master
RS …... RS
JournalNode
高可用之路
什么是高可用？如何衡量？
可用率：计算机系统有效性的表示，它是在一段相当长的时间内，计算机系统的可用 时间与故障时间，维修时间及可用时间总和的比。 • 请求失败率 • RegionServer宕机比例
高可用之路
如何实现HBase集群99.99%的可用率？
节点宕机/大请求
.
节点宕机、大请求等情况都会直接影 响读写请求，威胁集群的可用率，如
(75-99) RegionD
RS1
H RegionA
L O
G RegionD
RS2
H L O G
RegionB RegionC
解决两个问题：(1)Hlog中数据的恢复；(2)Region的再分配。
高可用之路
• 分钟级快速宕机恢复
检测到RS宕机
rename rs log 目录 enqueue split task
…
APP 线程1 线程2
线程10
重试8s 10ms
RS1 RS2
RS10
在单台RegionServer宕机情况下，由于重试时间远大于正常访问响应时间，应用大部分线程都 会阻塞在失败请求的重R试S1上，造成报错量大大超过RS102%
高可用之路
• 宕机快速反应
RS宕机
请求失败
重试3次，且间隔时间 指数增长 放弃请求
JournalNode
JournalNode
Active NameNode
Standby NameNode
DN
DN
DN …... DN
高可用之路
• HBase主备集群数据同步
Master Cluster
RS
Synchronous Call
RS
Synchronous Call
……
Synchronous Call
ZK1
APP
配置管理+消息推送
Client
机房A
机房B
ZK1 ZK2 ZK3 ZK4
/hbase-master
Master Cluster
ቤተ መጻሕፍቲ ባይዱ
ZK5
ZK1 ZK2 ZK3 ZK4
/hbase-standby
Standby Cluster
ZK5
Master
Replication
Master
RS
RS
RS
RS
RS
HLog
Zookeeper
HLog List
HTable
HTable
HTable
Slave Cluster
Slave Cluster
Slave Cluster
/hbase/replication/… hlog-…-ts1 -> offset hlog-…-ts2 hlog-…-ts3 hlog-…-ts4 hlog-…-ts5
优化
删除 rs log 目录
AssignRegions
检测到RS宕机 rename rs log 目录 在zk上给rs上所有regi on建立recover节点
AssignRegions
enqueue split task
删除 rs log 目录 删除recover节点
高可用之路
• 线程阻塞问题
10台机器组成的集群，1台机器宕机影响多少流量？
高可用之路
• 秒级无缝灾备切换
Client
hbase.zookeeper.quorum:zk1,zk2,zk3 zookeeper.znode.parent:/vznode
ZK集群 /vznode
/hbase-master /hbase-standby
Master Cluster Standby Cluster

合集下载

hbase实现原理 -回复

hbase实现原理 -回复

hbase实现原理-回复HBase是一种基于Hadoop的分布式列存储数据库系统，它提供了高可用性、高性能和可伸缩性的存储解决方案。

HBase的实现原理是其能够快速存储和检索大规模数据的关键。

首先，我们需要了解HBase的基本概念。

HBase采用了一种称为“Bigtable”的数据模型，它类似于传统数据库中的表格结构，由行和列组成。

每一行都有唯一的行键，并且每个单元格都可以存储一个值。

数据是按列簇进行组织的，而列簇可以被认为是一组相关列的集合。

每个列簇都有一个唯一的名称，并且列簇中的每个列都有一个限定符。

接下来，我们来了解HBase的存储原理。

HBase使用Hadoop的HDFS （Hadoop分布式文件系统）作为其底层存储。

HBase将数据存储在HDFS 中的多个数据块中，每个数据块都有自己的副本，以实现数据的高可用性。

HBase使用HDFS的高容错性和可扩展性，以确保数据的可靠性和可伸缩性。

HBase还采用了一种称为“分区”的数据划分策略。

数据划分是将数据分成多个区域的过程，每个区域分配给一个Region Server进行管理。

每个区域都包含一个连续的行范围，并且这些区域是HBase中数据的基本单元。

当数据插入HBase时，会根据行键的范围将数据分配到相应的区域中。

在HBase中，每个Region Server负责管理多个区域，并提供对这些区域的数据存储和访问服务。

Region Server负责处理客户端的读写请求，并将数据存储在内存中的数据结构中，这种数据结构称为MemStore。

当MemStore中的数据达到一定的大小阈值时，会将数据写入磁盘中的数据文件，这些数据文件称为HFile。

HFile中的数据按照列簇和列限定符进行组织，以提高数据的读取效率。

为了支持高性能的数据访问，HBase还使用了基于B树的索引机制。

每个列簇都有一个称为“StoreFile”的索引文件，它记录了数据文件中各个列的位置信息。

阿里巴巴的10款开源项目

阿里巴巴的10款开源项目

阿里巴巴的10款开源项目一、框架react-web：Readt Web是为那些使用React Native兼容的API构建的Web应用而提供的一个框架。

React Web的目的及意义非常明确: 让React Native代码跑在Web上让一套代码运行在各个移动终端，对前端及业务来说，这是开发效率中一个质的提升。

Jstrom：JStorm是参考storm的实时流式计算框架，在网络IO、线程模型、资源调度、可用性及稳定性上做了持续改进，已被越来越多企业使用。

经过4年发展，阿里巴巴JStorm 集群已经成为世界上最大的集群之一，基于JStorm的应用数量超过1000个。

数据显示，JStorm集群每天处理的消息数量达到1.5PB。

在2015年，JStorm正式成为Apache Storm里的子项目。

JStorm将在Apache Storm里孵化，孵化成功后会成为Apache Storm主干。

Apache基金会官方表示，非常高兴JStorm能够成为Apache Storm社区的一员。

Dubbo：高性能优秀的服务框架，使得应用可通过高性能的RPC 实现服务的输出和输入功能，可以和Spring框架无缝集成。

Dubbo is a distributed, high performance RPC framework enpowering applications with service import/export capabilities.Kissy：KISSY 是一款跨终端、模块化、高性能、使用简单的JavaScript 框架。

除了完备的工具集合如DOM、Event、Ajax、Anim 等，它还提供了经典的面向对象、动态加载、性能优化解决方案。

作为一款全终端支持的JavaScript 框架，KISSY 为移动终端做了大量适配和优化，使用户的程序在全终端均能流畅运行。

Dexposed：Dexposed是面向Android应用开发的一个强大的非侵入式的运行时AOP框架。

hbase 原理

hbase 原理

hbase 原理HBase是一种分布式的非关系型数据库，其存储结构基于Hadoop的HDFS文件系统。

它的设计主要目的是提供高扩展性和高可靠性的存储解决方案。

其核心原理主要包括以下几个方面：1. 数据模型：HBase的数据模型是基于列族的。

表由多个列族（Column Family）组成，而列族由多个列限定符（Column Qualifier）组成。

每一个列限定符都对应一个值，而且可以有多个版本。

这种灵活的数据模型使得HBase在存储大量结构化和非结构化数据时非常有效。

2. 数据存储：HBase将数据存储在HDFS上，每个表会被分为多个Region，并且每个Region都会被分配到不同的Region Server上。

每个Region Server负责管理和处理一部分Region 的数据。

数据按照列族进行存储，并根据行键（Row Key）进行排序。

每个列族都有一个HFile文件用于存储数据，而每个HFile文件由多个HDFS块组成。

3. 数据访问：HBase的数据访问是通过行键进行的。

用户可以通过行键来获取特定的行，也可以通过行键的范围来扫描多个行。

同时，HBase还支持二级索引（Secondary Index），用户可以根据二级索引来快速查找数据。

4. 写入流程：当用户向HBase中写入数据时，数据首先会被缓存到内存中的写缓冲区。

一旦写缓冲区满了，数据会被刷写到磁盘，并生成一个新的HFile文件。

当HFile文件数量达到一定阈值后，HBase会触发一个合并操作，将多个小的HFile 文件合并为一个更大的文件。

5. 故障恢复：HBase通过Hadoop的ZooKeeper协调服务来实现故障恢复。

当Region Server宕机时，ZooKeeper会将该Region Server上的Region重新分配到其他可用的Region Server上，以保证数据的高可用性。

总体来说，HBase的原理可以归纳为基于列族的数据模型、数据存储在HDFS上的分布式架构、通过行键进行数据访问、写入数据的缓存和合并策略，以及故障恢复机制。

大数据学习笔记——Hbase高可用+完全分布式完整部署教程

大数据学习笔记——Hbase高可用+完全分布式完整部署教程

⼤数据学习笔记——Hbase⾼可⽤+完全分布式完整部署教程Hbase⾼可⽤+完全分布式完整部署教程本篇博客承接上⼀篇sqoop的部署教程，将会详细介绍完全分布式并且是⾼可⽤模式下的Hbase的部署流程，废话不多说，我们直接开始！1. 安装准备部署Hbase时，我们使⽤的版本为1.2.82. 正式安装1. 将hbase-1.2.8-bin.tar.gz⽂件使⽤远程传输软件放到s101的/home/centos/downloads下2. 将hbase-1.2.8-bin.tar.gz解压缩⾄/soft下tar -xzvf /home/centos/downloads/hbase-1.2.8-bin.tar.gz -C /soft3. 进⼊/soft⽬录，建⽴hbase的符号链接cd /softln -s hbase-1.2.8 hbase4. 修改并⽣效环境变量nano /etc/profile在⽂件末尾添加以下代码：#hbase环境变量export HBASE_HOME=/soft/hbaseexport PATH=PATH:HBASE_HOME/bin⽣效环境变量后保存退出source /etc/profile5. 分发hbase以及hbase的符号链接到其他所有的节点xsync.sh /soft/hbase-1.2.8然后在其他每个节点上输⼊命令：cd /softln -s hbase-1.2.8 hbase6. 同步环境变量xsync.sh /etc/profile然后在每个节点上⽣效环境变量：xcall.sh source /etc/profile7. 先只在s101节点上修改配置⽂件regionservers，类似于部署Hadoop时修改的slaves⽂件nano /soft/hbase/conf/regionservers添加以下代码：s102s103s1048. 在s101上修改配置⽂件hbase-env.shnano /soft/hbase/conf/hbase-env.sh因为HBase⾃带的就有zookeeper，因此我们需要将下⾯这个设置成false，从⽽可以使⽤我们⾃⼰的zookeeper配置修改：export HBASE_MANAGES_ZK=falseexport JAVA_HOME=/soft/jdk9. 在s101上修改配置⽂件hbase-site.xmlnano /soft/hbase/conf/hbase-site.xml添加以下配置即可：<configuration><!-- 启动hbase分布式 --><property><name>hbase.cluster.distributed</name><value>true</value></property><!-- hbase⼯作⽬录 --><property><name>hbase.rootdir</name><value>hdfs://mycluster/user/hbase</value></property><property><name>hbase.zookeeper.property.dataDir</name><value>/home/centos/zk</value></property><property><name>hbase.zookeeper.quorum</name><value>s102:2181,s103:2181,s104:2181</value></property></configuration>10. 在s101上将hadoop配置⽂件core-site.xml和hdfs-site.xml放置在/soft/hbase/conf下cp /soft/hadoop/etc/hadoop/core-site.xml /soft/hbase/conf/cp /soft/hadoop/etc/hadoop/hdfs-site.xml /soft/hbase/conf/11. s101上的配置⽂件均已配置完毕，现在进⾏同步xsync.sh /soft/hbase/conf/12. ⾼可⽤配置：在/soft/hbase/conf/下添加backup-masters⽂件nano /soft/hbase/conf/backup-masters添加：s10513. 全部配置完毕，启动hbase由于hbase是架构在HDFS⽂件系统上的，因此需要先启动zookeeper和HDFSxzk.sh startstart-dfs.sh最后再启动hbase：start-hbase.sh14. 验证启动是否成功hbase version，出现下⾯的画⾯：查看WebUI：s101:16010，发现Master和备份Master还有Region Servers都已经启动，配置⼤功告成Processing math: 0%。