温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

HBase是怎么做到毫秒级查询的

发布时间:2021-12-09 11:55:47 来源:亿速云 阅读:244 作者:iii 栏目:大数据

这篇文章主要讲解了“HBase是怎么做到毫秒级查询的”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“HBase是怎么做到毫秒级查询的”吧!

1. 缓存

HBase有两块主要的内存缓存,MemStore 和 BlockCache。

具体的过程如下:

  • 一个查询过来 regionserver 后首先用 MemStoreScanner 搜索 MemStore 里是否有所查的 rowKey ,这一步在内存中,所以是很快的。

  • 如果不在 memstore 中,会经过一系列的索引寻址会定位到 block 的位置。

  • 如果 block 在 BlockCache 缓存中则可以直接在内存中操作,速度很快,不需要再进行一次 IO 将整个 block 读取到内存中。

2. 过滤

  • RegionServer 启动的时候就会把每个HFile的起止 rowkey 加载到内存中,在定位 HFile 的时候可以过滤掉大部分HFile;


  • 同时同样是加载到内存的 Bloom Block 也会通过之前说的 bloomFilter 也会过滤掉大部分一定不包含所查rowKey的HFile。

3. 索引

经过了上面的过滤,其实只剩下很少一部分的HFile需要去检索了,HBase有三级索引,第一级索引会常驻内存,二三级的索引会以block的形式存在HFile中。

索引相关更细节的东西可以看下这篇 HBase篇(4)-你不知道的HFileHBase篇(4)-你不知道的HFile

另外可以提一下,因为HBase是多版本共存的,所以结果可能是会有多个的,因此检索的过程不是找到一个就返回了,而是要找到所有的,然后将结果合并。


HBase的各个角色之间是怎么协调工作的?  

先说说Hbase主要包含的角色: HMaster/HRegionServer/Zookeeper

1. HRegionServer 

负责实际数据的读写. 当访问数据时, 客户端最终会直接与 RegionServer 通信。HBase的表根据Row Key的区域分成多个Region, 一个Region包含这这个区域内所有数据. 而Region server负责管理多个Region, 负责在这个Region server上的所有region的读写操作.

2.  HMaster 

  • 负责管理Region的位置, DDL(新增和删除表结构);

  • 协调 RegionServer,在集群处于数据恢复或者动态调整负载时,分配Region到某一个 RegionServer 中;

  • 管控集群,监控所有 Region Server 的状态;

  • 提供DDL相关的API, 新建(create),删除(delete)和更新(update)表结构;

3.  Zookeeper 

负责维护和记录整个Hbase集群的状态。

zookeeper探测和记录Hbase集群中服务器的状态信息.如果zookeeper发现服务器宕机,它会通知Hbase的master节点。master 节点宕机,则会通知 backup 变成 master。


说说 HBase 的 LSM Tree?

LSM Tree即是日志结构合并树。

先说日志结构:

日志的特点是它是顺序追加写的,可以保证非常好的写操作性能,但是从日志文件中读一些数据将会比写操作需要更多的时间,需要倒序扫描,直接找到所需的内容。

LSM tree是通过把随机写的数据写到内存,然后定期flush到磁盘,对于磁盘来说,让所有的操作顺序化,而不是随机读写。

再说说合并树:

LSM Tree的原理是把一棵大树拆分成N棵小树,它首先写入内存中即是小树,随着小树越来越大,会flush到磁盘中,磁盘中的树定期可以做merge操作,合并成一棵大树,以优化读性能。

感谢各位的阅读,以上就是“HBase是怎么做到毫秒级查询的”的内容了,经过本文的学习后,相信大家对HBase是怎么做到毫秒级查询的这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是亿速云,小编将为大家推送更多相关知识点的文章,欢迎关注!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI