论坛首页 Java企业应用论坛

zookeeper学习&使用系列文章

浏览 12678 次
精华帖 (15) :: 良好帖 (0) :: 新手帖 (0) :: 隐藏帖 (0)
作者 正文
   发表时间:2011-12-05  

近段时间,因项目需要接触了下zookeeper,通过阅读源码以及项目中的使用总结,慢慢的积累了zookeeper的一系列的学习总结。

希望对大家使用zookeeper有所帮助,同时如有描述欠佳的地方尽情拍砖。

zookeeper是什么?

 ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,它包含一个简单的原语集,分布式应用程序可以基于它实现同步服务,配置维护和命名服务等。

 

 目前zookeeper被应用于hadoop/hbase中进行节点的管理,通过zookeeper你可以很方便的开发出一些分布式控制的工具,比如分布式lock, barrier,countDown , Semaphore等,甚至有人使用zookeeper开发了一个分布式Collections。 

 

我项目中使用的情况:

主要是用于解决数据库的数据同步, 通过过程的E.T.L工作节点均使用集群化处理,整个集群的调度通过zookeeper进行管理,比如同步流程的启动,关闭,挂起等,有点带流式计算的味道。

几个技术点:

 1. 分布式lock, 解决Load时为保证源库的事务变更顺序,需要做一个串行录入

 2. 优先集群, 利用zookeeper的observer解决中美机房网络延迟的影响。美国部署observer,中国部署leader/follower

 3. zookeeper watcher,ETL节点的流转通过node的watcher进行通知

 

 

文章列表:

 

   发表时间:2011-12-09  
哦,没人回复也上到了首页? zookeeper看来关注的人比较少哈
0 请登录后投票
   发表时间:2011-12-09  
一般项目很少有应用场景。这个项目不错的。https://github.com/openUtility/menagerie
0 请登录后投票
   发表时间:2011-12-10  
melin 写道
一般项目很少有应用场景。这个项目不错的。https://github.com/openUtility/menagerie

非常好的东西,一般人用不上。
0 请登录后投票
   发表时间:2011-12-10  
Zookeeper还是相当不错的,因适配它作为Dubbo的开源注册中心,也看了一些介绍。
0 请登录后投票
   发表时间:2011-12-10  
javatar 写道
Zookeeper还是相当不错的,因适配它作为Dubbo的开源注册中心,也看了一些介绍。

淘宝的timetunnel2,也用zk做的配置中心
0 请登录后投票
   发表时间:2011-12-10  
kimmking 写道
javatar 写道
Zookeeper还是相当不错的,因适配它作为Dubbo的开源注册中心,也看了一些介绍。

淘宝的timetunnel2,也用zk做的配置中心


我在项目中使用zookeeper进行一个调度控制,不仅仅是一个读/写数据的功能。
大规模的使用它的watcher功能,完成一个可靠的分布式系统调度,主要控制一个流水线工作的启动/停止/暂停等。
0 请登录后投票
   发表时间:2011-12-10  

 

要是用到hadoop/hbase的公司一般都会用zookeeper的,

我们团队也在用hbase、zookeeper,还有同事专门研究它,也有自己的zookeeper版本。

 

yahoo发布的一个开源项目omid是基于BookKeeper,用来解决hbase的事务难题。

 

BookKeeper本身也依赖于zookeeper。

 

zookeeper是个挺有前途的项目。

 

 

 

0 请登录后投票
   发表时间:2011-12-11  
ZHH2009 写道

 

要是用到hadoop/hbase的公司一般都会用zookeeper的,

我们团队也在用hbase、zookeeper,还有同事专门研究它,也有自己的zookeeper版本。

 

yahoo发布的一个开源项目omid是基于BookKeeper,用来解决hbase的事务难题。

 

BookKeeper本身也依赖于zookeeper。

 

zookeeper是个挺有前途的项目。

 

 

 

 

zookeeper的代码还是写得蛮工整的,是一个学习的好料子。 

 

你们有扩展和改写zookeeper? 

0 请登录后投票
   发表时间:2011-12-11  
发觉混这帖子的,大部分都是阿里系的。

看来阿里系对分布式的应用场景还是蛮多的
0 请登录后投票
论坛首页 Java企业应用版

跳转论坛:
Global site tag (gtag.js) - Google Analytics