最新文章列表

用HBaseAdmin的同学要小心--记一次HBase RegionServer的退出

一大早过来,有RegionServer挂了。 查看log,显示 2011-09-25 22:31:51,185 [main-SendThread(XXX:2181)] INFO org.apache.zookeeper.ClientCnxn: Unable to read additional data from server sessionid 0x30694969fba6a9, likely ...
杨俊华 评论(0) 有6173人浏览 2011-09-29 15:59

Fourinone四合一分布式计算框架整体介绍

FourInOne(中文名字“四不像”)是一个四合一分布式计算框架,在写这个框架之前,我对分布式计算进行了长时间的思考,也看了老外写的其他开源框架,当我们把复杂的hadoop当作一门学科学习时,似乎忘记了我们想解决问题的初衷:我们仅仅是想写个程序把几台甚至更多的机器一起用起来计算,把更多的cpu和内存利用上,来解决我们数量大和计算复杂的问题,当然这个过程中要考虑到分布式的协同和故障处理。如果仅仅是为 ...
fourinone 评论(1) 有1770人浏览 2011-09-22 15:08

<四>基于Fourinone实现集群管理指南和demo

对于像淘宝这样上万台服务器集群环境的大型互联网应用, 通常我们面临这样一种需求: 我们需要一个集群管理者管理集群里的服务器,同一个集群中任 ...
fourinone 评论(1) 有1800人浏览 2011-09-21 14:11

<三>基于Fourinone实现统一配置管理demo

在分布式多台机器环境下,维持统一的配置信息是最常见的需求, 当配置信息改变时,所有的机器能实时获取并更新。 fourinone通过park进行配置信息管理,pa ...
fourinone 评论(1) 有2030人浏览 2011-09-21 14:08

<二>基于Fourinone实现分布式计算完整demo

我们现实中的分布式计算存在多个环节,比如有的任务拆分,有的计算结果合并,或者是多个拆分和合并,他们之间是串行关系,也就是合并必须等待拆分和计算完成才能进行,同时每个拆分或者合并的任务又都是并行的过程。 CtorDemo:是包含了3个工头实例,对应3个环节,链式处理,实现过程获取到线上工人节点,进行调用,所有的分配任务和中间结果存储都由自己实现处理。 这里简单的将20条数据分配给多个工人处理, ...
fourinone 评论(3) 有3887人浏览 2011-09-14 11:38

<一>基于Fourinone实现分布式计算上手指南和demo

本demo用最简洁的代码示范fourinone如何进行分布式计算,fourinone采用一种工头链式结合工人并行的计算结构简化分布式计算,能够通俗易懂并能深入控制 ...
fourinone 评论(5) 有6286人浏览 2011-09-14 11:36

zookeeper linux下无法启动的问题

在linux下安装zookeeper时,出现了如下的错误:     Java代码  [hadoop @hadoop -master bin]$ ./zkServer.sh start   JMX disabled by user request   Using config: /opt/zookeeper-3.3
黎明lm 评论(0) 有1584人浏览 2011-09-05 14:50

zookeeper 3.3.2 安装

zookeeper 3.3.2 安装 1.下载zookeeper-3.3.2.tar.gz 安装包 2.tar -zvxf zookeeper-3.3.2.tar.gz 到指定目录 3.修改conf/zoo_sample.cfg 配置文件   将zoo_sample.cfg 的名字改为 zoo. ...
黎明lm 评论(0) 有2252人浏览 2011-08-30 17:08

使用zookeeper管理多个hbase集群

    zookeeper是hbase集群的"协调器"。由于zookeeper的轻量级特性,因此我们可以将多个hbase集群共用一个zookeeper集群,以节约大量的服务器。多个hbase集群共用zookeeper集群的方法是使用同一组ip,修改不同hbase集群的"zookeeper.znode.parent"属性,让它们使用不同的根目录。比如cluste ...
lc_koven 评论(4) 有18077人浏览 2011-08-16 15:30

hbase配置

1、下载hbase hbase-0.90.3 2、下载zookeeper zookeeper-3.3.2 版本一定要对应上,同时检查lib里的jar包hbase、zookeeper、hadoop的版本是否对应 3、修改zoo.cfg 修改dataDir=C:/cygwin/home/Administrator/zookeeper-3.3.2/data_dir 增加:server.1=130.5 ...
ouyida3 评论(0) 有993人浏览 2011-08-03 15:44

Distributed Lock

1 Overview       在分布式系统中,通常会避免使用分布式锁。然而在某些场景下,还是存在对分布式锁的需求。跟普通锁相比,分布式锁面需要对的问题更多,例如怎样保证某个进程在持有锁时意外终止之后,其它进程也能够正常地获得锁等等。笔者认为一个比较好的分布式锁实现是Terracotta,但是这不是本文的重点,感兴趣的读者可以参考笔者的Terracotta in Action 系列文章(ht ...
whitesock 评论(4) 有9133人浏览 2011-08-02 22:02

Zookeeper Client简介(转发)

直接使用zk的api实现业务功能比较繁琐。因为要处理session loss,session expire等异常,在发生这些异常后进行重连。又因为ZK的watcher是一次性的,如果要基于wather实现发布/订阅模式,还要自己包装一下,将一次性订阅包装成持久订阅。另外如果要使用抽象级别更高的功能,比如分布式锁,leader选举等,还要自己额外做很多事情。这里介绍下ZK的两个第三方客户端包装小工具, ...
shunlongjin 评论(0) 有1028人浏览 2011-07-25 11:50

解决zookeeper linux下无法启动的问题

在linux下安装zookeeper时,出现了如下的错误:     [hadoop@hadoop-master bin]$ ./zkServer.sh start JMX disabled by user request Using config: /opt/zookeeper-3.3.3/bin/../conf/zoo.cf ...
jbm3072 评论(1) 有41850人浏览 2011-07-05 10:54

zookeeper集群的安装

前提是安装完成hadoop 1)下载zookeeper-3.4.5.tar.gz 解压到每台服务器的/opt/soft 解压root@master:/opt/soft# tar zxvf zookeeper-3.4.5.tar.gz 建立软连root@master:/opt/soft# ln -s zookeeper-3.4.5 zookeeper 2)创建配置文件conf/zoo.cfg mv ...
奔跑的羚羊 评论(0) 有2861人浏览 2011-01-27 16:16

zookeeper介绍

ZooKeeper是Hadoop的正式子项目,它是一个针对大型分布式系统的可靠协调系统,提供的功能包括:配置维护、名字服务、分布式同步、组服务等。ZooKeeper ...
standalone 评论(0) 有1642人浏览 2010-07-23 10:51

最近博客热门TAG

Java(141744) C(73651) C++(68608) SQL(64571) C#(59609) XML(59133) HTML(59043) JavaScript(54919) .net(54785) Web(54514) 工作(54118) Linux(50905) Oracle(49875) 应用服务器(43289) Spring(40812) 编程(39454) Windows(39381) JSP(37542) MySQL(37267) 数据结构(36424)

博客人气排行榜

    博客电子书下载排行

      >>浏览更多下载

      相关资讯

      相关讨论

      Global site tag (gtag.js) - Google Analytics