`
阅读更多
我们现实中的分布式计算存在多个环节,比如有的任务拆分,有的计算结果合并,或者是多个拆分和合并,他们之间是串行关系,也就是合并必须等待拆分和计算完成才能进行,同时每个拆分或者合并的任务又都是并行的过程。



CtorDemo:是包含了3个工头实例,对应3个环节,链式处理,实现过程获取到线上工人节点,进行调用,所有的分配任务和中间结果存储都由自己实现处理。
这里简单的将20条数据分配给多个工人处理,数据用data变量表示,j用来记录计算结果,如果j==20,标志结束,任务初始为一个id的字符传给工头实例1,工头加上自己名称的描述和数据data后传给工人处理,工人再加上自己的名称和处理信息返回给工头,工头实例1处理完再传给工头实例2,直到3个工头都链式处理完, 这里将上工头的处理结果又当做下一个工头的输入。
注意:工头和工人之间是异步调用,会马上返回,需要检查结果是否完成。
WareHouse[] hmarr = new WareHouse[wks.length];
这里通过hmarr数组来记录每次每个工人任务分配的结果,需要轮循hmarr的每个结果是否已经计算完成,如果计算完成就设置为null,进行新的任务安排。

WorkerDemo:是一个工人实现,工人可以指定某种类型,比如有的工人用于计算,有的用于合并,也都是自己实现。这里只是简单的在工头传入的id后加上自己的名称信息代表处理。
waitWorking("localhost",Integer.parseInt(args[1]),"workdemo");
该方法进行任务等待,其中3个参数分别指定工人监听ip, 工人监听端口,和工人类型

ParkServerDemo: 分布式计算过程的协同服务park

另外:工头和工人之间的计算交互有两种模式,一种是工头直接调用工人,一种是通过park消息中枢,可以在配置文件里配置COMPUTEMODE的默认值进行指定,默认是直接调用方式。

部署:CtorDemo,WorkerDemo,ParkServerDemo分别部署在不同机器或者同台机器不同进程,Worker可以有多个。

运行步骤:
1、启动ParkServerDemo(它的IP端口已经在配置文件的PARK部分的SERVERS指定)
2、运行WorkerDemo, 通过传入不同的端口和名称参数指定多个Worker,这里假设在同机演示,ip设置为localhost
3、运行CtorDemo


邮箱:fourinone@yeah.net
腾讯群:1313859

本demo源码和开发包下载
http://www.skycn.com/soft/68321.html

  • 大小: 170.9 KB
分享到:
评论
3 楼 kkmike999 2013-06-24  
jadethao 写道
‘职介者‘是什么个作用?能稍微给点解释吗?谢谢!

职介者,应该就是ParkServer吧~ 相当于,hadoop中的Zookeeper

《fourinone分布式协调设计解析》http://fourinone.iteye.com/blog/1717603
2 楼 fourinone 2012-06-28  
jadethao 写道
‘职介者‘是什么个作用?能稍微给点解释吗?谢谢!

“职介所”在每次分布式计算时给“包工头”介绍“工人”,当“工人”加入集群时首先在“职介所”进行登记,然后“包工头”去“职介所”获取可用于计算的“工人”,然后“职介所”会继续和“工人”保持松散的联系,以便在有新的工程时继续介绍该“工人”。
1 楼 jadethao 2012-06-28  
‘职介者‘是什么个作用?能稍微给点解释吗?谢谢!

相关推荐

    大数据与云计算培训学习资料 Fourinone实现分布式计算 共3页.pdf

    大数据与云计算培训学习资料 Fourinone实现分布式计算 共3页.pdf

    Fourinone分布式并行计算四合一框架

     开发包里自带了一系列傻瓜上手demo,包括分布式计算、统一配置管理、集群管理、分布式锁、分布式缓存、MQ等方面, 每个demo均控制在少许行代码内,但是涵盖了Fourinone主要的功能,方便大家快速理解并掌握。...

    Fourinone分布式计算框架

    FourInOne(中文名字“四不像”)是一个四合一分布式计算框架,在写这个...开发包里自带了一系列傻瓜上手demo,包括分布式计算、统一配置管理、集群管理、分布式锁、分布式缓存、MQ等方面帮助掌握fourinone的全部功能

    Fourinone四合一分布式计算框架整体介绍

    NULL 博文链接:https://fourinone.iteye.com/blog/1163255

    分布式计算的fourinone四合一框架设计

    开发者根据自己的需求可以基于Fourinone自己去扩充这些功能,包括mq集群,通过一个独立的domain/node建立队列或者主题的key隐射,再仿照上面分布式缓存的智能依据key定位服务器的做法实现集群管理。

    Fourinone分布式计算框架性能、压力、容灾测试报告

    Fourinone在去年11月在淘宝内部通过了压测,上亿排序和wordcount等经典指标均优于hadoop,这是一份长达10多页的详细测试报告

    学习资料:淘宝分布式并行计算四合一框架Fourinone

    学习资料:淘宝分布式并行计算四合一框架Fourinone 内容:淘宝分布式并行计算四合一框架Fourinone详细介绍;源码分析及使用说明;Fourinone分布式计算框架性能、压力、容灾测试报告;框架压缩包 本示例把分配任务的...

    fourinone-3.04.25

    开发包里自带了一系列傻瓜上手demo,包括分布式计算、统一配置管理、集群管理、分布式锁、分布式缓存、MQ等方面, 每个demo均控制在少许行代码内,但是涵盖了Fourinone主要的功能,方便大家快速理解并掌握。...

    高级java笔试题-fourinone:四合一分布式计算框架

    淘宝Fourinone(中文名字“四不像”)是一个四合一分布式计算框架,在写这个框架之前,我对分布式计算进行了长时间的思考,也看了老外写的其他开源框架,当我们把复杂的hadoop当作一门学科学习时,似乎忘记了我们想...

    四合一分布式计算框架源代码

    淘宝Fourinone(中文名字“四不像”)是一个四合一分布式计算框架,在写这个框架之前,我对分布式计算进行了长时间的思考,也看了老外写的其他开源框架,当我们把复杂的hadoop当作一门学科学习时,似乎忘记了我们想...

    淘宝分布式并行计算四合一框架Fourinone

    淘宝分布式并行计算四合一框架Fourinone 这个是介绍淘宝的分布式应用框架。

    fourinone分布式协调设计解析

    NULL 博文链接:https://fourinone.iteye.com/blog/1717603

    分布式计算互相sayhello

    NULL 博文链接:https://fourinone.iteye.com/blog/1569747

    fourinone配置文件

    别的我不懂,今儿聊一下fourinone中的分布式缓存以及分布式文件系统,说到分布式,不得不用到网络通讯,不得不提及RPC,fourinone号称只有100多K,不依赖任何第三方jar,那通讯怎么玩啊!自己用socket或者NIO实现,...

    淘宝分布式框架fourinone介绍.pptx

    淘宝分布式框架fourinone介绍.pptx

    大型分布式架构设计框架fourinone3.04.25

    本源码包含分布式技术的主要应用,分别介绍分布式并行计算的基本概念、分布式协调、分布式缓存、消息队列、分布式文件系统、分布式作业调度平台等,是构建大型分布式网站架构与设计的重要参照和选择。本压缩包包含...

    java简易版开心农场源码-fourinone_tmp:Fourinone_tmp

    淘宝Fourinone(中文名字“四不像”)是一个四合一分布式计算框架,在写这个框架之前,我对分布式计算进行了长时间的思考,也看了老外写的其他开源框架,当我们把复杂的hadoop当作一门学科学习时,似乎忘记了我们想...

    fourinone-2.05.28.rar

    淘宝Fourinone2.0提供了一个4合1分布式框架和简单易用的编程API,实现对多台计算机CPU,内存,硬盘的统一利用,从而获取到强大计算能力去解决复杂问题。Fourinone框架提供了一系列并行计算模式(农民工/包工头/职...

Global site tag (gtag.js) - Google Analytics