对J2EE集群不太了解的人首先可以看看附件里面的《解开J2EE集群的神秘面纱》, 讲的挺好的。
J2EE的服务器集群主要的就是负载均衡
和失败转移
这些。
负载均衡这个话题都烂大街了,随处可以找到相关的帖子或博文,我也就不谈了。
但是这些帖子中大部分都只谈了负载均衡,顶多再说一下 Tomcat 的 HttpSession 复制(失败转移的一种解决方案吧)。更有甚者,直接决定“集群中服务器节点宕机丢失的部分 HttpSession 不碍事”。。。
我的感觉就是,
像 Tomcat 的 HttpSession 交叉复制,如果集群中服务器过多对性能的影响肯定非常之大。
像 JBoss、WebLogic 等的服务器链式 HttpSession 复制,如果一个服务器节点宕机,此节点的下一个服务器节点就得负责两个服务器的用户请求。是不是有点怕人奥。
至于“集群中某个节点宕机就宕机, HttpSession 丢失无所谓”这样的观点也是挺匪夷所思的,毕竟后台中2000个 HttpSession 同时丢失的后果不是那么容易承担的。
为了解决上面这些问题,我自己琢磨了一套方案,感觉挺不错的(不知道网上是不是有类似“轮子”,反正我是没有搜索到)。 就发出来共享一下,嘿嘿
我想到的是缓存服务器和Web服务器双向备份HttpSession
,这个。。。。咱语文挺烂的,表达的不好。
双向备份就是集群中多个Web服务器分散保存 HttpSession ,同时在缓存服务器中也分散保存这些 HttpSession (每个 HttpSession 正常情况下只需要复制一次),至于怎么分散各位且听我慢慢说来。
我使用了三个缓存服务器(Memcached),三个Web服务器(Tomcat)进行思路实现和测试。
先说说思路吧: 三个缓存服务器和三个Web服务器如下分布
Tomcat_A
|
Tomcat_B
|
Tomcat_C
|
Memcached_A
|
Memcached_B
|
Memcached_C
|
Tomcat_A
的 HttpSession 分布备份在Memcached_B
和 Memcached_C
中
Tomcat_B
的 HttpSession 分布备份在Memcached_A
和 Memcached_C
中
Tomcat_C
的 HttpSession 分布备份在Memcached_A
和 Memcached_B
中
我的构思就是这样: 在服务器正常运行情况下,使用 Stick-Session 方式,同一个 HttpSession 由负载均衡器判断 HttpSession 归属交给同一个服务器执行,这样一来,正常情况下,服务器节点的运行就是完全独立的、就好像是单台服务器运行一样。 HttpSession 复制备份也是隐式的,通过哈希码将这个 HttpSession 隐式备份在相应哈希码分布的 Memcached 上。
假设运行中 Tomcat_A
突然宕机了(我咔嚓关了Tomcat_A,嘿嘿),那么负载均衡器就会无法将请求分发给 Request 相对应的 Tomcat_A
,负载均衡器便会把请求分发给其他的Tomcat_B
或 Tomcat_C
,这两台服务器会接收到原属于绑定在 Tomcat_A
上的请求
,他们没有相应的 HttpSession 啊, 然后他们就主动从 Memcached 集群中寻找这个 HttpSession 。如果找到的话,他们便主动把这个 HttpSession “收录”为自己的, 即将 JSESSIONID 修改为自己的。这样一来,原属于 Tomcat_A
的 HttpSession 会随机分布给其他没有宕机的服务器节点。
这是服务器节点宕机的情况、
如果缓存器节点宕机了怎么办?
假设 Memcached_A
宕机,那么整个集群中保存在 Memcached_A
中的Session备份就丢失,那么 Tomcat_B
和 Tomcat_C
中的Session就没有了备份。 如果这时这两台服务器再挂断的话,Session就真的丢失了(用户感情伤不起啊)。为了保证 “整个集群中随时都存有同一个Session的备份
”, Tomcat_B
和 Tomcat_C
应该为自身的Session负责。他们应该主动把自己的 Session 再备份一次(可以采用临时新建线程的方式, 毕竟宕机不是频繁的么。属于特殊情况),再次备份到其他的可用 Memcached 节点中。
这样,整个程序中可以完全无视
单台机器的突然宕机, 一分钟内整个集群应该能把宕机服务器的 Session 再备份一次吧!
关于这个想法,网上有一个开源项目叫做 memcached-session-manager
。 我试过它,感觉不怎么好用。它只能说实现了部分我的想法吧,没有完全实现。测试中,仍然存在 HttpSession 丢失的情况。并且它有着令人发指的效率问题!
我测试了一下, 普通的 JSP 页面处理只耗费 62.3ms
(机子挫)。而添加上这个插件之后,普通的 JSP 页面处理需要消耗 2.18s
!!!这真是令人发指的效率!
靠人不如靠自己、我便自己实现了自己的思路。
使用的缓存程序就是 Memcached 2.6, 我添加在附件里了。
我使用的 Memcached 客户端是 XMemcached (国产)、支持国产么,并且它的效率据某公司测试证明,比 SynMemcached 略高一点点。
下载地址:XMemcached
我就是通过替换了 Tomcat 原有的 StandardManager(MemcachedManager替换)、StandardSession(MemcachedSession替换) 来实现的, 然后加入了隐式的 HttpSession 备份操作。如果需要的话,还会从缓存程序中尝试获取 HttpSession。
我还通过在 MemcachedManager 中向 Context 中加入阀门(Valve)在每次请求之后再根据 MemcachedSession 的属性是否被修改来判断是否更新缓存(事务一致性么,整个请求处理过程是一个原子)。 不涉及setAttrubute、removeAttribute的操作是不会触发缓存更新的,并且 setAttribute 如果设置重复值也是不会引起缓存更新的。
在 XMemcached 中我添加了DisConnect 事件的监听器、 如果某条连接断开(Memcached服务器节点宕机)的话,会触发Web服务器将 Session 再次更新入其他未断开的Memcached服务器节点中。
整个过程实现其实挺简单的、 jar 包我也放在附件中。
最后就说说我实现的这个“无名”插件的效率、 测试中我挺费解的, 添加了这个插件的 Tomcat 居然比正常的 Tomcat 处理JSP页面还快。使用它之后,处理一个正常同样JSP页面只需要 了 57.5ms
,嘿嘿,快了几毫秒(应该是测试数据误差)。
使用这个“无名”插件挺简单的、 就是修改 context.xml ,添加一个:
<Manager className="net.sulin.mem.MemcachedManager"
queueSize="300"
addr="127.0.0.1:11211 127.0.0.1:11212 127.0.0.1:11213"
poolSize="3"
protocol="text"
maxInactiveInterval="30"/>
<!--
className : 替换的Manager
queueSize : 我采用了异步队列更新 HttpSession 缓存,队列用于存储需要更新的HttpSession对象,如果值太小的话。队列空间不够用
addr : 就是 Memcached 的服务器地址和端口了,每个之间用空格隔开(XMemcached就是这样处理的,我不想费事)
poolSize : XMemcached 客户端与 Memcached 服务器的连接池,据XMemcached 作者说即便是高并发也 30 之内吧,因为这是用NIO处理的,不需要太多连接。
protocol : XMemcached 客户端与 Memcached 服务器之间的数据传输协议,可以是“text”也可以是“binary”, binary 的话它可以使用 XMemcached 的touch方法等, 但是需要 1.4 以上版本的XMemcached。 我没使用
maxInactiveInterval :HttpSession过期时间, 分钟为单位
-->
在测试中,我胡乱关闭Web服务器和Memcached服务器, 每次请求的 HttpSession 都没有遇见丢失的情况,嘿嘿,感觉挺不错的。性能上也是毫无影响。 但是这是没有经受过任何生产考研的!
有想法的人可以试试,源码就在jar包中。如果有什么优化想法咱欢迎交流!
分享到:
相关推荐
ActiveMQ_使用failover模式进行连接切换时,线程断开 ,ActiveMQ_使用failover模式进行连接切换时,线程断开
Oracle RAC Failover 详解
配置基于LAN的PIX Failover 的详解
4G LTE Failover架构
本文档详细描述了VCS集群软件在Linux环境下的安装配置方法。VCS全称VERITAS Cluster Server,顾名思义,就是起到集群管理的功能。Symantec的VCS集成在SFHA产品中,也可以单独购买VCS,主要是一个HA的角色。 VCS具有...
solarwind failover engine
oracle failover 切换后 恢复 DG
双机热备软件failover for linux,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,
perform oracle 11g physacal dataguard failover
该脚本主要在master挂掉后,实现自动failover时候的切换脚本
oracle dataguard failoveroracle dataguard failoveroracle dataguard failover
一共9页,简单但是很清晰,比几十页看完让人晕的什么也不会了强多了! 不知道现在还有没有人用2008,希望对需要的人有些帮助
Oracle Database 12c 部署Data Guard(ADG、LDG)并实现Switchover和Failover(Rman Duplicate和Broker).pdf
详细描述sqlserver2008在windows server2008 R2上实现failover cluster的每一步骤
Failover On Cable status: Other side powered off Failover unit Secondary Failover LAN Interface: N/A - Serial-based failover enabled Unit Poll frequency 15 seconds, holdtime 45 seconds Interface Poll ...
Load Balancing & Failover (RAC)RAC负载均衡和失效接管
【DATAGUARD】物理dg的failover切换(六)【DATAGUARD】物理dg的failover切换(六)【DATAGUARD】物理dg的failover切换(六)
在master节点下 # 切换用户 su - gpadmin # 停止master pg_ctl stop -s -m fast -D $MASTER_DATA_DIRECTORY 或者 pg_ctl stop -s -m fast -D /data/master/gpseg-1 返回信息:server stopped 查看standby节点状态...
我们可以将多台服务器组成一个 故障转移群集 (failover clustercluster),这 些服务器 会协同工作 以提供一个 高可用的 应用程序 或服务环境 。群集内每一台服 务器被称为一个 节点 (node ),节点之间通过网络...