第2章 负载均衡
(黎明你好原创作品,转载请注明)
2.1 Tomcat链接方式
首先我们先介绍一下为什么要让http server与Tomcat之间进行连接。事实上Tomcat本身已经提供了HTTP服务,该服务默认的端口是8080,装好tomcat后通过8080端口可以直接使用Tomcat所运行的应用程序,你也可以将该端口改为80。既然Tomcat本身已经可以提供这样的服务,我们为什么还要引入Apache或者其他的一些专门的HTTP服务器呢?原因有下面几个:
1. 提升对静态文件的处理性能。
2. 利用Web服务器来做负载均衡以及容错。
3. 无缝的升级应用程序。
这三点对一个web网站来说是非常之重要的,我们希望我们的网站不仅是速度快,而且要稳定,不能因为某个Tomcat宕机或者是升级程序导致用户访问不了,而能完成这几个功能的、最好的HTTP服务器也就只有apache的http server了,它跟tomcat的结合是最紧密和可靠的。
默认情况下,Tomcat在server.xml中配置了两种连接器:
第一个连接器监听8080端口,负责建立HTTP连接。在通过浏览器访问Tomcat服务器的Web应用时,使用的就是这个连接器。
第二个连接器监听8009端口,负责和其他的HTTP服务器建立连接。在把Tomcat与其他HTTP服务器集成时,就需要用到这个连接器。
两种端口可以同时开,也可以开一个。例如我们使用apache通过ajp进行负载均衡配置时,可以关掉tomcat的http8080端口以防止可以被单独访问。
Web客户访问Tomcat服务器上JSP组件的两种方式如图:
使用http方式,配置文件
<Connector executor="tomcatThreadPool" port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" /> <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">
使用ajp方式,配置文件
<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" /> <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">
2.2 mod_proxy
mod_proxy_balancer是apache httpd自带的负载平衡支持。其优点可以根据实际的运行时机器的环境来决定负载均衡的策略。实现Session在node上进行共享传递。
2.2.1 加载so库
#mod_proxy_blancer LoadModule proxy_module modules/mod_proxy.so LoadModule proxy_ajp_module modules/mod_proxy_ajp.so LoadModule proxy_ftp_module modules/mod_proxy_ftp.so LoadModule proxy_http_module modules/mod_proxy_http.so LoadModule proxy_connect_module modules/mod_proxy_connect.so LoadModule proxy_balancer_module modules/mod_proxy_balancer.so
2.2.2 http方式
<Proxy balancer://mycluster> BalancerMember http://127.0.0.1:8080 loadfactor=3 BalancerMember http://127.0.0.1:7080 loadfactor=3 ProxySet lbmethod=byrequests </Proxy> ProxyRequests Off ProxyPass /test balancer://mycluster/ stickysession=JSESSIONID nofailover=Off ProxyPassReverse /test balancer://mycluster/
实现负载均衡的原理为:假设Apache接收到http://127.0.0.1 /test请求,由于该请求满足ProxyPass条件(其URL前缀为“/"),该请求会 被分发到后台某一个BalancerMember。譬如该请求可能会转发到http://127.0.0.1:8080/进行处理。当第二个满足条件的URL请求过来时,该请求可能会被分发到另外一台BalancerMember,譬如,可能会转发到 http://127.0.0.1:7080/如此循环反复,便实现了负载均衡的机制。
loadfactor表示:后台服务器负载到由Apache发送请求的权值,该值默认为1,可以将该值设置为1到100之间的任何值。以上面的配置为例,进行4此请求时,则有3次连续的这样请求被负载到BalancerMember为http://127.0.0.1:8080/的服务器;有1次被负载到BalancerMember为http://127.0.0.1:7080/的服务器。
lbmethod表示:负载载均衡策略。
lbmethod=byrequests 按照请求次数均衡(默认)
lbmethod=bytraffic 按照流量均衡
lbmethod=bybusyness 按照繁忙程度均衡(总是分配给活跃请求数最少的服务器)
ProxyPass表示:所有的test请求都会重定向到balancer://mycluster/处理。balancer是内置负载。
ProxyPassReverse表示:反向代理,也就是将所有的请求反向代理到负载均衡后的应用url路径中。
stickysession表示:进行Session复制使用。
2.2.3 AJP方式
tomcat提供了ajp协议和httpd通信。当不想tomcat的8080端口开放时,可以使用此方式,配置文件:
<Proxy balancer://mycluster> BalancerMember ajp://127.0.0.1:8009 loadfactor=2 route=tomcat1 BalancerMember ajp://127.0.0.1:7009 loadfactor=2 route=tomcat2 ProxySet lbmethod=byrequests </Proxy> ProxyRequests Off ProxyPass /test balancer://mycluster/ stickysession=JSESSIONID nofailover=Off ProxyPassReverse /test balancer://mycluster/
2.2.4 热备份
热备份的实现很简单,只需添加 status=+H 属性,就可以把某台服务器指定为备份服务器:
此时请求总是流向 8080这个url ,一旦8080挂掉, Apache会检测到错误并把请求分流给7080。Apache会每隔几分钟检测一下8080的状况,如果8080恢复,就继续使用8080。
<Proxy balancer://mycluster> BalancerMember http://127.0.0.1:8080 BalancerMember http://127.0.0.1:7080 status=+H ProxySet lbmethod=byrequests </Proxy> ProxyRequests Off ProxyPass /test balancer://mycluster/ stickysession=JSESSIONID nofailover=Off ProxyPassReverse /test balancer://mycluster/
2.2.5 虚拟主机
配置文件
<VirtualHost *:80> ServerAdmin limingnihao@iteye.com ServerName localhost ServerAlias localhost <Proxy balancer://mycluster> BalancerMember ajp://127.0.0.1:8009 loadfactor=1 route=tomcat1 BalancerMember ajp://127.0.0.1:7009 loadfactor=1 route=tomcat2 ProxySet lbmethod=bytraffic </Proxy> ProxyRequests Off ProxyPass /test balancer://mycluster/ stickysession=JSESSIONID nofailover=Off ProxyPassReverse /test balancer://mycluster/ ErrorLog "logs/error.log" CustomLog "logs/access.log" common </VirtualHost>
2.2.6 监控功能
可添加以下配置,可以查看监控页面。通过访问:http://127.0.0.1/balancer-manager。
配置文件
<Location /balancer-manager> SetHandler balancer-manager Order Allow,Deny Allow from all </Location>
2.3 mod_jk
Tomcat提供了专门的JK插件来负责Tomcat和HTTP服务器的通信。应该把JK插件安置在对方的HTTP服务器上。当HTTP服务器接收到客户请求时,它会通过JK插件来过滤URL,JK插件根据预先配置好的URL映射信息,决定是否要把客户请求转发给Tomcat服务器处理。例如预先配置好所有"/*.jsp"形式的URL都由Tomcat服务器来处理
Tomcat提供了不同的JK插件的实现模块。常用的JK插件有:
与Apache HTTPD服务器集成:mod_jk.so
与Windows IIS服务器集成:isapi_redirect.dll
2.3.1 Workers.properties
Workers实际上属于Tomcat的链接器(Connector),代表了一个Tomcat实例,这个实例代表了由某种web服务器来执行 servelet程序。举例来说,我们可以使用某个服务器,例如apache 来把servelet请求转递Tomcat进程(worker)来进行后台处理。
这样我们就可以通过配置多个 Worker,让不同的请求能够被不同的Worker处理,这些Worker可以提供不同的开发环境,使得所有开发者可以共享一个服务器而每个人都拥有自己的Worker。
想要提供负载平衡,只要在同一台机器上运行多个Tomcat Worker并且能够在这些Worker之间分布Web请求。
Tomcat Workers都定义在一个叫做workers.properties属性文件之中,并且workers的说明告诉应该如何使用它们。
2.3.1.1 全局配置项
指令 | 默认 | 说明 |
worker.list | ajp13 | 由逗号分离开的worker名称列表. |
worker.maintain | 60 | 辅助连接池保持间隔,以秒为单位。 |
2.3.1.2 链接指令
可配置一个通用的,然后每个work进行继承。
指令 | 默认 | 说明 |
type | ajp13 | 指定Tomcat服务器 与Apache之间的通信协议 |
host | localhost | Tomcat主机名或 IP 地址。 |
port | 8009 | Tomcat侦听端口号。AJP13的默认端口是8009. |
socket_connect_timeout | socket_timeout*1000 | 套接字超时时间(毫秒为单位)。 |
socket_keepalive | false | 在未激活的连接中发送KEEP_ALIVE信息(发送间隔时间依赖于操作系统的设置,一般为120秒) |
ping_mode | - |
探测tomcat的状态策略。 C(content):链接模式,最后一次链接判断是否超时。connect_timeout定义时间。若未定义使用ping_timeout。 P(prepost):请求模式,通过每次请求判断是否超时。prepost_timeout定义时间。若未定义使用ping_timeout。 I(interval):间隔模式,定期检测链接是否超时。connection_ping_interval间隔时间。ping_timeout超时时间。 A:以上所有的探测策略都将开启。 |
connection_pool_size | JK会维护多个长连接做为一个池。它被用来设置每个WebServer(Apache)子进程的最大连接数。 | |
connection_pool_minsize | (pool+1)/2 | 连接池中维护最小的连接数。 |
connection_pool_timeout | 0 | 在连连池中维护的非活动连接连续多少秒后被释放。如果为0,则不释放。 |
connection_acquire_timeout | retries*retry_interval | 获取接连的超时。 |
lbfactor | 1 | 负载平衡器权值 |
2.3.1.3 负载均衡设置
指令 | 默认 | 说明 |
balance_workers | 逗号分隔的worker列表 | |
sticky_session | true | 负载喷发采用Session粘贴机制,按SessionID喷发请求。为了保障同一SessionID的请求被分发到同一台服务器上。 |
sticky_session_force | false | 如果为True, SessionID并不合法时则返回500错误,否则,丢掉Session并转发到另外的机器上。 |
2.3.1.4 实例
# Define two status worker: # - jk-status for read-only use # - jk-manager for read/write use worker.list=jk-status worker.jk-status.type=status worker.jk-status.read_only=true worker.list=jk-manager worker.jk-manager.type=status # We define a load balancer worker # with name "balancer" worker.list=balancer worker.balancer.type=lb worker.balancer.error_escalation_time=0 worker.balancer.max_reply_timeouts=10 worker.balancer.sticky_session=true worker.balancer.sticky_session_force=true # Now we add members to the load balancer First member is "tomcat1", most attributes are inherited from the template "worker.template". worker.balancer.balance_workers=tomcat1 worker.tomcat1.reference=worker.template worker.tomcat1.host=127.0.0.1 worker.tomcat1.port=8009 worker.tomcat1.activation=A # Second member is "tomcat2", most attributes are inherited from the template "worker.template". worker.balancer.balance_workers=tomcat2 worker.tomcat2.reference=worker.template worker.tomcat2.host=127.0.0.1 worker.tomcat2.port=7009 worker.tomcat2.activation=A # Finally we put the parameters worker.template.type=ajp13 worker.template.socket_connect_timeout=5000 worker.template.socket_keepalive=true worker.template.ping_mode=A worker.template.ping_timeout=10000 worker.template.connection_pool_minsize=0 worker.template.connection_pool_timeout=600 worker.template.reply_timeout=300000 worker.template.recovery_options=3
2.3.2 uriworkermap.properties
/*.do=balancer /*.jsp=balancer #/*.gif=balancer #/*.jpg=balancer #/*.png=balancer #/*.css=balancer #/*.js=balancer #/*.htm=balancer #/*.html=balancer #/*.txt=balancer # Optionally filter out all .jpeg files inside that context # For no mapping the url has to start with exclamation (!) !/servlets-examples/*.jpeg=lb # # Mount jkstatus to /jkmanager # For production servers you will need to # secure the access to the /jkmanager url # /jk-manager=jk-manager /jk-status=jk-status
2.3.3 httpd.conf
需要在中添加httpd的配置文件中加载jk的配置文件。
# 加载jk配置文件 #Include conf/mod_jk.conf
2.3.4 mod_jk.conf
# a versioned file name. LoadModule jk_module modules/mod_jk_2.2_32.so <IfModule jk_module> JkWorkersFile conf/workers.properties JkLogFile logs/mod_jk.log JkLogLevel info JkShmFile logs/mod_jk.shm # JkOptions +RejectUnsafeURI # JkStripSession On JkWatchdogInterval 60 <Location /jk-status> # Inside Location we can omit the URL in JkMount JkMount jk-status Order deny,allow Deny from all Allow from 127.0.0.1 </Location> <Location /jk-manager> # Inside Location we can omit the URL in JkMount JkMount jk-manager Order deny,allow Deny from all Allow from 127.0.0.1 </Location> JkMountFile conf/uriworkermap.properties JkMount /* balancer # JkUnMount /myapp/static/* * # JkUnMount /myapp/images/* balancer # SetEnvIf REQUEST_URI "\.(htm|html|css|gif|jpg|js)$" no-jk # SetEnvIf Request_URI "/transactions/" JK_REPLY_TIMEOUT=600000 # SetEnvIf Request_URI "/reports/" JK_REPLY_TIMEOUT=0 </IfModule>
2.3.5 编译Linux版本JK
在linux自行编译jk时,需要以下步骤:
1.解压tomcat-connectors-1.2.37-src.tar.gz
2.指定httpd的apxs文件。他会自动将mod_jk.do生成到httpd的modules下。
./configure --with-apxs=/opt/apache/httpd/bin/apxs
2.4 Session同步方式
2.4.1 sticky模式
前端balancer可实现sticky模式的session同步功能。利用负载均衡器的sticky模式的方式把所有同一session的请求都发送到相同的Tomcat节点。这样不同用户的请求就被平均分配到集群中各个tomcat节点上,实现负载均衡的能力。这样做的缺点是没有灾难恢复的能力。一旦一个节点发生故障,这个节点上所有的session信息全部丢失;同一用户同一session只和一个webServer交互,一旦这个webserver发生故障,本次session将丢失,用户不能继续使用。
2.4.2 复制模式
利用Tomcat session复制的机制使得所有session在所有Tomcat节点中保持一致。当一个节点修改一个session数据的时候,该节点会把这个 session的所有内容序列化,然后广播给所有其它节点。这样当下一个用户请求被负载均衡器分配到另外一个节点的时候,那个节点上有完备的 session信息可以用来服务该请求。这种做法的问题是对session哪怕有一点点修改,也要把整个sessions数据全部序列化 (serialize),还要广播给集群中所有节点,不管该节点到底需不需要这个session。这样很容易会造成大量的网络通信,导致网络阻塞。一般采 用这种方式,当Tomcat节点超过4个时候,整个集群的吞吐量就不能再上升了;
此方式是通过tomcat本身提供的功能,只需要修改server.xml文件
(1)修改Engine节点信息: <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">
(2)去掉<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster"/> 的注释符
(3)web.xml中增加 <distributable/>
2.5 Linux部署常见问题
1.Failed to lookup provider 'shm' for 'slotmem': is mod_slotmem_shm loaded??
加载mod_slotmem_shm.so就可以了。
2.BalancerMember Can't find 'byrequests' lb method
三种模式,需要加载三个so:
mod_lbmethod_bybusyness.so
mod_lbmethod_byrequests.so
mod_lbmethod_bytraffic.so
相关推荐
Apache,Tomcat集群和负载均衡包括了apache-tomcat-5.5.29.zip,apache_2.2.4-win32-x86-no_ssl.msi,mod_jk-1.2.28-httpd-2.2.3.so,ApacheTomcat整合文档.doc,Apache,Tomcat集群和负载均衡教程.doc,Tomcat负载...
Windows 环境下 Tomcat +Apache实现负载均衡
花了两天时间,终于把APACHE负载均衡搞定了,网上找的感觉写的太不详细了,绕了太多弯路,于是写下完整过程
内附完整配置教程和修改后的apache的httpd.conf文件和tomcat的server.xml配置文件,包含test测试项目,不包含apache和tomcat安装文件。 本教程参考网上资料,本机测试成功,如有问题可以私信说明。
Apache负载均衡含Linux和windows版本,其中Linux包含一些Linux系统中安装必须的依赖包: tomcat-connectors-1.2.42-src.tar pcre-8.40.tar.gz httpd-2.4.25.tar.gz apr-util-1.5.4.tar.gz apr-1.5.2.tar.gz等。 并配...
一,查看有没有安装过mod_proxy之类的东西 安装mod_proxy,proxy_balancer_module等 配置httpd.conf,测试负载均衡
找了很久终于找到了mod_jk-1.2.40-win64.zip 专门供httpd(apache 2.2)使用的,官网下载都下载不到了,我还是出去下载的。
Tomcat和Apache集群和负载均衡配置 Tomcat版本:apache-tomcat-7.0.26 Apache版本:Apache2.2.25 jre版本:1.6.0_26 集群和负载均衡配置已整好,解压后,只要点击run.bat一键启动,即可看到集群效果。 运行成功后,...
#========controller,负载均衡控制器======== worker.controller.type=lb worker.controller.balanced_workers=tomcat1,tomcat2 worker.controller.sticky_session=1 5 修改tomcat的端口号(3处) ...
APACHE 2.2.9+TOMCAT6.0.18配置负载均衡 目标: 使用 apache 和 tomcat 配置一个可以应用的 web 网站,要达到以下要求: 1、 Apache 做为 HttpServer ,后面连接多个 tomcat 应用实例,并进行负载均衡。 2、 为系统...
CentOS系统下Apache负载均衡、Tomcat集群所需安装包:apache-tomcat-8.0.15.tar.gz,autoconf-2.69.tar.xz,httpd-2.2.9.tar.gz,libtool-2.4.2.tar.gz,tomcat-connectors-1.2.37-src.tar.gz,zlib
suse系统完整配置apache集群实例,包括安装介质下载,操作系统参数调整,apache-httpd程序编译,tomcat-connectors编译,负载均衡设置,memcached实现session赋值,tomcat优化,apache-httpd优化,调测问答。
本人电脑上已经配置好的相关配置文件 ...tomcat-connectors-1.2.40-windows-x86_64-httpd-2.4.x.zip httpd.conf server.xml(tomcat) mod_jk.conf uriworkermap.properties vhosts.conf workers.properties
tomcat集群和负载均衡的实现 (1)在那台要安装apache的服务器上安装apache2.0.55,我的安装路径为默认C:\Program Files\Apache Group\Apache2 (2)安装后测试apache能否正常启动,调试到能够正常启动...
下面是实现2个tomcat实现负载均衡,如果只有一个则可删除一个 apache2.2以上版本,无需使用jk_mod来集成tomcat,直接使用ajp,很方便。 修改apache配置文件httpd.conf 启用mod_proxy_ajp 代码如下: #LoadModule ...
Liferay | 负载均衡器| 阿帕奇Ansible角色,用于将Apache HTTPD安装和配置为AJP负载均衡器以应用程序服务器组。 创建该角色的目的是为了轻松为Liferay设置负载平衡器,但可以将其用于支持AJP协议的任何其他服务器。...
修改APACHE的配置文件D:\Apache\conf\httpd.conf 将以下Module的注释去掉,这里并没有使用mod_jk.so进行apache和tomcat的链接,从2.X以后apache自身已集成了mod_jk.so的功能。只需简单的把下面几行去掉注释,就相当...
Apache配置反向代理,负责均衡,SSL必备中间件。It开发人员必知必会的东西,压缩包中包含安装包,教你部署以及认识负载均衡以及反向代理的doc文档。
JK是Tomcat提供给http服务器的插件,这里是tomcat-connectors-1.2.39-windows-x86_64-httpd-2.4.x,对应64位操作系统。
Apache是世界使用排名第一的Web服务器软件。它可以运行在几乎所有广泛使用的计算机平台上,由于其跨平台和安全性被广泛使用,...mod_jk 也叫 JK,这是一款 Apache/IIS 用来连接后台Tomcat的模块,支持集群和负载均衡。