- 浏览: 506263 次
- 性别:
- 来自: 北京
文章分类
- 全部博客 (422)
- 重要 (12)
- BUG解决备忘录 (32)
- 环境搭建 (17)
- 开源组件 (4)
- 数据库 (16)
- 设计模式 (4)
- 测试 (3)
- javascript (5)
- Android (14)
- jdk相关 (9)
- struts2 (10)
- freemark (3)
- 自定义扩展及工具类 (5)
- jdk5新特性及java基础 (13)
- ssh及其他框架 (15)
- linux (32)
- tcp-ip http协议 (8)
- 服务器集群与负载均衡 (34)
- 项目管理相关 (11)
- 实用小技术 (10)
- 架构相关 (14)
- firefox组件 (11)
- spider (6)
- 产品设计 (11)
- PHP (1)
- ws (4)
- lucene (10)
- 其他 (2)
- BI (1)
- NoSQL (3)
- gzip (1)
- ext (4)
- db (6)
- socket (1)
- 源码阅读 (2)
- NIO (2)
- 图片处理 (1)
- java 环境 (2)
- 项目管理 (4)
- 从程序员到项目经理(一):没有捷径 (1)
- bug (1)
- JAVA BASE (8)
- 技术原理 (0)
- 新框架新技术 (1)
- 量化与python (1)
- 系统编程 (0)
- C语言 (0)
- 汇编 (0)
- 算法 (0)
最新评论
-
hyspace:
别逗了,最后一个算法根本不是最优的,sort(function ...
数组去重——一道前端校招试题 -
washingtin:
楼主能把策略和路由的类代码贴出来吗
Spring + iBatis 的多库横向切分简易解决思路 -
sdyjmc:
初略看了一下,没有闹明白啊,均衡负载使用Nginx,sessi ...
J2EE集群原理 I -
shandeai520:
谢谢大神!请教大神一个问题:假如我有三台服务器,连接池的上限是 ...
集群和数据库负载均衡的研究 -
hekuilove:
给lz推荐一下apache commonsStringUtil ...
request 获取 ip
1.引言
笔者最近在做一个互联网的“类SNS”应用,应用中用户数量巨大(约4000万)左右,因此,简单的使用传统单一数据库存储肯定是不行的。
参考了业内广泛使用的分库分表,以及使用DAL数据访问层等的做法,笔者决定使用一种最简单的数据源路由选择方式来解决问题。
严格的说,目前的实现不能算是一个解决方案,只能是一种思路的简易实现,笔者也仅花了2天时间来完成(其中1.5天是在看资料和Spring/ibatis的源码)。这里也只是为各位看官提供一个思路参考,顺便给自己留个笔记
2.系统的设计前提
我们的系统使用了16个数据库实例(目前分布在2台物理机器上,后期将根据系统负荷的增加,逐步移库到16台物理机器上)。16个库是根据用户的UserID进行简单的hash分配。这里值得一说的是,我们既然做了这样的横向切分设计,就已经考虑了系统需求的特性,
- 1.不会发生经常性的跨库访问。
- 2.主要的业务逻辑都是围绕UserID为核心的,在一个单库事务内即可完成。
在系统中,我们使用Spring和iBatis。Spring负责数据库的事务管理AOP,以及Bean间的IOC。选择iBatis的最大原因是对Sql的性能优化,以及后期如果有分表要求的时,可以很容易实现对sql表名替换。
3.设计思路
首先,要说明一下笔者的思路,其实很简单,即“在每次数据库操作前,确定当前要选择的数据库对象”而后就如同访问单库一样的访问当前选中的数据库即可。
其次,要在每次DB访问前选择数据库,需要明确几个问题,1.iBatis在什么时候从DataSource中取得具体的数据库Connection
的,2.对取得的Connection,iBatis是否进行缓存,因为在多库情况下Connection被缓存就意味着无法及时改变数据库链接选择。
3.由于我们使用了Spring来管理DB事务,因此必须搞清Spring对DB
Connction的开关拦截过程是否会影响多DataSource的情况。
幸运的是,研究源码的结果发现,iBatis和Spring都是通过标准的DataSource接口来控制
Connection的,这就为我们省去了很多的麻烦,只需要实现一个能够支持多个数据库的DataSource,就能达到我们的目标。
4.代码与实现
多数据库的DataSource实现:MultiDataSource.class
- import java.io.PrintWriter;
- import java.sql.Connection;
- import java.sql.SQLException;
- import java.util.ArrayList;
- import java.util.Collection;
- import java.util.HashMap;
- import java.util.Map;
- import javax.sql.DataSource;
- import org.apache.log4j.Logger;
- import com.xxx.sql.DataSourceRouter.RouterStrategy;
- /**
- * 复合多数据源(Alpha)
- * @author linliangyi2005@gmail.com
- * Jul 15, 2010
- */
- public class MultiDataSource implements DataSource {
- static Logger logger = Logger.getLogger(MultiDataSource. class );
- //当前线程对应的实际DataSource
- private ThreadLocal<DataSource> currentDataSourceHolder = new ThreadLocal<DataSource>();
- //使用Key-Value映射的DataSource
- private Map<String , DataSource> mappedDataSources;
- //使用横向切分的分布式DataSource
- private ArrayList<DataSource> clusterDataSources;
- public MultiDataSource(){
- mappedDataSources = new HashMap<String , DataSource>( 4 );
- clusterDataSources = new ArrayList<DataSource>( 4 );
- }
- /**
- * 数据库连接池初始化
- * 该方法通常在web 应用启动时调用
- */
- public void initialMultiDataSource(){
- for (DataSource ds : clusterDataSources){
- if (ds != null ){
- Connection conn = null ;
- try {
- conn = ds.getConnection();
- } catch (SQLException e) {
- e.printStackTrace();
- } finally {
- if (conn != null ){
- try {
- conn.close();
- } catch (SQLException e) {
- e.printStackTrace();
- }
- conn = null ;
- }
- }
- }
- }
- Collection<DataSource> dsCollection = mappedDataSources.values();
- for (DataSource ds : dsCollection){
- if (ds != null ){
- Connection conn = null ;
- try {
- conn = ds.getConnection();
- } catch (SQLException e) {
- e.printStackTrace();
- } finally {
- if (conn != null ){
- try {
- conn.close();
- } catch (SQLException e) {
- e.printStackTrace();
- }
- conn = null ;
- }
- }
- }
- }
- }
- /**
- * 获取当前线程绑定的DataSource
- * @return
- */
- public DataSource getCurrentDataSource() {
- //如果路由策略存在,且更新过,则根据路由算法选择新的DataSource
- RouterStrategy strategy = DataSourceRouter.currentRouterStrategy.get();
- if (strategy == null ){
- throw new IllegalArgumentException( "DataSource RouterStrategy No found." );
- }
- if (strategy != null && strategy.isRefresh()){
- if (RouterStrategy.SRATEGY_TYPE_MAP.equals(strategy.getType())){
- this .choiceMappedDataSources(strategy.getKey());
- }else if (RouterStrategy.SRATEGY_TYPE_CLUSTER.equals(strategy.getType())){
- this .routeClusterDataSources(strategy.getRouteFactor());
- }
- strategy.setRefresh(false );
- }
- return currentDataSourceHolder.get();
- }
- public Map<String, DataSource> getMappedDataSources() {
- return mappedDataSources;
- }
- public void setMappedDataSources(Map<String, DataSource> mappedDataSources) {
- this .mappedDataSources = mappedDataSources;
- }
- public ArrayList<DataSource> getClusterDataSources() {
- return clusterDataSources;
- }
- public void setClusterDataSources(ArrayList<DataSource> clusterDataSources) {
- this .clusterDataSources = clusterDataSources;
- }
- /**
- * 使用Key选择当前的数据源
- * @param key
- */
- public void choiceMappedDataSources(String key){
- DataSource ds = this .mappedDataSources.get(key);
- if (ds == null ){
- throw new IllegalStateException( "No Mapped DataSources Exist!" );
- }
- this .currentDataSourceHolder.set(ds);
- }
- /**
- * 使用取模算法,在群集数据源中做路由选择
- * @param routeFactor
- */
- public void routeClusterDataSources( int routeFactor){
- int size = this .clusterDataSources.size();
- if (size == 0 ){
- throw new IllegalStateException( "No Cluster DataSources Exist!" );
- }
- int choosen = routeFactor % size;
- DataSource ds = this .clusterDataSources.get(choosen);
- if (ds == null ){
- throw new IllegalStateException( "Choosen DataSources is null!" );
- }
- logger.debug("Choosen DataSource No." + choosen+ " : " + ds.toString());
- this .currentDataSourceHolder.set(ds);
- }
- /* (non-Javadoc)
- * @see javax.sql.DataSource#getConnection()
- */
- public Connection getConnection() throws SQLException {
- if (getCurrentDataSource() != null ){
- return getCurrentDataSource().getConnection();
- }
- return null ;
- }
- /* (non-Javadoc)
- * @see javax.sql.DataSource#getConnection(java.lang.String, java.lang.String)
- */
- public Connection getConnection(String username, String password)
- throws SQLException {
- if (getCurrentDataSource() != null ){
- return getCurrentDataSource().getConnection(username , password);
- }
- return null ;
- }
- /* (non-Javadoc)
- * @see javax.sql.CommonDataSource#getLogWriter()
- */
- public PrintWriter getLogWriter() throws SQLException {
- if (getCurrentDataSource() != null ){
- return getCurrentDataSource().getLogWriter();
- }
- return null ;
- }
- /* (non-Javadoc)
- * @see javax.sql.CommonDataSource#getLoginTimeout()
- */
- public int getLoginTimeout() throws SQLException {
- if (getCurrentDataSource() != null ){
- return getCurrentDataSource().getLoginTimeout();
- }
- return 0 ;
- }
- /* (non-Javadoc)
- * @see javax.sql.CommonDataSource#setLogWriter(java.io.PrintWriter)
- */
- public void setLogWriter(PrintWriter out) throws SQLException {
- if (getCurrentDataSource() != null ){
- getCurrentDataSource().setLogWriter(out);
- }
- }
- /* (non-Javadoc)
- * @see javax.sql.CommonDataSource#setLoginTimeout(int)
- */
- public void setLoginTimeout( int seconds) throws SQLException {
- if (getCurrentDataSource() != null ){
- getCurrentDataSource().setLoginTimeout(seconds);
- }
- }
- /* (non-Javadoc)
- * 该接口方法since 1.6
- * 不是所有的DataSource都实现有这个方法
- * @see java.sql.Wrapper#isWrapperFor(java.lang.Class)
- */
- public boolean isWrapperFor(Class<?> iface) throws SQLException {
- // if(getCurrentDataSource() != null){
- // return getCurrentDataSource().isWrapperFor(iface);
- // }
- return false ;
- }
- /* (non-Javadoc)
- * 该接口方法since 1.6
- * 不是所有的DataSource都实现有这个方法
- * @see java.sql.Wrapper#unwrap(java.lang.Class)
- */
- public <T> T unwrap(Class<T> iface) throws SQLException {
- // if(getCurrentDataSource() != null){
- // return getCurrentDataSource().unwrap(iface);
- // }
- return null ;
- }
这个类实现了DataSource的标准接口,而最核心的部分是getConnection()方法的重载。下面具体阐述:
- 1.实例变量 clusterDataSources 是一个DataSource 的 ArrayList它存储了多个数据库的DataSource实例,我们使用Spring的IOC功能,将多个DataSource注入到这个list中。
- 2.实例变量 mappedDataSources 是一个DataSource 的Map,它与clusterDataSources 一样用来存储多个数据库的DataSource实例,不同的是,它可以使用key直接获取DataSource。我们一样会使用Spring的IOC功 能,将多个DataSource注入到这个Map中。
- 3.实例变量currentDataSourceHolder ,他是一个ThreadLocal变量,保存与当前线程相关的且已经取得的DataSource实例。这是为了在同一线程中,多次访问同一数据库时,不需要再重新做路由选择。
- 4.当外部类调用getConnection()方法时,方法将根据上下文的路由规则,从clusterDataSources 或者 mappedDataSources 选择对应DataSource,并返回其中的Connection。
(PS:关于DataSource的路由选择规则,可以根据应用场景的不同,自行设计。笔者这里提供两种简单的思路,1.根据HashCode,
在上述例子中可以是UserId,进行取模运算,来定位数据库。2.根据上下文设置的关键字key,从map中选择映射的DataSource)
5.将MultiDataSource与Spring,iBatis结合
在完成了上述的编码过程后,就是将这个MultiDataSource与现有Spring和iBatis结合起来配置。
STEP 1。配置多个数据源
笔者这里使用了C3P0作为数据库连接池,这一步和标准的Spring配置一样,唯一不同的是,以前只配置一个,现在要配置多个
- <!-- jdbc连接池-1-->
- < bean id = "c3p0_dataSource_1" class = "com.mchange.v2.c3p0.ComboPooledDataSource" destroy-method = "close" >
- < property name = "driverClass" >
- < value > ${jdbc.driverClass} </ value >
- </ property >
- < property name = "jdbcUrl" >
- < value > ${mysql.url_1} </ value >
- </ property >
- < property name = "user" >
- < value > ${jdbc.username} </ value >
- </ property >
- < property name = "password" >
- < value > ${jdbc.password} </ value >
- </ property >
- <!--连接池中保留的最小连接数。-->
- < property name = "minPoolSize" >
- < value > ${c3p0.minPoolSize} </ value >
- </ property >
- <!--连接池中保留的最大连接数。Default: 15 -->
- < property name = "maxPoolSize" >
- < value > ${c3p0.maxPoolSize} </ value >
- </ property >
- <!--初始化时获取的连接数,取值应在minPoolSize与maxPoolSize之间。Default: 3 -->
- < property name = "initialPoolSize" >
- < value > ${c3p0.initialPoolSize} </ value >
- </ property >
- <!--每60秒检查所有连接池中的空闲连接。Default: 0 -->
- < property name = "idleConnectionTestPeriod" >
- < value > ${c3p0.idleConnectionTestPeriod} </ value >
- </ property >
- </ bean >
- <!------------- jdbc连接池-2------------------->
- < bean id = "c3p0_dataSource_2" class = "com.mchange.v2.c3p0.ComboPooledDataSource" destroy-method = "close" >
- < property name = "driverClass" >
- < value > ${jdbc.driverClass} </ value >
- </ property >
- < property name = "jdbcUrl" >
- < value > ${mysql.url_2} </ value >
- </ property >
- < property name = "user" >
- < value > ${jdbc.username} </ value >
- </ property >
- < property name = "password" >
- < value > ${jdbc.password} </ value >
- </ property >
- <!--连接池中保留的最小连接数。-->
- < property name = "minPoolSize" >
- < value > ${c3p0.minPoolSize} </ value >
- </ property >
- <!--连接池中保留的最大连接数。Default: 15 -->
- < property name = "maxPoolSize" >
- < value > ${c3p0.maxPoolSize} </ value >
- </ property >
- <!--初始化时获取的连接数,取值应在minPoolSize与maxPoolSize之间。Default: 3 -->
- < property name = "initialPoolSize" >
- < value > ${c3p0.initialPoolSize} </ value >
- </ property >
- <!--每60秒检查所有连接池中的空闲连接。Default: 0 -->
- < property name = "idleConnectionTestPeriod" >
- < value > ${c3p0.idleConnectionTestPeriod} </ value >
- </ property >
- </ bean >
- <!------------- 更多的链接池配置------------------->
- ......
STEP 2。将多个数据源都注入到MultiDataSource中
- < bean id = "multiDataSource" class = "com.xxx.sql.MultiDataSource" >
- < property name = "clusterDataSources" >
- < list >
- < ref bean = "c3p0_dataSource_1" />
- < ref bean = "c3p0_dataSource_2" />
- < ref bean = "c3p0_dataSource_3" />
- < ref bean = "c3p0_dataSource_4" />
- < ref bean = "c3p0_dataSource_5" />
- < ref bean = "c3p0_dataSource_6" />
- < ref bean = "c3p0_dataSource_7" />
- < ref bean = "c3p0_dataSource_8" />
- </ list >
- </ property >
- < property name = "mappedDataSources" >
- < map >
- < entry key = "system" value-ref = "c3p0_dataSource_system" />
- </ map >
- </ property >
- </ bean >
STEP 3。像使用标准的DataSource一样,使用MultiDataSource
- <!-- iBatis Client配置 将 MultiDataSource 与iBatis Client 绑定-->
- < bean id = "sqlMapClient" class = "org.springframework.orm.ibatis.SqlMapClientFactoryBean" >
- < property name = "configLocation" value = "classpath:SqlMapConfig.xml" />
- < property name = "dataSource" ref = "multiDataSource" > </ property >
- </ bean >
- <!-- jdbc事务管理配置 将 MultiDataSource 与事务管理器绑定-->
- < bean id = "jdbc_TransactionManager" class = "org.springframework.jdbc.datasource.DataSourceTransactionManager" >
- < property name = "dataSource" ref = "multiDataSource" > </ property >
- </ bean >
至此,我们的程序就可以让Spring来管理多库访问了,但请注意,数据库事务仍然限于单库范围(之前已经说过,这里的应用场景不存在跨库的事务)。
6.Java代码使用例子
首先要说明的是,这里我们只是提供了一个简单的使用范例,在范例中,我们还必须手动的调用API,以确定DataSource的路由规则,在实际的应用中,您可以针对自己的业务特点,对此进行封装,以实现相对透明的路由选择
- public boolean addUserGameInfo(UserGameInfo userGameInfo){
- //1.根据UserGameInfo.uid 进行数据源路由选择
- DataSourceRouter.setRouterStrategy(
- RouterStrategy.SRATEGY_TYPE_CLUSTER ,
- null ,
- userGameInfo.getUid());
- //2.数据库存储
- try {
- userGameInfoDAO.insert(userGameInfo);
- return true ;
- } catch (SQLException e) {
- e.printStackTrace();
- logger.debug("Insert UserGameInfo failed. " + userGameInfo.toString());
- }
- return false ;
- }
OK,我们的多库横向切分的实验可以暂告一个段落。实际上,要实现一个完整的DAL是非常庞大的工程,而对我们推动巨大的,可能只是很小的一个部分,到处都存在着8-2法则,要如何选择,就看各位看官了!!
发表评论
-
Mysql 各种连接查询详解
2013-08-28 09:39 1376一、外连接概念:包括坐向外连接、右向外连接和完整外部连接。1. ... -
经典sql
2013-08-28 09:38 981一、基础 1、说明:创建数据库 C ... -
获取oracle表结构的字段信息
2013-04-11 10:04 1063select a.column_id as 列号, a.co ... -
主题:在Spring中结合Dbunit对Dao进行集成单元测试
2012-12-23 02:03 927package com.test.dbunit.dao ... -
Spring + iBatis 的多库横向切分简易解决思路2
2011-12-26 16:43 2022Table of Contents I. 向Co ... -
tomcat端口被长时间连接,CPU使用率高的原因分析
2011-11-20 23:50 1034tomcat使用的是电脑的80端口。 当客户端访问的 ... -
Nginx+keepalived做双机热备加tomcat负载均衡
2011-10-25 16:55 1620环境说明: nginx1: 192.168.2.4 ... -
MySQL 6.0 集群(cluster)+复制(replicate)
2011-05-05 02:08 1458http://www.net5 . 简介 本 ... -
centos下MySQL主从同步配置
2011-05-05 00:38 1016一、环境 主机: ... -
HadHoop分布式框架配置(二)
2011-03-16 21:42 1124我们假定,你已经下 ... -
HadHoop分布式框架简介(一)
2011-03-16 21:42 1442分布式系统基本原理 分布式系统被设计成可以存 ... -
利用nginx+apache+mysql+php+memcached+squid搭建门户网站
2011-03-06 04:27 1445转自:http://hi.csdn.net/rushcc200 ... -
CentOS 5.3上安装Apache+php+Mysql+phpMyAdmin
2011-03-03 22:00 10791、系统下载 CentOS 开发社区已发布了新的 5.3 版 ... -
1分钟完美安装最新 CentOS + Nginx + PHP-FPM + MySQL
2011-03-03 21:58 1294PHP 5.3.1 MySQL 5.0.89 Ngin ... -
集群和数据库负载均衡的研究
2011-03-01 03:34 1708http://dadupi.blogbus.com/logs/ ... -
Memcached集群/分布式的单点故障
2011-03-01 03:24 1885我看到过这样一段文字 “memcached如何处理容错的? ... -
Memcached 集群架构问题归纳
2011-03-01 02:54 997集群架构方面的问题 o memcached是怎么工作的 ... -
大型bbs架构(squid+nginx)实例分享
2011-03-01 01:50 1495这个架构 基于squid、nginx 和lvs等技术 , ... -
nginx图片服务器的架构方案
2011-03-01 01:44 1708图片服务 通常数据 容量较大,而且访问也频繁,鉴于此,图片 ... -
解密大中型网站架构设计来自威鹏网信息化解决方案专家。
2011-03-01 01:38 984相信很多IT ...
相关推荐
很好的spring+ibatis事务的配置文档.
struts2+spring+ibatis+mysql AOP日志管理,异常捕获 tomcat6.0+jdk1.6
struts+spring+ibatis做的一个增删改查例子
有关Struts2+Spring+Hibernate和Struts2+Spring+Ibatis的整合实例demo 原创,完全基于eclipse开发
struts+spring+ibatis的Demo struts+spring+ibatis的Demo struts+spring+ibatis的Demo
struts2+spring+Ibatis框架包
webwork+spring+ibatis很适合初学者的实例
里面有spring+struts2+ibatis整合的jar包,
是不是好东西你们去鉴定,SpringMVC + Spring + ibatis 可以配置多数据源,这个Demo 扩展性极强,就看你们自己如何发挥。
JSF+Spring+Ibatis示例,对学习JAVA企业应用开发有巨大的帮助!
struts2+spring+ibatis+oracle+分页搜索+上传附件实例!完整版!
struts2 + spring + ibatis 实例 struts2 + spring + ibatis 实例 struts2 + spring + ibatis 实例 struts2 + spring + ibatis 实例 struts2 + spring + ibatis 实例
spring+ibatis+oracle分页缓存源码
struts2+spring+ibatis的小demo
maven3+struts2+spring+ibatis,本来是用maven3+struts2+spring+hibernate但考虑到hibernate在多表级联查询的时候执行效率不高,所以改用性能更好不过sql比较麻烦的的ibatis,本项目只有登录和插入数据,仅供参考: ...
一个简单的struts+spring+ibatis示例的源码,在源码中包含一个简单的分布功能
struts+spring+ibatis框架集成.pdf
struts2+spring+ibatis项目实例
Struts+Spring+Ibatis整合框架搭建配置文档
搭建spring mvc+spring+ibatis所需所有jar包、亲测可用!!