声明:ITeye精华文章的版权属于ITeye网站所有,严禁任何网站转载本文,否则必将追究法律责任!
Druid是阿里巴巴开源平台上的一个项目,整个项目由数据库连接池、插件框架和SQL解析器组成。该项目主要是为了扩展JDBC的一些限制,可以让程序员实现一些特殊的需求,比如向密钥服务请求凭证、统计SQL信息、SQL性能收集、SQL注入检查、SQL翻译等,程序员可以通过定制来实现自己需要的功能。
该项目在阿里巴巴内部得到了广泛的部署,在外部也有大量的用户群。为了使大家更好地了解和使用Druid,我们采访了Druid项目的主要负责人——温少(
博客)。
温少是ITeye的名人了,为了照顾新会员,先来个自我介绍吧!
我2001年毕业于深圳大学,毕业后到金蝶软件研发中心工作9年,工作内容包括工作流引擎、多数据库支持引擎、短信网网关等。
2010年3月加入阿里巴巴至今,主要的工作是设计和实现阿里巴巴应用监控系统Dragoon,Druid和Fastjson都是监控系统实现的副产品。
Druid是什么?有什么作用?
Druid首先是一个数据库连接池,但它不仅仅是一个数据库连接池,它还包含一个ProxyDriver,一系列内置的JDBC组件库,一个SQL Parser。
Druid的项目背景?目前的项目团队情况?开源目的?
2010年开始,我负责设计一个叫做Dragoon的监控系统,需要一些监控组件,监控应用程序的运行情况,包括Web URI、Spring、JDBC等。为了监控SQL执行情况,我做了一个Filter-Chain模式的ProxyDriver,缺省提供StatFilter。当时我还做了一个SQL Parser。老板说,不如我们来一个更大的计划,把连接池、SQL Parser、Proxy Driver合起来做一个项目,命名为Druid,于是Druid就诞生了。
2011年2月春节期间,我完成了连接池(DruidDataSource)的第一个版本,4月开始在生产环境测试,2012年第一季度开始大规模实施。
提交过代码的开发者有5个人,主要代码是我维护,有一人专门负责内部实施。
通过开源,希望有更多使用场景,更多的反馈,更多人参与其中,共同打造最好的数据库连接池。
Druid支持哪些数据库?
Druid支持所有JDBC兼容的数据库,包括Oracle、MySql、Derby、Postgresql、SQL Server、H2等等。
Druid针对Oracle和MySql做了特别优化,比如Oracle的PS Cache内存占用优化,MySql的ping检测优化。
Druid是如何扩展JDBC的?
Druid在DruidDataSourc和ProxyDriver上提供了Filter-Chain模式的扩展API,类似Serlvet的Filter,配置Filter拦截JDBC的方法调用。
为什么说Druid是“最好的数据库连接池”?体现在哪些方面?这是如何实现的?
阿里巴巴是一个重度使用关系数据库的公司,我们在生产环境中大量的使用Druid,通过长期在极高负载的生产环境中实际使用、修改和完善,让Druid逐步发展成最好的数据库连接池。Druid在监控、可扩展性、稳定性和性能方面都有明显的优势。
首先,强大的监控特性,通过Druid提供的监控功能,可以清楚知道连接池和SQL的工作情况。
- 监控SQL的执行时间、ResultSet持有时间、返回行数、更新行数、错误次数、错误堆栈信息。
- SQL执行的耗时区间分布。什么是耗时区间分布呢?比如说,某个SQL执行了1000次,其中0~1毫秒区间50次,1~10毫秒800次,10~100毫秒100次,100~1000毫秒30次,1~10秒15次,10秒以上5次。通过耗时区间分布,能够非常清楚知道SQL的执行耗时情况。
- 监控连接池的物理连接创建和销毁次数、逻辑连接的申请和关闭次数、非空等待次数、PSCache命中率等。
其次,方便扩展。Druid提供了Filter-Chain模式的扩展API,可以自己编写Filter拦截JDBC中的任何方法,可以在上面做任何事情,比如说性能监控、SQL审计、用户名密码加密、日志等等。
Druid内置提供了用于监控的StatFilter、日志输出的Log系列Filter、防御SQL注入攻击的WallFilter。
阿里巴巴内部实现了用于数据库密码加密的CirceFilter,以及和Web、Spring关联监控的DragoonStatFilter。
第三,Druid集合了开源和商业数据库连接池的优秀特性,并结合阿里巴巴大规模苛刻生产环境的使用经验进行优化。
- ExceptionSorter。当一个连接产生不可恢复的异常时,例如Oracle error_code_28 session has been killed,必须立刻从连接池中逐出,否则会产生大量错误。目前只有Druid和JBoss DataSource实现了ExceptionSorter。
- PSCache内存占用优化对于支持游标的数据库(Oracle、SQL Server、DB2等,不包括MySql),PSCache可以大幅度提升SQL执行性能。一个PreparedStatement对应服务器一个游标,如果PreparedStatement被缓存起来重复执行,PreparedStatement没有被关闭,服务器端的游标就不会被关闭,性能提高非常显著。在类似“SELECT * FROM T WHERE ID = ?”这样的场景,性能可能是一个数量级的提升。但在Oracle JDBC Driver中,其他的数据库连接池(DBCP、JBossDataSource)会占用内存过多,极端情况可能大于1G。Druid调用OracleDriver提供管理PSCache内部API。
- LRU是一个性能关键指标,特别Oracle,每个Connection对应数据库端的一个进程,如果数据库连接池遵从LRU,有助于数据库服务器优化,这是重要的指标。Druid、DBCP、Proxool、JBoss是遵守LRU的。BoneCP、C3P0则不是。BoneCP在mock环境下性能可能还好,但在真实环境中则就不好了。
Druid的性能如何?能否给出一些测试对比数据?
性能不是Druid的设计目标,但是测试数据表明,Druid性能比DBCP、C3P0、Proxool、JBoss都好。
这里有一些测试数据:
http://code.alibabatech.com/wiki/pages/viewpage.action?pageId=2916539
谈谈Druid的SQL解析功能?效率如何?
Druid提供了MySql、Oracle、Postgresql、SQL-92的SQL的完整支持,这是一个手写的高性能SQL Parser,支持Visitor模式,使得分析SQL的抽象语法树很方便。
简单SQL语句用时10微秒以内,复杂SQL用时30微秒。
通过Druid提供的SQL Parser可以在JDBC层拦截SQL做相应处理,比如说分库分表、审计等。Druid防御SQL注入攻击的WallFilter就是通过Druid的SQL Parser分析语义实现的。
Druid的扩展性如何?
Druid提供Filter-Chain模式的插件框架,通过编写Filter配置到DruidDataSource中就可以拦截JDBC的各种API,从而实现扩展。Druid提供了一系列内置Filter。
在SQL注入防御方面,Druid的优势是什么?实现原理是什么?
Druid的优势是在JDBC最低层进行拦截做判断,不会遗漏。
Druid实现了Oracle、MySql、Postgresql、SQL-92的Parser,基于SQL语法分析实现,理解其中的SQL语义,智能、准确、误报率低。
具体细节参考这里:
http://code.alibabatech.com/wiki/display/Druid/WallFilter
目前Druid的应用(部署)情况?
Druid是阿里巴巴监控系统Dragoon的副产品,从Dragoon监控系统的数据来看,在阿里巴巴已经部署了600多个应用。在阿里巴巴外部也有很多Druid的用户,外部用户没有正式统计数据,但经常有反馈。
我想将其中的某个模块(比如监控模块)用到其他连接池,是否可以?模块的独立性如何?
可以通过DruidDriver把内置的Filter用在其他连接池中。在2011年上半年DruidDataSource不成熟的时候,我们也是这么做的。在其他连接池中使用内置的Filter,需要修改jdbc-url,使用DruidDriver作为一个ProxyDriver。
我想在项目中使用,应该注意哪些事项?能否用于商业项目?
Druid是一个开源项目,基于Apache 2.0协议,你可以免费自由使用。Druid只支持JDK 6以上版本,不支持JDK 1.4和JDK 5.0。
配置是否复杂?能否给出一个典型的配置实例?
为了方便大家迁移,Druid的配置和DBCP是基本一致的,如果你原来是使用DBCP,迁移是十分方便的,只需要把corg.apache.commons.dbcp.BasicDataSource修改为om.alibaba.druid.pool.DruidDataSource就好了。
以下是一个参考配置:
<bean id="dataSource" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
<property name="url" value="${jdbc_url}" />
<property name="username" value="${jdbc_user}" />
<property name="password" value="${jdbc_password}" />
<property name="filters" value="stat" />
<property name="maxActive" value="20" />
<property name="initialSize" value="1" />
<property name="maxWait" value="60000" />
<property name="minIdle" value="1" />
<property name="timeBetweenEvictionRunsMillis" value="60000" />
<property name="minEvictableIdleTimeMillis" value="300000" />
<property name="validationQuery" value="SELECT 'x'" />
<property name="testWhileIdle" value="true" />
<property name="testOnBorrow" value="false" />
<property name="testOnReturn" value="false" />
<property name="poolPreparedStatements" value="true" />
<property name="maxPoolPreparedStatementPerConnectionSize" value="50" />
</bean>
在上面的配置中,通常你需要配置url、username、password、maxActive这几项。
在DruidDataSource中,你可以不配置DriverClass,它根据url自动识别。Druid能够自动识别20多中url,常见的JDBC Driver都包括了。
我目前使用其他连接池(DBCP/C3P0/Proxool等),如何迁移到Druid?
从DBCP迁移最方便,把org.apache.commons.dbcp.BasicDataSource修改为om.alibaba.druid.pool.DruidDataSource就好了。
Druid网站上提供了
Druid/DBCP/C3P0/JBoss/WebLogic的参数对照表,通过这个对照表来迁移你目前的配置。
其他开发者如何反馈问题、提交bug?
Druid源码托管在github.com上,项目地址是
https://github.com/AlibabaTech/druid。
你可以在github上提交patch和issue(包括bug和新特性)。你也可以加入我们的QQ群92748305,和开发者以及其他用户一起交流。

- 大小: 81.4 KB

- 大小: 79.4 KB
分享到:
您还没有登录,请您登录后再发表评论
97 楼 zxgwxit 2017-12-02 16:05
96 楼 zxgwxit 2017-12-02 15:57
95 楼 zhangwusheng 2015-09-16 16:04
688: public void scanVariable() {
for (;;) {
ch = charAt(++pos);
if (ch == '}') {
break;
}
bufPos++;
continue;
}
这里的for如果我sql语句里面 select ${fffffffff 就死循环了吧?
说错了,最终也会异常
94 楼 zhangwusheng 2015-09-16 16:02
688: public void scanVariable() {
for (;;) {
ch = charAt(++pos);
if (ch == '}') {
break;
}
bufPos++;
continue;
}
这里的for如果我sql语句里面 select ${fffffffff 就死循环了吧?
93 楼 lyh2011 2015-06-04 16:31
92 楼 windshome 2015-05-28 09:18
那么,初始连接数是没有用的?druid开始根本不检查数据源配置是否正确?这个误打误撞还正好满足了我这个特殊需求,想来也怪怪的。
91 楼 jikemike 2014-09-04 18:13
查询字段包含tq.point报错,修改为 2 as point,则可以。
错误提示Caused by: java.sql.SQLException: sql injection violation, limit row 0 :
90 楼 tanwan 2014-08-11 11:30
89 楼 kanghui520520 2014-07-02 15:13
java.lang.ArrayIndexOutOfBoundsException:3
at java.util.concurrent.CopyOnWriteArrayList.get(CopyOnWriteArrayList.java:368)
at java.util.concurrent.CopyOnWriteArrayList.get(CopyOnWriteArrayList.java:377)
at com.alibaba.druid.filterChainImpl.nextFilter(FilterChainImpl.java:405)
at com.alibaba.druid.filterChainImpl.Connection_isClosed(FilterChainImpl.java:371)
at com.alibaba.druid.FilterAdapter.Connection_isClosed(FilterAdapter.java:888)
at com.alibaba.druid.filterChainImpl.Connection_isClosed(FilterChainImpl.java:371)
at com.alibaba.druid.proxy.jdbc.ConnectionProxyImpl.isClosed(ConnectionProxyImpl.java:284)
at com.alibaba.druid.pool.DruidPooledConnection.isClosed(DruidPooledConnection.java:816)
at com.alibaba.druid.pool.DruidPooledPreparedStatment.close(DruidPooledPreparedStatment.java:172)
我用的是derby数据库,配置了Filter为:stat,log,wall
因为要支持wall功能,强制将DbType设置为oracle,这是什么原因造成的呢,能帮分析下吗
88 楼 kanghui520520 2014-06-30 10:26
87 楼 kanghui520520 2014-06-23 16:12
没听说过这个数据库,这个数据库提供jdbc驱动吗
该数据库提供了jdbc驱动,我在fillter里面不加wall的配置是支持的,但我需要wall的功能,
加了后,报
dbType not support:null,url jdbc:kingbase:192.168.8.45:54321/SAN
at com.alibaba.druid.wall.WallFilter.init(WallFilter.java:150)
,
能配置吗?
不能配置,我该怎么改呢,这个数据库的结构和功能和oracle类似
86 楼 yunnysunny 2014-06-23 12:53
没听说过这个数据库,这个数据库提供jdbc驱动吗
85 楼 kanghui520520 2014-06-23 11:47
84 楼 yunnysunny 2014-06-05 11:03
群已经满了,如果有问题,可以在github上提交
83 楼 FireZHFox 2014-05-21 09:21
82 楼 sunshine_bean 2014-04-15 10:38
81 楼 abc382410124 2013-11-14 18:05
80 楼 yunnysunny 2013-06-14 10:46
通过Druid提供的SQL Parser可以在JDBC层拦截SQL做相应处理,比如说分库分表、审计等。Druid防御SQL注入攻击的WallFilter就是通过Druid的SQL Parser分析语义实现的。
我对druid如何实现分库、分表功能很感兴趣。求指教,求demo
druid中没有涉及到分库分表操作
79 楼 hamber 2013-06-13 15:30
通过Druid提供的SQL Parser可以在JDBC层拦截SQL做相应处理,比如说分库分表、审计等。Druid防御SQL注入攻击的WallFilter就是通过Druid的SQL Parser分析语义实现的。
我对druid如何实现分库、分表功能很感兴趣。求指教,求demo
78 楼 xusheng87 2013-06-13 15:13
77 楼 woaini245693140 2013-05-26 11:06
76 楼 windshome 2013-05-09 16:22
我是做商业软件的,的确都遇到过这类需求,真实客户提出的种种需求。但是做开源连接池的,基本不会考虑这些,呵呵。
希望druid能够越做越好,如果文档和测试能跟上就非常棒了。顺便提一句的是,系统在PK时,所需体现的特性和在实际生产环境中使用的时候,需要的特性、侧重点是完全不一样的,在设计连接池这种核心组件尤其要考虑。
我关于连接池的文章:http://windshome.iteye.com/admin/blogs/1837903
75 楼 fjiis 2012-11-21 16:59
14:09:25,256 ERROR StatFilter:147 - merge sql error, dbType jtds, sql :
SELECT * FROM ( SELECT ROW_NUMBER() OVER (ORDER BY FAlertDate Desc, FAlertLevel, FAlertType) AS RowNumber, * from monitor_business where FRemoveAlert = ? ) AS temp_table WHERE RowNumber BETWEEN ? AND ?
com.alibaba.druid.sql.parser.SQLParseException: syntax error, expect RPAREN, actual LPAREN OVER
at com.alibaba.druid.sql.parser.SQLParser.accept(SQLParser.java:121)
at com.alibaba.druid.sql.parser.SQLSelectParser.parseTableSource(SQLSelectParser.java:226)
at com.alibaba.druid.sql.parser.SQLSelectParser.parseFrom(SQLSelectParser.java:217)
at com.alibaba.druid.sql.parser.SQLSelectParser.query(SQLSelectParser.java:153)
at com.alibaba.druid.sql.parser.SQLSelectParser.select(SQLSelectParser.java:52)
at com.alibaba.druid.sql.parser.SQLStatementParser.parseSelect(SQLStatementParser.java:534)
at com.alibaba.druid.sql.parser.SQLStatementParser.parseStatementList(SQLStatementParser.java:84)
at com.alibaba.druid.sql.parser.SQLStatementParser.parseStatementList(SQLStatementParser.java:68)
at com.alibaba.druid.sql.visitor.ParameterizedOutputVisitorUtils.parameterize(ParameterizedOutputVisitorUtils.java:40)
at com.alibaba.druid.filter.stat.StatFilter.mergeSql(StatFilter.java:145)
at com.alibaba.druid.filter.stat.StatFilter.createSqlStat(StatFilter.java:647)
at com.alibaba.druid.filter.stat.StatFilter.statementPrepareAfter(StatFilter.java:305)
at com.alibaba.druid.filter.FilterEventAdapter.connection_prepareStatement(FilterEventAdapter.java:124)
at com.alibaba.druid.filter.FilterChainImpl.connection_prepareStatement(FilterChainImpl.java:442)
at com.alibaba.druid.proxy.jdbc.ConnectionProxyImpl.prepareStatement(ConnectionProxyImpl.java:242)
at com.alibaba.druid.pool.DruidPooledConnection.prepareStatement(DruidPooledConnection.java:305)
74 楼 wenshao 2012-09-03 21:16
1) springside4 mini-web [url]hhttp://110.76.43.235:8080/mini-web/ [/url]
2) sonar http://110.76.43.235:9000/ 监控页面 http://110.76.43.235:9000/druid/index.html
文档
https://github.com/AlibabaTech/druid/wiki/%E5%B8%B8%E8%A7%81%E9%97%AE%E9%A2%98
73 楼 picksun 2012-08-09 09:11
1 连接数上涨很快,而且用show full processlist(数据库是mysql)
查知状态大都是sleep,time多为个位数,
这种状况让连接池负责回收有困难
2 刚启动就再死的情况很多见。
目前解决办法:
通过禁止外网用户访问,
等启动完一会再放行,
就不会死
通过连接池回收可能有困难,但是用Druid有办法能够知道那些代码申请了连接而没有及时释放。加入Druid用户的扣扣群吧,我们为你出谋划策。
谢谢~
72 楼 wenshao 2012-08-08 19:58
1 连接数上涨很快,而且用show full processlist(数据库是mysql)
查知状态大都是sleep,time多为个位数,
这种状况让连接池负责回收有困难
2 刚启动就再死的情况很多见。
目前解决办法:
通过禁止外网用户访问,
等启动完一会再放行,
就不会死
通过连接池回收可能有困难,但是用Druid有办法能够知道那些代码申请了连接而没有及时释放。加入Druid用户的扣扣群吧,我们为你出谋划策。
71 楼 picksun 2012-08-08 14:04
1 连接数上涨很快,而且用show full processlist(数据库是mysql)
查知状态大都是sleep,time多为个位数,
这种状况让连接池负责回收有困难
2 刚启动就再死的情况很多见。
目前解决办法:
通过禁止外网用户访问,
等启动完一会再放行,
就不会死
70 楼 picksun 2012-08-08 12:16
at org.apache.commons.pool.impl.GenericObjectPool.borrowObject(GenericObjectPool.java:748)
- locked <0x00002aaad8bdecd0> (a org.apache.commons.pool.impl.GenericObjectPool)
at org.apache.commons.dbcp.PoolingDataSource.getConnection(PoolingDataSource.java:95)
用了温少的druid-0.2.4.jar包,则死在getConnection(使用代理prepareStatement)或者close的时候
不知道什么原因,请赐教~谢谢~!
我回来晚了,温兄回复很及时,非常感谢!
服务器死掉前连接数是直线上涨很快的。
而且是启动完不久,很快就再死的可能性很高
反复n次,反复重启都是如此,
除非当时访问量很低如凌晨
(凌晨也有可能因为蜘蛛抓取过多死机的)。
我担心设置30分钟很快就死了,甚至1分钟都不够。
我目前是:先把80封了不让外网访问,
然后监测到系统启动彻底完成,再开80端口,
这样就能够启动完成。
我会尽快测试,谢谢。
69 楼 wenshao 2012-08-07 11:05
at org.apache.commons.pool.impl.GenericObjectPool.borrowObject(GenericObjectPool.java:748)
- locked <0x00002aaad8bdecd0> (a org.apache.commons.pool.impl.GenericObjectPool)
at org.apache.commons.dbcp.PoolingDataSource.getConnection(PoolingDataSource.java:95)
用了温少的druid-0.2.4.jar包,则死在getConnection(使用代理prepareStatement)或者close的时候
不知道什么原因,请赐教~谢谢~!
68 楼 picksun 2012-08-07 09:49
at org.apache.commons.pool.impl.GenericObjectPool.borrowObject(GenericObjectPool.java:748)
- locked <0x00002aaad8bdecd0> (a org.apache.commons.pool.impl.GenericObjectPool)
at org.apache.commons.dbcp.PoolingDataSource.getConnection(PoolingDataSource.java:95)
用了温少的druid-0.2.4.jar包,则死在getConnection(使用代理prepareStatement)或者close的时候
不知道什么原因,请赐教~谢谢~!