发布自已写的一个简单的爬虫项目xspider2

这个项目主要是分析一个页面的深度链接值,然后进行相应的抓取.目前已经完成了单页面抓取操作方法的封装

(import graspContent.py)

以及MySQL数据库连接

(import link_db.py)

.

Python操作MySQL的库是MySQLdb:

MySQLdb is the Python DB API-2.0 interface. _mysql is a low-level API similiar to the MySQL C API. ZMySQLDA is a Database Adapter for Zope2.

在这里可以找到更多信息和下载.

高效的协议分析可以参考curl,PyCurl是其一个python封装.

项目放置在上,采用MIT协议分发.如果有兴趣加入,可以发邮件至[e-mail]和我联系.
项目地址http://code.ibd.ac.cn
SVN checkout:https://xspider2.googlecode.com/svn/trunk/

最后感谢很多在我学习和实践python道路上帮忙的很多朋友们.
附图是xspider2的结构图.