今天终于把Heritrix启动起来了,在此做些总结。
很长时间就想试试这个强大的爬虫了,但是经过多次在命令行里按照网上的各位大侠的方法都失败,不知道为什么,今天还试了一下1.12.1和1.14.1两个版本的,都是提示密码文件的要设成单用户并只读,我已经如此设置了安全标签,但仍不能解决问题,所以决定在Eclipse里面试一下,多次失败后,终于成功启动了Heritrix!
下面简要列一下,其实很简单:
1、在Eclipse下新建一个项目。(哪一个版本应该无所谓吧,JDK1.5);
2、将1.14.1版的Heritrix两个.zip文件下载并解压到临时目录(heritrix-1.14.1-src.zip和heritrix-1.14.1.zip);
3、从第一个zip文件解压目录下\src\java复制三个文件夹(包):org、com、st到项目中的src上;
4、从第一个zip文件解压目录下\src\conf复制所有文件夹及文件到项目根目录中(可能有不需要的文件);
5、从第一个zip文件解压目录下\src\resourses复制所有文件夹及文件到项目根目录中(可能有不需要的文件);
6、从第二个zip文件解压目录下复制webapps目录到项目根目录中;
7、把项目下Heritrix.properties文件复制到\src目录下(实践中发现);
8、在项目上鼠标右键->构建路径->添加外部归档 找到任意一个解压的目录下的lib文件夹,选中文件夹中的所有包;
9、从第一个zip文件解压目录下\src\conf\下的profiles文件夹复制到Eclipse工作空间所在分区的根目录;
10、配置Heritrix.properties,主要配置四项:如下红色部分所示
##############################################################################
# HERITRIX PROPERTIES
##############################################################################
# Properties with prefixes 'heritrix.', 'org.archive.', or 'system.' prefix
# get copied into System.properties on startup so available via
# System.getProperties. (For 'system.' properties, that prefix is stripped.
# (See Heritrix.loadProperties()).
# Version is filled in by the maven.xml pregoal. It copies here the project
# currentVersion property.
heritrix.version = 1.14.1
# Location of the heritrix jobs directory.
heritrix.jobsdir = jobs
# Default commandline startup values.
# Below values are used if unspecified on the command line.
heritrix.cmdline.admin = admin:admin
heritrix.cmdline.port = 8088
heritrix.cmdline.run = false
heritrix.cmdline.nowui = false
heritrix.cmdline.order =
heritrix.cmdline.jmxserver = false
heritrix.cmdline.jmxserver.port = 8081
##############################################################################
# LOGGING
##############################################################################
11、在Eclipse下启动Heritrix,找到项目src下的org.archive.crawler包下的主类Heritrix.java鼠标右键->运行方式->java项目,即可启动Heritrix!
启动后,Eclipse状态栏信息如下:
08:32:15.468 EVENT Starting Jetty/4.2.23
08:32:15.734 WARN!! Delete existing temp dir C:\DOCUME~1\ycf\LOCALS~1\Temp\Jetty_127_0_0_1_8088__ for WebApplicationContext[/,jar:file:/E:/projects/eclipse_workspace/Heritrix1.14.1/webapps/admin.war!/]
08:32:16.171 EVENT Started WebApplicationContext[/,Heritrix Console]
08:32:16.609 EVENT Started SocketListener on 127.0.0.1:8088
08:32:16.609 EVENT Started org.mortbay.jetty.Server@137c60d
Heritrix version: 1.14.1
上面的包的复制都在直接在Eclipse里面的项目上直接进行的,这样可以减少修改Eclipse的项目配置文件。
以上是本人实践后的一个小结,有些内容具体含义没有提及,网上其他版本的配置都有人提过,已经很详细了!
分享到:
- 2008-11-05 16:36
- 浏览 1496
- 评论(0)
- 论坛回复 / 浏览 (0 / 4397)
- 查看更多
相关推荐
Eclipse下配置Heritrix,具体配置步骤详细介绍。
Heritrix是用来爬取网页的开源工具包,本文档描述了如何在Eclipse环境下配置heritrix
Heritrix在Eclipse中的源文件。Heritrix1.14.4;Eclipse:helios。 在Eclipse中新建一个javaproject工程,将下载下来的。另附说明
很多网上的资料讲得比较乱,不够完善,而且都是把源文件放项目根目录下,不符合我们开发者的习惯。其实几步就可以完成了,记住的我们开发的习惯对进行配置,很容易上手
heritrix正确完整的配置heritrix正确完整的配置heritrix正确完整的配置heritrix正确完整的配置heritrix正确完整的配置
对heritrix抓取的操作和扩展 里面有MirrorWriterProcessor扩展的类文件修改
近期需要使用heritrix-1.14.4,配了半天才配好,这个是控制台...注意:解压到相关目录,之后配置系统环境变量"HERITRIX_HOME"到该解压目录(Java环境已经配置好)。 使用控制台命令启动 : heritrix --admin=admin:admin
2. 在Eclipse下新建普通Java项目,取名Heritrix;(如我打开Eclipse的工作区在D:\eclipse\search下,当我建了项目Heritrix后,我就可以找到D:\eclipse\search\Heritrix文件夹.其中包含两个工程属性文件.classpath和....
heritrix 配置 网络爬虫 工具 Heritrix 是一个由 java 开发的、开源的网络爬虫,用户可以使用它来从网上抓取想要的资源。其最出色之处在于它良好的可扩展性,...本文详细介绍了 Heritrix 在 Eclipse 中的配置、运行。
Heritrix的安装与配置方法:文档中详细介绍了Heritrix的安装与配置,可以按照里面的方法自己安装配置。
Heritrix1.14.3配置流程 收索引擎配置 简单的抓包工具
heritrix 的详细配置 与 使用资料.里面对heritrix配置有详细的说明!
heritrix-1.4.4 源代码(eclipse可执行) 将源代码解压后导入到eclipse 即可执行
Heritrix1.4.4安装配置使用手册,有研究索引技术的可以下载看看.
搜索引擎开源网络爬虫Heritrix无敌配置搜索引擎开源网络爬虫Heritrix无敌配置
在Eclipse配置完成的Heritrix源代码 自行开发的Heritrix的Extractor类:pconline 自行开发的Heritrix的FrontierScheduler类:pconline 自行开发的Heritrix的Extractor类:163mobile 自行开发的Heritrix的...
Heritrix工程 eclipse可用无需搭环境,放eclipse中启动就可以访问爬虫页面了·
heritrix heritrix heritrix heritrix heritrix heritrix
Heritrix 是一款基于JAVA的开源的网络爬虫框架,亲自动手记录
将hertrix配置到myeclipse中