`
tower
  • 浏览: 238600 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

wget下载整个网站

阅读更多

转自http://hi.baidu.com/phps/blog/item/a21dfeedfc0bba4f79f05532.html


wget下载整个网站

可以使用下面的命令 wget -r -p -k -np http://hi.baidu.com/phps , -r 表示递归下载,会下载所有的链接,不过要注意的是,不要单独使用这个参数,因为如果你要下载的网站也有别的网站的链接,wget也会把别的网站的东西下载 下来,由于互联网的特性,很有可能你会把整个互联网给下载下来 --,所以要加上 -np这个参数,表示不下载别的站点的链接. -k表示将下载的网页里的链接修改为本地链接.-p获得所以显示网页所需的元素,比如图片什么的.
另外还有其他的一些参数可以使用:

-c表示断点续传

-t 100表示重试100次,-t 0表示无穷次重试

另外可以将要下载的url写到一个文件中,每个url一行,使用这样的命令 wget -i download.txt.

--reject=avi,rmvb 表示不下载avi,rmvb的文件,--accept=jpg,jpeg,表示只下载jpg,jpeg的文件.

可以在用户目录下建立一个.wgetrc的文件(windows里面好像不能直接建立这样的文件,windows会认为没有文件名--),里面写上 http-proxy = 123.456.78.9:80,然后在加上参数 --proxy=on,如果需要密码,再加上下面的参数 --proxy-user=username, --proxy-passwd=password
分享到:
评论

相关推荐

    wget下载整个网站1

    * 使用代理下载wget -Y on -p -k https://sourceforge.net/projects/wvware/代理可以在环境变量或wgetr

    使用wget下载整个网页

    NULL 博文链接:https://vb2005xu.iteye.com/blog/304807

    wget是一个从网络上自动下载文件的自由工具

    这意味这你可以登录系统,启动一个wget下载任务,然后退出系统,wget将在后台执行直到任务完成,相对于其它大部分浏览器在下载大量数据时需要用户一直的参与,这省去了极大的麻烦。 wget可以跟踪HTML页面上的链接...

    wget命令用法

    wget支持HTTP HTTPS和FTP协议 可以使用HTTP代理 所谓的自动下载是指 wget可以在用户退出系统的之后在后台执行 这意味这你可以登录系统 启动一个wget下载任务 然后退出系统 wget将在后台执行直到任务完成 相对于其它...

    wget命令 文件下载

    wget命令用来从指定的URL下载文件。...这意味这你可以登录系统,启动一个wget下载任务,然后退出系统,wget将在后台执行直到任务完成,相对于其它大部分浏览器在下载大量数据时需要用户一直的参与,这省去

    如何应用AIX中的网络下载工具——wget

    网络用户有时候会遇到需要下载一批文件的情况,有时甚至需要把整个网站下载下来或者制作网站的镜像。在Windows下的用户都比较熟悉Teleport,webzip等等网站下载工具,实际上AIX中也完全可以做到这样的功能,那就是...

    详解Linux中的wget命令

    wget非常稳定,它在带宽很窄的情况下和不稳定网络中有很强的适应性,如果是由于网络的原因下载失败,wget会不断的尝试,直到整个文件下载完毕。如果是服务器打断下载过程,它会再次联到服务器上从停止的地方继续下载...

    WebZip工具

    WebZip工具

    developer.android.com 的整个网站 4-2

    用 wget 从 developer.android.com 下载了整个网站,用 linux 的 split分成4份

    developer.android.com 的整个网站 4-3

    用 wget 从 developer.android.com 下载了整个网站,用 linux 的 split分成4份

    developer.android.com 的整个网站 4-4

    用 wget 从 developer.android.com 下载了整个网站,用 linux 的 split分成4份

    developer.android.com 的整个网站

    用 wget 从 developer.android.com 下载了整个网站,用 linux 的 split分成4份

    阿里云服务器linux系统搭建Tomcat部署Web项目

    整个过程我给它分成四个步骤: 下载并安装jdk 下载并安装Tomcat 配置阿里云服务器信息 部署web项目 使用的工具:Xshell、WinSCP。 没有安装jdk的小伙伴点击上方超链接跳转到安装jdk博客 下载并安装Tomcat 到这个...

    CentOS7.4 源码安装MySQL8.0的教程详解

    整个过程大概需要一个小时,make && make install过程需要的时间较长。 一.环境  CentOS7.4 64位 最小化安装 二.准备工作  1.安装依赖 yum -y install wget cmake gcc gcc-c++ ncurses ncurses-devel libaio-...

    1.8jdk+tomcat8+maven3.25

    1. 下载安装包,不能使用wget下载, 网址如下: http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html 2. 下载完成后上传到机器中进行解压 tar zxvf jdk-8u161-linux-x64.tar.gz...

    openLDAPb部署目录服务

    一个干净的centos系统是没有相关支持的,以至于在操作过程中会出现各类异常,像是编译,像是wget command not found等,整个make的过程是时间非常长的,需要耐心等待。 问题1:wget不被识别 yum install wget ...

    set_proxy:整个代理设置

    您需要连接互联网(无需代理即可工作)才能下载脚本:使用移动数据和热点。 使用浏览器 打开http://proxymaster.herokuapp.com并下载脚本。 按照页面上的说明设置代理。 仅使用终端 通过按Ctrl+Alt+T打开终端 安装...

    CMakeLists.txt

    在安装kalibr过程中,可能会遇到wget相关的错误,比如说在安装到suitesparse库的时候,对应的cmakelists中会通过wget下载压缩包,若无法下载则整个kalibr都无法成功安装,那么我们需要进行一番修改。 本资源为修改...

    Java版水果管理系统源码-docker:docker测试环境安装及部署

    服务器测试环境搭建使用的整个目录结构及可能使用到的脚本文件 本文档使用教程绝大部分基于java spring boot,除非有特殊标识说明基于其他的框架或语言 快速使用 1:下载代码 wget 下载方式 zip: wget -O docker.zip...

    [修复下载链接]iPhone5S和iPad4上编译C/C++

    (从原帖子下载整个压缩包,仅提取其中的theos文件夹) (从本目录安装好iosc/iosc++) (把本目录中的ipa.nic.zip等nic.zip文件拷贝到theos/templates/iphone/) (利用Nic建立项目,进入项目文件夹用make编译) ...

Global site tag (gtag.js) - Google Analytics