`
fighting_2013
  • 浏览: 14784 次
  • 性别: Icon_minigender_1
社区版块
存档分类
最新评论

Oozie运行Hadoop

阅读更多
1.解压oozie目录下的oozie-client-3.3.2.tar.gz、oozie-examples.tar.gz、oozie-sharelib-3.3.2.tar.gz
2.拷贝examples目录到HDFS上面
hadoop fs –copyFromLocal examples /user/hadoop/
3.修改oozie目录下examples/apps/map-reduce/job.properties
主要是修改NameNode和JobTracker的值
nameNode=hdfs://centos.master:9000
jobTracker=centos.master:9001
4.执行相关命令
bin/oozie job -oozie http://centos.master:11000/oozie -config ../examples/apps/map-reduce/job.properties -run

可以修改/etc/profile
export OOZIE_URL=http://centos.master:11000/oozie
以后执行就不必在带上
-oozie http://centos.master:11000/oozie

分享到:
评论

相关推荐

    Apache Hadoop---Oozie.docx

    Oozie由Cloudera公司贡献给Apache的基于工作流引擎的开源框架,是用于Hadoop平台的开源的工作流调度引擎,是用来管理Hadoop作业,属于web应用程序,由Oozie client和Oozie Server两个组件构成,Oozie Server运行于Java ...

    oozie 入门

    oozie 入门 oozie概述:oozie能干什么 oozie格式:怎么用oozie oozie执行:怎么运行oozie

    MySQL :oozie建表sql

    hadoop oozie启动或运行报错:Table ‘oozie.VALIDATE_CONN’ doesn’t exist

    django_hadoop:Django 的 Hadoop 集成

    Django 的 Hadoop 集成(通过 Oozie REST API 或本地作业执行)。 此代码允许从 Django 视图运行 MapReduce 任务。 安装 像往常一样安装这个 django 应用程序(urls.py、settings.py 等)。 在项目的 settings.py ...

    oozie:Apache Oozie的镜子

    阿帕奇·奥兹(Apache Oozie)什么是...Oozie概述Oozie是基于服务器的工作流引擎,专门用于运行具有运行Hadoop Map / Reduce和Pig作业的操作的工作流作业。 Oozie是在Java servlet容器中运行的Java Web应用程序。 出于

    Hadoop实战(第2版)

    第1 部分 背景和基本原理1 跳跃中的Hadoop1.1 什么是Hadoop 1.1.1 Hadoop 的核心组件1.1.2 Hadoop 生态圈1.1.3 物理架构1.1.4 谁在使用Hadoop1.1.5 Hadoop 的局限性1.2 运行Hadoop 1.2.1 ...

    hadoop权威指南 第三版 英文版

    写MRUnit测试单元(第五章介绍),还有一些更深入的特性,比如输出的提交,分布式缓存等(第8章),任务内存监控(第9章),第4章新增了通过mapreduce job处理avro 数据,第5章介绍了用oozie运行简单的workflow 工作...

    大数据处理相关技术学习之路-相关技术包括离线处理,实时处理,OLAP等,如hadoop、spark、flink、hive、hba

    相关技术包括离线处理,实时处理,OLAP等,如hadoop、spark、flink、hive、hbase、oozie...以及大数据项目,如用户画像、数据仓库等 Hadoop是一个由Apache基金会所开发的分布式系统基础架构。 Spark是基于内存计算...

    hadoopi:该项目包含配置文件和厨师代码,以将五个Raspberry Pi 3s的集群配置为运行Hue的工作Hadoop

    Hadoopi-Raspberry Pi Hadoop集群该项目包含配置文件和厨师代码,用于将五个Raspberry Pi 3s的集群配置为运行Hue的工作Hadoop。 该视频显示了如何使用此代码来设置和配置集群,但是这是使用“ 1.0”标签配置的,该...

    Hadoop硬实战 [(美)霍姆斯著][电子工业出版社][2015.01]_PDF电子书下载 带书签目录 高清完整版.rar )

    1.2 运行Hadoop 1.2.1 下载并安装Hadoop 1.2.2 Hadoop 的配置 1.2.3 CLI 基本命令 1.2.4 运行MapReduce 作业 1.3 本章小结 第2 部分 数据逻辑. 2 将数据导入导出Hadoop. 2.1 导入导出的...

    examples.zip

    Oozie由Cloudera公司贡献给Apache的基于工作流引擎的开源框架,是用于Hadoop平台的开源的工作流调度引擎,是用来管理Hadoop作业,属于web应用程序,由Oozie client和Oozie Server两个组件构成,Oozie Server运行于Java ...

    深入大数据平台心脏:饿了么调度系统全解

    随着饿了么在大数据应用的不断深入,需要解决任务数量...工作流必须是一个有向无环图,实际上Oozie就相当于Hadoop的一个客户端。当用户需要执行多个关联的MR任务时,只需要将MR执行顺序写入workflow.xml,然后使用Oozi

    ApacheSpark的Lambda架构示例应用

    目前已经有很多客户实施了基于Hadoop的M/R管道,并成功运行到现在:Oozie的工作流每日运行处理150TB以上的数据并生成分析报告 Bash的工作流每日运行处理8TB以上的数据并生成分析报告 2016年商业现实发生了变化,越...

    大数据运维手册-你值得拥有

    一组可与您的Hadoop集群交互的网络应用程序。Hue应用能让您浏览HDFS和工作,管理Hive metastore,运行Hive,浏览HBase Sqoop出口数据,提交MapReduce程序,构建自定义的搜索引擎与Solr,与Oozie一起调度重复性的工作流。

    java安卓辅助源码-big_data_architect_skills:一个大数据架构师应该掌握的技能

    java安卓辅助源码 ---- 持续更新中 ---- 关于软实力部分同步会更新场景落地 ---- ---- ...Oozie(任务调度编排) 平台调度的基础保障 hadoop 各种任务的使用与调度 对比 Azkaban Airflow Slider(调度支

    docker-cdh5.4:Cloudera CDH 5.4.0

    此目录中的Docker脚本会生成CentOS 6 Docker VM并安装所有CDH组件(Hadoop,Spark,Hbase,Hive,Impala,Hue,Zookeeper,Oozie等)。 如何建立cdh容器? docker build -t docker-cdh54 . 如何运行cdh容器? ...

    尚gg大数据项目实战电商数仓系统开发教程.txt

    140_CDH数仓_Oozie任务编写及运行.avi 141_CDH数仓_即席查询数仓搭建Impala.avi 142_CDH数仓_Spark安装及总结.avi 14_数仓采集_事件日志数据(下).avi 15_数仓采集_日志生成代码编写.avi4 |* G) Z3 J4 ]/ b9 z$ @ ...

    awesome-opensource-data-engineering:很棒的开源数据工程项目清单

    提供在任何执行引擎(包括Spark,Flink或它自己的DirectRunner)上运行的批处理和流数据处理作业的功能。支持Java,Python和Go中的多个API。 数据流上的有状态计算。商业情报一个现代的,可用于企业的商业智能Web...

Global site tag (gtag.js) - Google Analytics