`
samuschen
  • 浏览: 399038 次
  • 性别: Icon_minigender_2
  • 来自: 北京
社区版块
存档分类
最新评论

node1-node6搭建hadoop

阅读更多

环境:

node1-node6

node1为主节点

hadoop0.20.2

 

node1-node6共享/home文件系统(NFS)


安装hadoop:(用户为cq)

安装jdk:

在/home/cq/jdk1.6.0_18(在一台上安装后6台共享)

 

ssh配置(在NFS上共享authorized_keys):在用户cq的根目录下设置

[cq@node1 ~]$ ssh-keygen -t rsa -f .ssh/id_rsa
[cq@node1 ~]$ cat .ssh/id_rsa.pub >> .ssh/authorized_keys

 

ssh配置(没有NFS上共享authorized_keys时):

现在node1用户cq的根目录下设置

[cq@node1 ~]$ ssh-keygen -t rsa -f .ssh/id_rsa

将node1上生成的 .ssh/id_rsa.pub拷贝到每一个节点,然后再每个节点上执行以下命令:
[cq@node1 ~]$ cat .ssh/id_rsa.pub >> .ssh/authorized_keys

 

hadoop安装在/cq/hadoop-0.20.2(6台分别安装,不共享)

 

配置环境变量:

修改/home/cq/.bashrc,内容如下

# User specific aliases and functions
export JAVA_HOME=/home/cq/jdk1.6.0_18
export HADOOP_HOME=/cq/hadoop-0.20.2
export HIVE_HOME=/cq/hive-0.6.0-bin
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HIVE_HOME/bin

 

source /home/cq/.bash

这里是修改用户cq的环境变量,不修改系统变量,一面影响到别人使用机器。

 

 

分享到:
评论

相关推荐

    Hadoop-ha集群搭建

    HadoopHA集群搭建描述及指令,里面有各种注意事项。 集群部署节点角色的规划(3节点) ------------------ server01 namenode resourcemanager zkfc nodemanager datanode zookeeper journal node server02 ...

    Spark、Hadoop大数据平台搭建.pdf

    hadoop HADOOP_HOME=/opt/hadoop-2.7.7 export PATH=$PATH:$HADOOP_HOME/bin # zookeeper ZOOKEEPER_HOME=/opt/zookeeper-3.4.13 export PATH=$PATH:$ZOOKEEPER_HOME/bin # scala SCALA_HOME=/opt/scala-2.12.8 ...

    CentOS7搭建Hadoop集群

    1.准备三台虚拟机 – node-1 (主节点) , node-2, node-3 2.JDK环境 3.修改主机名称 hostnamectl set-hostname node-1 vi /etc/hosts 192.168.25.111 node-1 192.168.25.112 node-2 192.168.25.113 node-3 4.SSH...

    Hadoop集群安装

    錄中,此舉並非完全必要,但一個目的是介紹更多hadoop-env.sh內的參數,另一目的為讓log,pid等常變資料與hadoop家目 錄分離 • step 5. 設定 hadoop-site.xml 第二個設定檔是 hadoop-site.xml,由於官方所提供的範...

    Hadoop实战手册

    Hadoop 单机系统 安装配置13#Hadoop 文件下载和解压13#配置 hadoop-env.sh 环境变量13#Hadoop Common组件 配置 core-site.xml13#HDFS NameNode,DataNode组建配置 hdfs-site.xml14#配置MapReduce - JobTracker ...

    傻瓜式Hadoop集群配置脚本

    2.集群的IP地址 默认为master:192.168.1.10,node1:192.168.1.11 ……以此类推 如果想自己修改 请更改该 config_ip.sh 3.对于ssh免密的设置 我用完全覆盖的 ~/.ssh 的方式 ,请谨慎使用 4.对于Hadoop配置文件的设置 ...

    云计算分布式平台搭建实验指导书和试做报告9个.rar

    云计算平台搭建详细步骤,包括: 1.虚拟机准备工作 2.配置相互映射的虚拟机node1 node2 node3 node4 ...配置网络文件系统NFS MPICH编译运行 3.安装并配置两台ESXI服务器...9.搭建hadoop,了解master和slave包括的部分和功能

    HadoopHA高可用完全分布式搭建

    1.在四台节点上安装JDK以及Hadoop 2.在node02、node03、node04节点上安装Zookeeper 3.节点配置分布如下??? 二、配置JDK、Hadoop、以及Zookeeper环境变量 在四台节点上配置好JDK、Hadoop以及ZookeeperZookeeper环境...

    fourinone-3.04.25

    淘宝Fourinone(中文名字“四不像”)是一个四合一分布式计算框架,在写这个框架之前,我对分布式计算进行了长时间的思考,也看了老外写的其他开源框架,当我们把复杂的hadoop当作一门学科学习时,似乎忘记了我们想...

    HBASE集群搭建

    集群搭建配置hbase集群,要修改3个文件(首先zk集群已经安装好了) 注意:要把hadoop的hdfs-site.xml和core-site.xml 放到hbase/conf下 3.1修改hbase-env.sh export JAVA_HOME=/usr/local/jdk1.6.0_45 //告诉...

    CentOS7下Hadoop3.2.1集群的安装与部署(上)

     Hadoop-HA集群的节点规划如下: IP Address Host Name Node Type User Name 172.16.250.234 DN1/JN1 DataNode/JournalNode hadoop 172.16.250.237 DN2/JN2/RM1 DataNode/JournalNode/...

    高职组云计算与大数据题库

    slaver1 Node 的主机名为:slaver1。 将查询 2 个节点的主机名信息以文本形式提交到答题框。 2.修改 2 个节点的 hosts 文件, 使用 FQDN 的方式,配置 IP 地址与主机名之间的映射关系。查询 hosts 文件的信息,将...

    Storm集群安装部署步骤【详细版】

    本文以TwitterStorm官方Wiki为基础,详细描述如何快速搭建一个Storm集群,其中,项目实践中遇到的问题及经验总结,在相应章节以“注意事项”的形式给出。Storm集群中包含两类节点:主控节点(MasterNode)和工作节点...

Global site tag (gtag.js) - Google Analytics