`
wiselyman
  • 浏览: 2082066 次
  • 性别: Icon_minigender_1
  • 来自: 合肥
博客专栏
Group-logo
点睛Spring4.1
浏览量:81204
74ae1471-94c5-3ae2-b227-779326b57435
点睛Spring MVC4...
浏览量:130188
社区版块
存档分类
最新评论

Hadoop测试开发环境搭建

阅读更多

搭建分布式的hadoop环境是比较复杂的,这样使我们学习和熟悉hadoop产生了困难。在这里为大家介绍一个简单的快速搭建hadoop单机开发环境方法。

安装VirtualBox

前置条件

  • 在BOIS中开启CPU虚拟化支持
  • 关闭360安全卫士晶核防护

安装VirtualBox

下载地址

下载Hadoop虚拟机镜像

下载地址

操作

解压

下载完成后得到一个cloudera-quickstart-vm-5.4.2-0-virtualbox.zip压缩包,将此压缩包解压到任意硬盘位置。

运行

双击cloudera-quickstart-vm-5.4.2-0-virtualbox.ovf,启动虚拟机。

启动并登录虚拟机

登录的账号密码均为:cloudera

进入hadoop学习开发之旅

进入系统后可以进行hadoop相关的命令操作的学习,并可以使用自带的eclipse进行hadoop编程学习。

代码不清晰处可查看http://www.microinsight.cn/2015/11/24/hadoop-dev/

2
2
分享到:
评论

相关推荐

    windows下hadoop2.6开发环境搭建过程说明及插件

    windows下搭建hadoop2.6开发环境详细说明,包括各种错误解决方法及参考文档;包括所需插件及测试代码

    hadoop本地测试环境搭建工具包

    hadoop本地测试环境搭建工具包 1.hadoop.dll 2.hadoop源码请到官网下载

    hadoop搭建与eclipse开发环境设置

    目的很简单,为进行研究与学习,部署一个hadoop运行环境,并搭建一个hadoop开发与测试环境。 具体目标是: 1.在ubuntu系统上部署hadoop 2.在windows 上能够使用eclipse连接ubuntu系统上部署的hadoop进行开发与测试 3...

    详解从 0 开始使用 Docker 快速搭建 Hadoop 集群环境

    Linux Info: Ubuntu 16.10 x64 Docker 本身就是基于 Linux 的,所以首先以我的一台服务器做实验。虽然最后跑 wordcount 已经由于内存不足而崩掉,但是之前的过程...输入「docker」测试是否安装成功。 拉取镜像 镜像

    hadoop2.5.2window下eclipse环境搭建

    hadoop2.5.2在windows下搭建开发环境并进行测试可以运行。

    Spark集群及开发环境搭建(完整版)

    Spark集群及开发环境搭建,适合初学者,一步一步并配有截图。 目录 一、 软件及下载 2 二、 集群环境信息 2 三、 机器安装 2 1. 安装虚拟机VirtualBox 2 2. 安装CentOs7 2 四、 基础环境搭建(hadoop用户下)...

    Spark、Hadoop大数据平台搭建.pdf

    Spark、Hadoop⼤数据平台搭建 下载安装包 Spark 分布式计算 ,安装包⼤⼩:220M ⽀持Hadoop 2.7以后的版本 Scala Scala环境,Spark的开发语⾔ ,安装包⼤⼩:20M Hadoop 分布式存储(计算) ,安装包⼤⼩:209M Java...

    Spark集群及开发环境搭建

    初学者手册 一、 软件及下载 2 二、 集群环境信息 2 ...八、 Scala开发环境搭建 21 1、系统安装 21 2、安装jdk8 21 3、安装scala2.11 21 4、安装scala for eclipse 21 5、创建scala工程 21

    Hadoop环境搭建 附件.rar

    在Window 7环境下,配置远程调试Hadoop集群的开发环境必须的文件,经本人测试,可成功链接,并附上测试代码

    新版Hadoop视频教程 段海涛老师Hadoop八天完全攻克Hadoop视频教程 Hadoop开发

    第一天 hadoop的基本概念 伪分布式hadoop集群安装 hdfs mapreduce 演示 01-hadoop职位需求状况.avi 02-hadoop课程安排.avi 03-hadoop应用场景.avi 04-hadoop对海量数据处理的解决思路.avi 05-hadoop版本选择和...

    CDH_5.7.0_基于VM虚拟机的hadoop集群搭建

    目标集群作为测试环境使用,预计测试总数据量不超过100W,主要用于本机开发及维护测试。 三台虚拟机安装64位linux操作系统,发行版本为:rhel-server-6.5-x86_64;安装hadoop版本为CDH 5.7.0;hadoop版本为:Hadoop ...

    Hadoop之为了开发测试进行分布式集群搭建

    在尽心到api的开发的时候涉及到开发环境的搭建,我发现,除了需要进行windows本地环境搭建意外,还需要进行集群环境搭建,但是可能有很多新手呢,不知道如何搭建,所以,我在这里呢,将环境搭建的简单小集群进行贡献...

    hadoop-hbase-hive部署文档

    根据项目实际搭建测试开发环境,包括hadoop hbase hive的详细搭建过程

    小白快速掌握Hadoop集成Kerberos安全技术频教程

    手把手视频详细讲解项目开发全过程,需要的小伙伴自行百度网盘下载,链接见附件,永久有效。 课程简介 从零学习Kerberos安全认证机制,并和Hadoop、YARN、HIVE进行集成,通过知识点 + 案例教学法帮助小白快速掌握...

    大数据分析-网站日志数据文件(Hadoop部署分析资料)

    本次要实践的数据日志来源于国内某技术学习论坛,该论坛由某培训机构主办,汇聚了众多技术学习者,每天都有人发帖、回帖。...两个日志文件,一共有200MB,符合大数据量级,可以作为推荐系统数据集和hadoop测试集。

    Hadoop现有测试框架探幽

    从使用hadoop的第一天开始,就一直没有离开过对Hadoop自身功能的开发...没有统一的测试框架和测试规范,很容易导致做一次修改,就需要认为的搭建或模拟一些针对该修改的现象进行测试,而这次测试完成后,环境撤掉,又没

    用Maven构建Hadoop项目

    Hadoop的MapReduce环境是一个复杂的编程环境,所以我们要尽可能地简化构建MapReduce项目的过程。Maven是一个很不错的自动化项目构建工具,通过Maven来帮助我们从复杂的环境配置中解脱出来,从而标准化开发过程。所以...

    hadoop段海涛老师八天实战视频

    测试.avi 08-hdfs的实现机制初始.avi 09-hdfs的shell操作.avi 10-hadoop集群搭建的无密登陆配置.avi 第二天 hdfs的原理和使用操作、编程 01-NN元数据管理机制.avi 02-NN工作机制2.avi 03-DN工作原理.avi ...

    window10环境搭建spark开发环境

    按文档搭建,安装包在云盘上,自己本人亲自测试,在安装的时候注意下如果装有多版本JDK,spark必须是1.8以上,多个JDK中java -version和javac -version看一下;修改Hadoop文件注意;我自己测试的时候用spark框架需要...

Global site tag (gtag.js) - Google Analytics