搭建分布式的hadoop环境是比较复杂的,这样使我们学习和熟悉hadoop产生了困难。在这里为大家介绍一个简单的快速搭建hadoop单机开发环境方法。
安装VirtualBox
前置条件
- 在BOIS中开启CPU虚拟化支持
- 关闭360安全卫士晶核防护
安装VirtualBox
下载Hadoop虚拟机镜像
操作
解压
下载完成后得到一个cloudera-quickstart-vm-5.4.2-0-virtualbox.zip压缩包,将此压缩包解压到任意硬盘位置。
运行
双击cloudera-quickstart-vm-5.4.2-0-virtualbox.ovf,启动虚拟机。
启动并登录虚拟机
登录的账号密码均为:cloudera
进入hadoop学习开发之旅
进入系统后可以进行hadoop相关的命令操作的学习,并可以使用自带的eclipse进行hadoop编程学习。
代码不清晰处可查看http://www.microinsight.cn/2015/11/24/hadoop-dev/
相关推荐
windows下搭建hadoop2.6开发环境详细说明,包括各种错误解决方法及参考文档;包括所需插件及测试代码
hadoop本地测试环境搭建工具包 1.hadoop.dll 2.hadoop源码请到官网下载
目的很简单,为进行研究与学习,部署一个hadoop运行环境,并搭建一个hadoop开发与测试环境。 具体目标是: 1.在ubuntu系统上部署hadoop 2.在windows 上能够使用eclipse连接ubuntu系统上部署的hadoop进行开发与测试 3...
Linux Info: Ubuntu 16.10 x64 Docker 本身就是基于 Linux 的,所以首先以我的一台服务器做实验。虽然最后跑 wordcount 已经由于内存不足而崩掉,但是之前的过程...输入「docker」测试是否安装成功。 拉取镜像 镜像
hadoop2.5.2在windows下搭建开发环境并进行测试可以运行。
Spark集群及开发环境搭建,适合初学者,一步一步并配有截图。 目录 一、 软件及下载 2 二、 集群环境信息 2 三、 机器安装 2 1. 安装虚拟机VirtualBox 2 2. 安装CentOs7 2 四、 基础环境搭建(hadoop用户下)...
Spark、Hadoop⼤数据平台搭建 下载安装包 Spark 分布式计算 ,安装包⼤⼩:220M ⽀持Hadoop 2.7以后的版本 Scala Scala环境,Spark的开发语⾔ ,安装包⼤⼩:20M Hadoop 分布式存储(计算) ,安装包⼤⼩:209M Java...
初学者手册 一、 软件及下载 2 二、 集群环境信息 2 ...八、 Scala开发环境搭建 21 1、系统安装 21 2、安装jdk8 21 3、安装scala2.11 21 4、安装scala for eclipse 21 5、创建scala工程 21
在Window 7环境下,配置远程调试Hadoop集群的开发环境必须的文件,经本人测试,可成功链接,并附上测试代码
第一天 hadoop的基本概念 伪分布式hadoop集群安装 hdfs mapreduce 演示 01-hadoop职位需求状况.avi 02-hadoop课程安排.avi 03-hadoop应用场景.avi 04-hadoop对海量数据处理的解决思路.avi 05-hadoop版本选择和...
目标集群作为测试环境使用,预计测试总数据量不超过100W,主要用于本机开发及维护测试。 三台虚拟机安装64位linux操作系统,发行版本为:rhel-server-6.5-x86_64;安装hadoop版本为CDH 5.7.0;hadoop版本为:Hadoop ...
在尽心到api的开发的时候涉及到开发环境的搭建,我发现,除了需要进行windows本地环境搭建意外,还需要进行集群环境搭建,但是可能有很多新手呢,不知道如何搭建,所以,我在这里呢,将环境搭建的简单小集群进行贡献...
根据项目实际搭建测试开发环境,包括hadoop hbase hive的详细搭建过程
手把手视频详细讲解项目开发全过程,需要的小伙伴自行百度网盘下载,链接见附件,永久有效。 课程简介 从零学习Kerberos安全认证机制,并和Hadoop、YARN、HIVE进行集成,通过知识点 + 案例教学法帮助小白快速掌握...
本次要实践的数据日志来源于国内某技术学习论坛,该论坛由某培训机构主办,汇聚了众多技术学习者,每天都有人发帖、回帖。...两个日志文件,一共有200MB,符合大数据量级,可以作为推荐系统数据集和hadoop测试集。
从使用hadoop的第一天开始,就一直没有离开过对Hadoop自身功能的开发...没有统一的测试框架和测试规范,很容易导致做一次修改,就需要认为的搭建或模拟一些针对该修改的现象进行测试,而这次测试完成后,环境撤掉,又没
Hadoop的MapReduce环境是一个复杂的编程环境,所以我们要尽可能地简化构建MapReduce项目的过程。Maven是一个很不错的自动化项目构建工具,通过Maven来帮助我们从复杂的环境配置中解脱出来,从而标准化开发过程。所以...
测试.avi 08-hdfs的实现机制初始.avi 09-hdfs的shell操作.avi 10-hadoop集群搭建的无密登陆配置.avi 第二天 hdfs的原理和使用操作、编程 01-NN元数据管理机制.avi 02-NN工作机制2.avi 03-DN工作原理.avi ...
按文档搭建,安装包在云盘上,自己本人亲自测试,在安装的时候注意下如果装有多版本JDK,spark必须是1.8以上,多个JDK中java -version和javac -version看一下;修改Hadoop文件注意;我自己测试的时候用spark框架需要...