windows下使用Eclipse编译运行MapReduce程序 Hadoop2.6.0/Ubuntu

windows下使用Eclipse编译运行MapReduce程序 Hadoop2.6.0/Ubuntu(一)

分类:hadoop

一、环境介绍

宿主机:windows8

虚拟机:Ubuntu14.04

hadoop2.6伪分布:搭建教程

Eclipse:eclipse-jee-luna-SR2-win32-x86_64

二、准备阶段

网上下载hadoop-eclipse-plugin-2.6.0.jar (点击下载)

也可以自行编译(网上教程挺多的,可以自己百度 or Google)

三、begin

复制编译好的jar到eclipse插件目录(如果eclipse实在Linux上的话,将jar放到dropins目录下),重启eclipse配置 hadoop 安装目录

window ->preference -> hadoop Map/Reduce -> Hadoop installation directory

配置Map/Reduce 视图

window ->Open Perspective -> other->Map/Reduce -> 点击“OK”

windows →show view →other->Map/Reduce Locations-> 点击“OK”

控制台会多出一个“Map/Reduce Locations”的Tab页

在“Map/Reduce Locations” Tab页 点击图标<大象+>或者在空白的地方右键,选择“New Hadoop location…”,弹出对话框“New hadoop location…”,配置如下内容:将ha1改为自己的hadoop用户

接着再切换到 Advanced parameters 选项面板,这边有详细的配置,,切记需要与 Hadoop 的配置(/usr/local/hadoop/etc/hadoop中的配置文件)一致,如我配置了 hadoop.tmp.dir ,就要进行修改。

网上几乎所有的教程都是如此,的确按这个教程配置完成后会在eclipse左上角出现DFS Locations,如下图

但其实还会碰见各种各样的问题,小编只将本人遇到的和解决办法呈现

(1)注意:将虚拟机的hadoop下修改的配置文件(core-site.xml hdfs-site.xml log4j.properties复制到程序的src目录下)

(2)DFS下一些文件加载不出来,提示 permission denied错误

解决办法:给HDFS目录文件添加权限,hdfs dfs -chmod -R 777 /

附:推荐一篇不错的文章

版权声明:本文为博主原创文章,未经博主允许不得转载。

上一篇朴素贝叶斯分类算法(Naive Bayesian classification)下一篇hive中的表、外部表、分区和桶的理解

顶0踩0

人生伟业的建立 ,不在能知,乃在能行。

windows下使用Eclipse编译运行MapReduce程序 Hadoop2.6.0/Ubuntu

相关文章:

你感兴趣的文章:

标签云: