Hadoop 在Windows7操作系统下使用Eclipse来搭建Hadoop开

网上有一些都是在Linux下使用安装Eclipse来进行Hadoop应用开发,但是大部分Java程序员对Linux系统不是那么熟悉,所以需要在Windows下开发Hadoop程序,所以经过试验,总结了下如何在Windows下使用Eclipse来开发Hadoop程序代码。

Hadoop2.5.2 新特性 

CentOS安装和配置Hadoop2.2.0 

Ubuntu 13.04上搭建Hadoop环境

Ubuntu 12.10 +Hadoop 1.2.1版本集群配置

Ubuntu上搭建Hadoop环境(单机模式+伪分布模式)

Ubuntu下Hadoop环境的配置

单机版搭建Hadoop环境图文教程详解

搭建Hadoop环境(在Winodws环境下用虚拟机虚拟两个Ubuntu系统进行搭建)

1、 需要下载hadoop的专门插件jar包

hadoop版本为2.3.0,hadoop集群搭建在centos6x上面,插件包下载地址为

------------------------------------------分割线------------------------------------------

FTP地址:ftp://ftp1.linuxidc.com

用户名:ftp1.linuxidc.com

密码:

在 2014年LinuxIDC.com\12月\Hadoop 在Windows7操作系统下使用Eclipse来搭建Hadoop开发环境

下载方法见

------------------------------------------分割线------------------------------------------

jar包名字为hadoop-eclipse-plugin-2.3.0,可以适用于hadoop2x系列软件版本。

2、 把插件包放到eclipse/plugins目录下

为了以后方便,我这里把尽可能多的jar包都放进来了,如下图所示:

Hadoop 在Windows7操作系统下使用Eclipse来搭建Hadoop开

3、重启eclipse,配置Hadoop installation directory

如果插件安装成功,打开Windows—Preferences后,在窗口左侧会有Hadoop Map/Reduce选项,点击此选项,在窗口右侧设置Hadoop安装路径。

Hadoop 在Windows7操作系统下使用Eclipse来搭建Hadoop开

4、配置Map/Reduce Locations

打开Windows-->Open Perspective-->Other

Hadoop 在Windows7操作系统下使用Eclipse来搭建Hadoop开

选择Map/Reduce,点击OK,在右下方看到有个Map/Reduce Locations的图标,如下图所示:

Hadoop 在Windows7操作系统下使用Eclipse来搭建Hadoop开

点击Map/Reduce Location选项卡,点击右边小象图标,打开Hadoop Location配置窗口:

输入Location Name,任意名称即可.配置Map/Reduce Master和DFS Mastrer,Host和Port配置成与core-site.xml的设置一致即可。

去找core-site.xml配置:

fs.default.name                                                                      hdfs://name01:9000

在界面配置如下:

Hadoop 在Windows7操作系统下使用Eclipse来搭建Hadoop开

点击"Finish"按钮,关闭窗口。点击左侧的DFSLocations—>myhadoop(上一步配置的location name),如能看到user,表示安装成功,但是进去看到报错信息:Error: Permission denied: user=root,access=READ_EXECUTE,inode="/tmp";hadoop:supergroup:drwx---------,如下图所示:

Hadoop 在Windows7操作系统下使用Eclipse来搭建Hadoop开

应该是权限问题:把/tmp/目录下面所有的关于hadoop的文件夹设置成hadoop用户所有然后分配授予777权限。

cd /tmp/

chmod 777 /tmp/

chown -R hadoop.hadoop /tmp/hsperfdata_root

之后重新连接打开DFS Locations就显示正常了。

Map/Reduce Master (此处为Hadoop集群的Map/Reduce地址,应该和mapred-site.xml中的mapred.job.tracker设置相同)

(1):点击报错:

An internal error occurred during: "Connecting to DFS hadoopname01".

java.net.UnknownHostException: name01

直接在hostname那一栏里面设置ip地址为:192.168.52.128,即可,这样就正常打开了,如下图所示:

Hadoop 在Windows7操作系统下使用Eclipse来搭建Hadoop开

5、新建WordCount项目

File—>Project,选择Map/Reduce Project,输入项目名称WordCount等。

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/ff03e54476aac15942f8aa163baa1d93.html