?
当前位置:??NOSQL>hadoop/hbase

Hadoop 1.2.1 单节点安装(Single Node Setup)步骤

?
分享到:
????发布时间:2013-8-23??


????本文导语:?为了使您快速体验hadoop,可以在一台机子上安装单节点(Node)的hadoop。一 安装的前提条件 1.平台要求 (1). hadoop全面支持GNU/Linux,并且已经演示过部署在GNU/Linux上超过2000个节点的集群. (2). Win32 仅支持作为开发平台,hadoo...

为了使您快速体验hadoop,可以在一台机子上安装单节点(Node)的hadoop。

一 安装的前提条件

?1.平台要求

?(1). hadoop全面支持GNU/Linux,并且已经演示过部署在GNU/Linux上超过2000个节点的集群.

?(2). Win32 仅支持作为开发平台,hadoop的分布式相关功能并未在Win32 上作全面测试,因此不建议产品环境中使用win32平台。

?2.软件要求

?Linux和windows上都需要安装以下软件:

?(1)必须安装javatm 1.6.x,最好是sun的.

?(2)必须安装SSHSSHD需要开启,hadoop脚本才能管理远程实例(remote Hadoop daemons)

?另外:

?Windows上必须安装Cygwin.

?3.安装以上软件

? Ubuntu Linux上安装举例:

$ sudo apt-get install ssh
$ sudo apt-get install rsync

? windows上安装了cygwin后,还需要安装openssh.

下载最新稳定版hadoop 1.2.1

? ?下载地址

http://hadoop.apache.org/core/releases.html

三 准备启动Hadoop集群(单节点)

? 解压缩下载的hadoop,并编辑conf/hadoop-env.sh文件,将配置JAVA_HOM设置为你安装的java的当前根目录

? 开始运行一下命令:

$ bin/hadoop

? 如果显示的是hadoop命令的帮助,则表示设置正确。

? 接下来,你可以操作hadoop集群了,hadoop集群有三种模式:

? Local (Standalone) Mode(独立模式)

? Pseudo-Distributed Mode(伪分布式模式)

? Fully-Distributed Mode(分布式模式)

? 在这里仅介绍两种模式,第三种模式较复杂,以后单独介绍。

四 独立模式使用

? 默认情况下,hadoop被配置成非分布式模式,即一个java进程,这样方便调试

? 下面的命令将hadoop安装目录下的conf目录作为输入,然后将conf目录下的文件中符合给定正则表达式条件的内容找出来。输出即将内容写入指定的输出目录的文件中。

$ mkdir input
$ cp conf/*.xml input
$ bin/hadoop jar hadoop-examples-*.jar grep input output 'dfs[a-z.]+'
$ cat output/*

五 伪分布式模式操作使用

?在单台机子上hadoop通过运行多个java后台进程来实现伪分布式。

?1 依次编辑配置文件,并按照下面的内容进行设置:

conf/core-site.xml:


     
         fs.default.name
         hdfs://localhost:9000
     


conf/hdfs-site.xml:


     
         dfs.replication
         1
     


conf/mapred-site.xml:


     
         mapred.job.tracker
         localhost:9001
     


2 配置SSH客户端不需要输入密码登陆

如果你执行以下命令:

$ ssh localhost

成果,则不需要配置,否则需要配置,配置命令如下:

$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

3 ?执行命令

?格式化hadoop文件系统

$ bin/hadoop namenode -format

?启动hadoop后台实例:

$ bin/start-all.sh

?hadoop实例日志在${HADOOP_LOG_DIR}目录中(默认为${HADOOP_HOME}/logs)

?通过浏览器来查看hadoop的命名节点(NameNode)和作业追踪器(JobTracker),默认的地址为:

NameNode - http://localhost:50070/

JobTracker - http://localhost:50030/

将输入文件拷贝到hadoop分布式文件系统上:

$ bin/hadoop fs -put conf input

执行命令:

$ bin/hadoop jar hadoop-examples-*.jar grep input output 'dfs[a-z.]+'

输出文件拷贝到本地文件系统并查看输出内容:

$ bin/hadoop fs -get output output
$ cat output/*

或者,你可以直接在分布式文件系统上查看输出文件内容:

$ bin/hadoop fs -cat output/*

测试完成以后,停止hadoop集群命令:

$ bin/stop-all.sh



  • 本站(WWW.169IT.COM)旨在分享和传播互联网科技相关的资讯和技术,将尽最大努力为读者提供更好的信息聚合和浏览方式。
    本站(WWW.169IT.COM)站内文章除注明原创外,均为转载,整理或搜集自网络.欢迎任何形式的转载,转载请注明出处.
    转载请注明:文章转载自:[169IT-IT技术资讯]
    本文标题:Hadoop 1.2.1 单节点安装(Single Node Setup)步骤
相关文章推荐:


站内导航:


特别声明:169IT网站部分信息来自互联网,如果侵犯您的权利,请及时告知,本站将立即删除!

?2012-2019,169IT.COM,E-mail:www_169it_com#163.com(请将#改为@)

浙ICP备11055608号