温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

hadoop的安装与配置

发布时间:2020-07-16 06:25:59 来源:网络 阅读:472 作者:ictedu 栏目:大数据

Hadoop版本

Hadoop 有两个主要版本,Hadoop 1.x.y 和 Hadoop 2.x.y 系列.1.x.y大数公司已经更新Hadoop 2.x 版本,本教程均可适用.

基本环境:Centos 6.5   jdk1.7.0_67   hadoop2.5.1

一、配置jdk

1)下载jdk 版本

  本教程试用jdk-7u67-linux-x64.war.gz

2)创建解压目录

   mkdir /usr/local/java

3)移动jdk到/usr/local/java

  mv jdk-7u67-linux-x64.war.gz  /usr/local/java

4)解压jdk

tar -xvf jdk-7u67-letcinux-x64.war.gz 

5)配置环境

 5.1)编辑 ~/.bash_profile文件 (可以在/etc/profile配置,但是不建议)

  1.vi   ~/.bash_profile

   2.JAVA_HOME =/usr/local/java/jdk1.7.0_67

   3.CLASSPATH=. :$JAVA_HOME/lib/*.jar

   4.PATH=$PATH:$JAVA_HOME/bin:$JAVA_HOME/jre/bin

   5.退出编辑,并 source ~/.bash_profile

   6.验证  java -version


二、安装配置hadoop

1)下载hadoop 版本

本教程使用hadoop2.5.1.war.gz

2)创建解压目录

 mkdir /usr/local/hadoop

3)移动hadoop到/usr/local/hadoop

mv hadoop2.5.1.war.gz  /usr/local/hadoop

4)解压hadoop

tar -xvf hadoop2.5.1.war.gz 

5)配置环境

 5.1)编辑~/.bash_profile文件

  1.vi   ~/.bash_profile

   2.HADOOP_HOME=/usr/local/hadoop2.6.4

   4.PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/jre/bin

   5.退出编辑,并 source ~/.bash_profile

5.2)配置etc/hadoop/hadoop-env.sh,etc/hadoop/core-site.xml,hdfs-site.xml ,etc/hadoop/salves

  http://hadoop.apache.org/docs/r2.5.2/hadoop-project-dist/hadoop-common/SingleCluster.html

   1.配置hadoop-env.sh

     export JAVA_HOME=/*your jdk的目录*/

   2.配置core-site.xml  (可以参考官方文档)

   <configuration>
   <property>
       <name>fs.defaultFS</name>
       <value>hdfs://localhost:9000</value>  /** your的主机名**/
   </property>
 </configuration>

 
 3.配置hdfs-site.xml
 

<configuration>
   <property>
       <name>dfs.replication</name>
       <value>1</value>
   </property>
</configuration>

 4.配置salves
 

  your的机主名
 
 
6)关闭临时防火墙
 

  1)service iptables stop
  2)chkconfig iptables off
 
  7)格式化
   hadoop namenode -format

 
  8)验证
 
    start-hdfs.sh
   
   
   8)jps产看状态   

    2135 NodeManager

    5087 SecondaryNameNode

    2054 ResourceManager

    9053 Jps

    4891 DataNode

    7489 NameNode



 9) 网页查看

     yourip:50070  (windows 没有添加host ,就用IP地址)

 


 

   

  


向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI