在 Debian 系统下启动 Hadoop,通常分为单机模式、伪分布式模式、完全分布式模式。下面以**最常用、也是学习最常用的“伪分布式模式”**为例,说明在 Debian 下的启动步骤。
Hadoop 依赖 Java:
java -version
若未安装:
sudo apt update
sudo apt install openjdk-11-jdk
假设 Hadoop 解压在:
/opt/hadoop
并配置环境变量(~/.bashrc 或 /etc/profile):
export HADOOP_HOME=/opt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
执行:
source ~/.bashrc
core-site.xmlnano $HADOOP_HOME/etc/hadoop/core-site.xml
内容:
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
hdfs-site.xmlnano $HADOOP_HOME/etc/hadoop/hdfs-site.xml
内容:
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
mapred-site.xmlcp $HADOOP_HOME/etc/hadoop/mapred-site.xml.template \
$HADOOP_HOME/etc/hadoop/mapred-site.xml
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
yarn-site.xml<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
</configuration>
sudo apt install ssh
ssh-keygen -t rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
ssh localhost
hdfs namenode -format
start-dfs.sh
start-yarn.sh
jps
应看到类似进程:
NameNode
DataNode
SecondaryNameNode
ResourceManager
NodeManager
Web 页面:
http://localhost:9870http://localhost:8088stop-yarn.sh
stop-dfs.sh
在:
$HADOOP_HOME/etc/hadoop/hadoop-env.sh
中添加:
export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64
修改 core-site.xml 中的端口即可。
如果你需要:
可以告诉我你的使用场景,我可以进一步细化。