Debian怎么设置Hadoop

在 Debian 上设置 Hadoop，一般流程是：安装 Java → 创建专用用户 → 下载并配置 Hadoop → 启动服务。下面以**单节点伪分布式模式（Pseudo-Distributed）**为例，适合学习和开发。

一、环境准备

1. 更新系统

sudo apt update
sudo apt upgrade -y

2. 安装 Java（Hadoop 依赖）

Hadoop 3.x 推荐 Java 8 或 Java 11。

sudo apt install openjdk-11-jdk -y

验证：

java -version

设置 JAVA_HOME（编辑 /etc/environment 或 ~/.bashrc）：

export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64
export PATH=$JAVA_HOME/bin:$PATH

生效：

source ~/.bashrc

二、创建 Hadoop 专用用户（推荐）

sudo addgroup hadoop
sudo adduser --ingroup hadoop hadoop
sudo usermod -aG sudo hadoop

切换到该用户：

su - hadoop

三、下载并安装 Hadoop

1. 下载 Hadoop

去官网查看最新版本（示例为 3.3.6）：

wget https://downloads.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz

2. 解压并移动

tar -xzvf hadoop-3.3.6.tar.gz
sudo mv hadoop-3.3.6 /usr/local/hadoop

3. 设置权限

sudo chown -R hadoop:hadoop /usr/local/hadoop

四、配置 Hadoop 环境变量

编辑 ~/.bashrc：

export HADOOP_HOME=/usr/local/hadoop
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop

生效：

source ~/.bashrc

验证：

hadoop version

五、SSH 免密登录（必须）

Hadoop 使用 SSH 启动节点。

sudo apt install ssh -y

生成密钥：

ssh-keygen -t rsa -P ""
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys

测试：

ssh localhost

六、Hadoop 配置文件（伪分布式）

1. hadoop-env.sh

nano $HADOOP_HOME/etc/hadoop/hadoop-env.sh

添加或修改：

export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64

2. core-site.xml

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>

3. hdfs-site.xml

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
</configuration>

4. mapred-site.xml

<configuration>
  <property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
  </property>
</configuration>

5. yarn-site.xml

<configuration>
  <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
  </property>
</configuration>

七、格式化 HDFS（仅第一次）

hdfs namenode -format

八、启动 Hadoop

start-dfs.sh
start-yarn.sh

查看进程：

jps

应看到：

• NameNode
• DataNode
• SecondaryNameNode
• ResourceManager
• NodeManager

九、访问 Web UI

• HDFS：http://localhost:9870
• YARN：http://localhost:8088

十、简单测试

hdfs dfs -mkdir /input
hdfs dfs -put $HADOOP_HOME/etc/hadoop/*.xml /input
hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar wordcount /input /output
hdfs dfs -cat /output/part-r-00000

常见问题

1. JAVA_HOME 未设置

检查 hadoop-env.sh 是否配置正确。

2. SSH 无法免密

chmod 700 ~/.ssh
chmod 600 ~/.ssh/authorized_keys

3. 端口被占用

netstat -tunlp | grep 9000

如果你需要：

• 完全分布式（多节点）
• Debian 12 特定问题
• Hadoop + Hive / Spark

可以继续问我。