debian下hadoop咋用

下面给你一份在 Debian 下使用 Hadoop 的实用指南，从“装好”到“能跑例子”为止，偏实战，不堆概念。

一、准备环境（Debian）

1. 安装 JDK（必须）

Hadoop 依赖 Java：

sudo apt update
sudo apt install openjdk-11-jdk -y

检查：

java -version

2. 创建专用用户（推荐）

sudo adduser hadoop
sudo usermod -aG sudo hadoop
su - hadoop

二、下载并安装 Hadoop

以 Hadoop 3.3.x 为例：

wget https://downloads.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
tar -xzf hadoop-3.3.6.tar.gz
sudo mv hadoop-3.3.6 /opt/hadoop

配置环境变量：

nano ~/.bashrc

添加：

export HADOOP_HOME=/opt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64

生效：

source ~/.bashrc

三、单机模式（最快上手）

不需要改配置，直接跑：

mkdir input
cp $HADOOP_HOME/etc/hadoop/*.xml input/

hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.6.jar grep input output 'dfs[a-z.]+'

cat output/*

✅ 能出结果就说明 Hadoop 装好了。

四、伪分布式模式（常用学习模式）

1. 配置 SSH 免密

ssh-keygen -t rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
ssh localhost

2. 修改配置文件

etc/hadoop/core-site.xml

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>

etc/hadoop/hdfs-site.xml

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
</configuration>

3. 格式化并启动

hdfs namenode -format
start-dfs.sh

查看进程：

jps

应看到：

• NameNode
• DataNode
• SecondaryNameNode

4. 跑 HDFS 命令

hdfs dfs -mkdir /user
hdfs dfs -mkdir /user/hadoop
hdfs dfs -put input /
hdfs dfs -ls /

五、YARN（可选）

start-yarn.sh

访问：

• ResourceManager: http://localhost:8088

六、常用命令速查

hdfs dfs -ls /
hdfs dfs -put file.txt /input
hdfs dfs -get /output .
hadoop jar xxx.jar 主类 输入 输出

七、常见坑

• ❌ 没配 JAVA_HOME → 启动失败
• ❌ 没 ssh localhost → DataNode 起不来
• ❌ 多次 format → 删掉 /tmp/hadoop-*

八、下一步学什么？

• MapReduce 编程
• Hive / Spark on Hadoop
• 真正集群部署（多节点）

如果你愿意，我可以：

• ✅ 给你 一行一行解释 Hadoop 配置
• ✅ 帮你 写第一个 MapReduce Java 程序
• ✅ 教你 Debian 上搭 3 节点集群

你现在是「刚装好」还是「完全没装」？