温馨提示×

linux hadoop怎么用

小樊
47
2026-10-19 03:58:29
栏目: 智能运维

下面我分 “概念 → 安装 → 基本使用” 三部分,用 Linux + Hadoop 最常见的场景给你讲清楚,适合新手。


一、Hadoop 是什么(先搞清楚)

Hadoop 是一个 分布式存储 + 分布式计算 框架,主要包含:

  • HDFS:分布式文件系统(存数据)
  • MapReduce:分布式计算(算数据)
  • YARN:资源调度(管资源)

你在 Linux 上用 Hadoop,本质是:

在 Linux 命令行操作 HDFS、提交计算任务


二、Linux 上安装 Hadoop(单机版,最常用入门)

1. 环境准备

# 需要 Java
java -version

如果没有:

sudo apt install openjdk-8-jdk   # Ubuntu

2. 下载 Hadoop

wget https://archive.apache.org/dist/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
tar -xzvf hadoop-3.3.6.tar.gz
mv hadoop-3.3.6 /usr/local/hadoop

3. 配置环境变量

vi ~/.bashrc

添加:

export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

生效:

source ~/.bashrc

4. 单机伪分布式(最常用)

修改:

$HADOOP_HOME/etc/hadoop/core-site.xml
<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>
$HADOOP_HOME/etc/hadoop/hdfs-site.xml
<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
</configuration>

5. 启动 Hadoop

hdfs namenode -format
start-dfs.sh
start-yarn.sh

检查:

jps

看到 NameNode、DataNode 就成功了。


三、Hadoop 基本使用(重点)

1. HDFS 常用命令(像 Linux 命令)

# 查看目录
hdfs dfs -ls /

# 创建目录
hdfs dfs -mkdir /test

# 上传文件
hdfs dfs -put file.txt /test/

# 查看文件
hdfs dfs -cat /test/file.txt

# 下载文件
hdfs dfs -get /test/file.txt ./

# 删除
hdfs dfs -rm /test/file.txt

2. 跑一个 MapReduce 例子

# 准备输入
hdfs dfs -mkdir /input
hdfs dfs -put *.txt /input

# 运行示例
hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.6.jar wordcount /input /output

# 查看结果
hdfs dfs -cat /output/part-r-00000

3. 停止 Hadoop

stop-dfs.sh
stop-yarn.sh

四、常见用途总结

✅ 存海量日志
✅ 离线数据分析
✅ 大数据入门学习
✅ 为 Spark / Hive 打基础


五、你接下来可以学什么?

  • ✅ HDFS 原理
  • ✅ MapReduce 编程
  • ✅ YARN 调度
  • ✅ Hadoop + Spark
  • ✅ 集群部署(多台 Linux)

如果你告诉我:

  • 你是 学习 / 工作 / 面试
  • 用的是 Ubuntu / CentOS
  • 想做 存数据 / 算数据 / 搭建集群

我可以直接给你 对应的一步到位教程。

0 踩