温馨提示×

linux hdfs怎么学

小樊
42
2026-10-07 11:05:06
栏目: 智能运维

学习 Linux + HDFS(Hadoop 分布式文件系统),建议按「先 Linux 基础 → 再 Hadoop/HDFS 原理 → 再实操」的路线来。下面给你一套实用学习路线。


一、先学 Linux 基础(必须)

HDFS 基本都在 Linux 上跑,命令不会会很吃力。

1. 必学 Linux 内容

  • 文件与目录操作
    ls cd pwd mkdir rm cp mv
    
  • 文件查看
    cat less tail head grep
    
  • 权限
    chmod chown
    
  • 用户与环境
    useradd su export
    
  • 网络与进程
    ps netstat top ssh
    

✅ 建议:用虚拟机(VMware / VirtualBox)装一个 CentOS 或 Ubuntu


二、理解 HDFS 是什么(概念)

HDFS 核心特点

  • 分布式存储
  • 一次写入,多次读取
  • 适合大文件
  • 高容错(数据多副本)

重要角色

  • NameNode:管理元数据(文件在哪)
  • DataNode:真正存数据
  • SecondaryNameNode:辅助 NameNode

三、搭建 HDFS(推荐方式)

方式 1:单机伪分布式(最推荐新手)

适合学习命令和原理

# 安装 JDK
java -version

# 下载 Hadoop
# 配置:
# - core-site.xml
# - hdfs-site.xml
# - hadoop-env.sh

启动:

start-dfs.sh

验证:

jps
# 看到 NameNode / DataNode 就成功了

四、HDFS 常用命令(重点)

1. 查看文件

hdfs dfs -ls /

2. 上传 / 下载

hdfs dfs -put local.txt /user/
hdfs dfs -get /user/local.txt ./

3. 创建目录

hdfs dfs -mkdir /test

4. 删除

hdfs dfs -rm /test/file.txt
hdfs dfs -rm -r /test

5. 查看内容

hdfs dfs -cat /user/file.txt

五、Web 界面(很好用)

  • NameNode UI:
http://localhost:9870

可以看到:

  • 文件分布
  • DataNode 状态
  • 副本情况

六、进阶学习方向

当你熟悉基础后:

  • HDFS 副本机制
  • 块(Block)大小
  • 故障恢复
  • Hadoop 集群(多机)
  • YARN / MapReduce
  • Hive / Spark on HDFS

七、学习资源推荐

书籍

  • 《Hadoop 权威指南》(经典)
  • 《鸟哥的 Linux 私房菜》

视频

  • B 站搜索:Hadoop 入门 / HDFS 教程
  • 尚硅谷 / 黑马 Hadoop 课程

官方文档

https://hadoop.apache.org/docs/

八、学习建议(很重要)

✅ 不要只看书
✅ 一定要敲命令
✅ 先伪分布式,再集群
✅ 出错就查日志(logs/ 目录)


如果你愿意,我可以:

  • 给你一份 Linux + HDFS 学习计划表
  • 手把手教你 搭伪分布式 HDFS
  • 用 实际例子讲 HDFS 原理

你现在是:完全零基础 / 有 Linux 基础 / 有 Hadoop 基础?

0 踩