学习 Linux + Hadoop 一般建议分三个阶段:先会 Linux → 再学 Hadoop 原理与组件 → 最后做实战项目。下面给你一个比较系统、可执行的学习路线。
一、先学 Linux(基础必须打牢)
Hadoop 基本都跑在 Linux 上,命令不会会很痛苦。
1. 必学 Linux 内容
- 基本操作
cd / ls / pwd / mkdir / rm / cp / mv
- 文件与权限
- 用户与进程
useradd / ps / top / kill
- 网络
ping / netstat / ssh / scp
- 软件安装
- Shell 基础
✅ 推荐环境:
- 本地装 CentOS 7/8 或 Ubuntu
- 或用 虚拟机(VMware / VirtualBox)
二、Hadoop 核心学习路线
阶段 1:Hadoop 基础概念
先理解“为什么用 Hadoop”:
核心组件:
| 组件 |
作用 |
| HDFS |
分布式文件存储 |
| MapReduce |
分布式计算(早期) |
| YARN |
资源调度 |
| Common |
公共库 |
阶段 2:HDFS(重点)
学会:
- HDFS 架构(NameNode / DataNode)
- 常用命令
hdfs dfs -ls /
hdfs dfs -put file /
hdfs dfs -cat file
阶段 3:MapReduce(理解即可)
- 明白 Map → Shuffle → Reduce
- 写一个简单的 WordCount
- 不一定要精通(现在多用 Spark)
阶段 4:YARN
- ResourceManager
- NodeManager
- 任务调度流程
三、搭建 Hadoop 环境(非常重要)
1. 单机版(先跑起来)
- 一台 Linux 机器
- 安装 JDK
- 解压 Hadoop
- 改配置文件
- 启动
start-dfs.sh
2. 伪分布式
3. 完全分布式(进阶)
四、配套生态(学完基础再学)
学完 Hadoop 后建议学:
- Hive(SQL 操作 HDFS)
- HBase(列式数据库)
- Spark(主流计算框架)
- Zookeeper(协调服务)
- Kafka(数据流)
五、学习资料推荐
视频
- B 站搜索:Hadoop 尚硅谷 / 黑马
- 跟着敲命令最有用
书籍
- 《Hadoop 权威指南》
- 《大数据技术原理与应用》
官方文档
- https://hadoop.apache.org
六、学习建议(很重要)
✅ 不要只“看”,要 敲命令
✅ 先搭环境,再学原理
✅ 从小集群开始(1–3 台)
✅ 做 1 个小项目(如日志分析)
如果你愿意,我可以:
- 给你一份 Linux 常用命令清单
- 或一步步教你 搭建 Hadoop 伪分布式
- 或按你是 零基础 / 有基础 定制路线
你现在是零基础吗?还是已经会一点 Linux?