学习 Linux + Hadoop 通常分三个阶段:先学 Linux 基础 → 再学 Hadoop 原理与组件 → 然后动手搭集群做项目。下面给你一个比较实用的学习路线(适合零基础到入门进阶)。
一、Linux 基础(Hadoop 的运行环境)
Hadoop 基本都跑在 Linux 上,Linux 必须会。
1. 推荐 Linux 发行版
- CentOS 7 / Rocky Linux / Ubuntu(Server)
- 学习阶段用 虚拟机(VMware / VirtualBox)
2. 必学 Linux 命令
cd / ls / pwd
mkdir / rm / cp / mv
cat / less / tail / head
chmod / chown
ps / top / free
tar / zip / unzip
scp / rsync
vim 基本操作
目标:能自己装软件、改配置、看日志
3. 必须理解的 Linux 概念
- 用户 / 用户组
- 文件权限(rwx)
- 环境变量(
.bashrc / /etc/profile)
- SSH 免密登录(Hadoop 必用)
- 防火墙(firewalld / iptables)
二、Hadoop 核心学习路线
阶段 1:Hadoop 是什么
先搞清:
- Hadoop 解决什么问题(海量数据存储 + 计算)
- Hadoop 生态包含什么
阶段 2:Hadoop 三大核心
1. HDFS(分布式存储)
- NameNode / DataNode
- 副本机制
- 文件读写流程
2. MapReduce(计算)
- Map / Shuffle / Reduce
- WordCount 例子
3. YARN(资源调度)
- ResourceManager / NodeManager
三、动手搭建 Hadoop(最重要)
推荐学习架构
- 伪分布式(1 台机器):入门首选
- 完全分布式(3 台虚拟机):进阶必做
学习步骤示例
- 装 3 台 Linux 虚拟机
- 配置主机名 + hosts
- 配置 SSH 免密
- 安装 JDK
- 安装 Hadoop
- 修改:
- core-site.xml
- hdfs-site.xml
- yarn-site.xml
- 格式化 NameNode
- 启动 Hadoop
- 跑 WordCount
四、Hadoop 生态(学完基础再学)
按需学习:
- Hive:SQL 操作 HDFS
- HBase:列式数据库
- Spark:比 MapReduce 快
- Flume / Kafka:数据采集
- Zookeeper:协调服务
五、学习资源推荐
视频
- B 站搜:Hadoop 入门 尚硅谷 / 黑马
- 跟着敲代码,别只看
书
- 《Hadoop 权威指南》(偏理论)
- 《大数据技术原理与应用》
官方文档
- https://hadoop.apache.org
六、学习建议(少走弯路)
✅ 先 Linux,再 Hadoop
✅ 一定要自己搭集群
✅ 多看日志(logs/ 目录)
✅ 从 WordCount 开始理解 MapReduce
❌ 不要一上来就学 Spark / 云 Hadoop
如果你愿意,我可以:
- 给你一套 Linux + Hadoop 学习清单
- 帮你 写伪分布式搭建教程
- 按你是 学生 / 转行 / 工作 定制路线
你现在是零基础吗?还是已经有 Linux 或 Java 基础?