下面我分 “概念 → 安装 → 基本使用” 三部分,用 Linux + Hadoop 最常见的场景给你讲清楚,适合新手。
Hadoop 是一个 分布式存储 + 分布式计算 框架,主要包含:
你在 Linux 上用 Hadoop,本质是:
在 Linux 命令行操作 HDFS、提交计算任务
# 需要 Java
java -version
如果没有:
sudo apt install openjdk-8-jdk # Ubuntu
wget https://archive.apache.org/dist/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
tar -xzvf hadoop-3.3.6.tar.gz
mv hadoop-3.3.6 /usr/local/hadoop
vi ~/.bashrc
添加:
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
生效:
source ~/.bashrc
修改:
$HADOOP_HOME/etc/hadoop/core-site.xml
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
$HADOOP_HOME/etc/hadoop/hdfs-site.xml
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
hdfs namenode -format
start-dfs.sh
start-yarn.sh
检查:
jps
看到 NameNode、DataNode 就成功了。
# 查看目录
hdfs dfs -ls /
# 创建目录
hdfs dfs -mkdir /test
# 上传文件
hdfs dfs -put file.txt /test/
# 查看文件
hdfs dfs -cat /test/file.txt
# 下载文件
hdfs dfs -get /test/file.txt ./
# 删除
hdfs dfs -rm /test/file.txt
# 准备输入
hdfs dfs -mkdir /input
hdfs dfs -put *.txt /input
# 运行示例
hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.6.jar wordcount /input /output
# 查看结果
hdfs dfs -cat /output/part-r-00000
stop-dfs.sh
stop-yarn.sh
✅ 存海量日志
✅ 离线数据分析
✅ 大数据入门学习
✅ 为 Spark / Hive 打基础
如果你告诉我:
我可以直接给你 对应的一步到位教程。