在 Linux 上使用 Hadoop,通常分为 单机模式、伪分布式模式、完全分布式模式。下面我从最常见、最实用的方式给你讲,适合新手快速上手。
Hadoop 是一个 大数据分布式存储与计算框架,核心包括:
# Ubuntu
sudo apt update
sudo apt install openjdk-8-jdk -y
# CentOS
sudo yum install java-1.8.0-openjdk -y
验证:
java -version
sudo useradd -m hadoop
sudo passwd hadoop
su - hadoop
wget https://downloads.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
tar -zxvf hadoop-3.3.6.tar.gz
mv hadoop-3.3.6 ~/hadoop
编辑 ~/.bashrc:
export HADOOP_HOME=~/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
生效:
source ~/.bashrc
验证:
hadoop version
$HADOOP_HOME/etc/hadoop/core-site.xml
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
</configuration>
ssh-keygen -t rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys
测试:
ssh localhost
hdfs namenode -format
start-dfs.sh
查看进程:
jps
应看到:
NameNode
DataNode
SecondaryNameNode
start-yarn.sh
hdfs dfs -ls /
hdfs dfs -mkdir /input
hdfs dfs -put test.txt /input
hdfs dfs -cat /input/test.txt
hdfs dfs -get /input/test.txt ./
hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.6.jar wordcount /input /output
查看结果:
hdfs dfs -cat /output/part-r-00000
stop-yarn.sh
stop-dfs.sh
| 问题 | 解决 |
|---|---|
| JAVA_HOME 未设置 | 配置 hadoop-env.sh |
| 无法 ssh localhost | 配置 SSH 免密 |
| 端口被占用 | 检查 9000 / 9870 |
✅ HDFS 原理
✅ MapReduce 编程
✅ Hive / Spark
✅ 完全分布式集群搭建
如果你愿意,我可以:
你现在是 学习 / 面试 / 生产环境 用?