学习 Debian 上搭建和使用 Hadoop,可以按下面这条路线来,从基础到实战,比较稳妥。
你需要掌握:
apt, systemctl, ssh, useradd, scp推荐:
man apt
man systemctl
Hadoop 是 Java 写的:
sudo apt install openjdk-17-jdk
java -version
不要一上来就敲命令,先搞清楚:
简单理解:
Hadoop = 多台机器一起存数据 + 一起算任务
适合理解概念
wget https://archive.apache.org/dist/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
tar -xzf hadoop-3.3.6.tar.gz
cd hadoop-3.3.6
配置 JAVA_HOME:
nano etc/hadoop/hadoop-env.sh
export JAVA_HOME=/usr/lib/jvm/java-17-openjdk-amd64
运行示例:
bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.6.jar wordcount input output
这是学习 Hadoop 最核心的一步
需要配置:
core-site.xmlhdfs-site.xmlmapred-site.xmlyarn-site.xml关键步骤:
ssh-keygen
ssh-copy-id localhost
格式化 HDFS:
bin/hdfs namenode -format
启动:
sbin/start-dfs.sh
sbin/start-yarn.sh
浏览器访问:
http://localhost:9870http://localhost:8088需要:
角色:
https://hadoop.apache.org/docs/stable/
如果你愿意,我可以:
你现在是哪一步?