在 Debian 上配置 Hadoop 网络,通常包括 主机名、IP、hosts 文件、SSH、防火墙、Hadoop 配置文件 这几部分。下面按常见场景(单机 / 伪分布式 / 集群)说明。
编辑网卡配置(Debian 10+ 一般用 netplan 或 /etc/network/interfaces)
方式一:/etc/network/interfaces
sudo nano /etc/network/interfaces
示例(eth0):
auto eth0
iface eth0 inet static
address 192.168.1.101
netmask 255.255.255.0
gateway 192.168.1.1
dns-nameservers 8.8.8.8
重启网络:
sudo systemctl restart networking
sudo hostnamectl set-hostname master
(从节点可设为 slave1、slave2)
sudo nano /etc/hosts
示例(3 节点):
127.0.0.1 localhost
192.168.1.101 master
192.168.1.102 slave1
192.168.1.103 slave2
⚠️ 不要删 127.0.0.1 localhost
测试:
ping master
ping slave1
sudo apt update
sudo apt install openssh-server
ssh-keygen -t rsa
ssh-copy-id master
ssh-copy-id slave1
ssh-copy-id slave2
测试:
ssh slave1
sudo ufw status
sudo ufw allow 22
sudo ufw allow 8088
sudo ufw allow 9000
sudo ufw allow 50070
或直接关闭(测试环境):
sudo ufw disable
假设 Hadoop 安装在:
/opt/hadoop
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://master:9000</value>
</property>
</configuration>
<configuration>
<property>
<name>dfs.namenode.rpc-address</name>
<value>master:9000</value>
</property>
<property>
<name>dfs.replication</name>
<value>2</value>
</property>
</configuration>
<configuration>
<property>
<name>yarn.resourcemanager.hostname</name>
<value>master</value>
</property>
</configuration>
nano $HADOOP_HOME/etc/hadoop/workers
内容:
master
slave1
slave2
/etc/hostscore-site.xml 中的主机名sudo nano /etc/ssh/sshd_config
UseDNS no
sudo systemctl restart ssh
netstat -tunlp | grep 9000
如果你只是 单机测试:
master = localhostslaveworkers 只写 localhost如果你愿意,可以告诉我:
我可以直接给你 一份可用的配置文件。