温馨提示×

debian hadoop网络怎么设

小樊
57
2026-09-29 16:23:52
栏目: 智能运维

在 Debian 上配置 Hadoop 网络,核心目标是:
✅ 各节点能互相通信
✅ 主机名可解析
✅ 防火墙/端口开放
✅ Hadoop 配置文件中使用正确地址

下面按 单机 / 集群 两种情况说明。


一、基础网络设置(所有节点都要做)

1️⃣ 配置静态 IP(推荐)

编辑:

/etc/network/interfaces

示例(Debian 11/12):

auto eth0
iface eth0 inet static
    address 192.168.10.10
    netmask 255.255.255.0
    gateway 192.168.10.1
    dns-nameservers 8.8.8.8

重启网络:

systemctl restart networking

2️⃣ 设置主机名

hostnamectl set-hostname master

或从节点:

hostnamectl set-hostname slave1

3️⃣ 配置 /etc/hosts(非常重要)

所有节点都要有:

192.168.10.10 master
192.168.10.11 slave1
192.168.10.12 slave2

测试:

ping master
ping slave1

二、防火墙设置(关键)

方式 A:直接关闭防火墙(测试环境)

systemctl stop firewalld
systemctl disable firewalld

或(Debian 默认):

iptables -F

方式 B:开放 Hadoop 端口

常用端口:

  • 8020 / 9000(HDFS)
  • 50070(Web UI)
  • 8088(YARN)
  • 19888(JobHistory)
ufw allow 9000
ufw allow 50070
ufw allow 8088

三、Hadoop 网络相关配置

1️⃣ core-site.xml

<property>
  <name>fs.defaultFS</name>
  <value>hdfs://master:9000</value>
</property>

❗ 不要用 localhost(集群会出问题)


2️⃣ hdfs-site.xml

<property>
  <name>dfs.namenode.rpc-address</name>
  <value>master:9000</value>
</property>

3️⃣ yarn-site.xml

<property>
  <name>yarn.resourcemanager.hostname</name>
  <value>master</value>
</property>

4️⃣ workers(旧版 slaves)

slave1
slave2

四、SSH 免密(必须)

Master 到所有节点:

ssh-keygen
ssh-copy-id slave1
ssh-copy-id slave2

测试:

ssh slave1

五、验证 Hadoop 网络

start-dfs.sh
start-yarn.sh

查看:

  • http://master:50070
  • http://master:8088

六、常见问题

❌ DataNode 不启动
→ /etc/hosts 或主机名错误

❌ Connection refused
→ 防火墙 / IP 不对

❌ 只能 localhost 访问
→ 配置文件写成了 127.0.0.1


如果你告诉我:

  • Debian 版本
  • Hadoop 版本
  • 单机还是集群

我可以给你一份 可直接用的配置文件。

0 踩