温馨提示×

debian hadoop网络怎设置

小樊
46
2026-09-11 11:00:56
栏目: 智能运维

在 Debian 上配置 Hadoop 网络,通常包括 主机名、IP、hosts 文件、SSH、防火墙、Hadoop 配置文件 这几部分。下面按常见场景(单机 / 伪分布式 / 集群)说明。


一、基础网络设置(所有节点都要做)

1. 设置静态 IP(推荐)

编辑网卡配置(Debian 10+ 一般用 netplan 或 /etc/network/interfaces)

方式一:/etc/network/interfaces

sudo nano /etc/network/interfaces

示例(eth0):

auto eth0
iface eth0 inet static
address 192.168.1.101
netmask 255.255.255.0
gateway 192.168.1.1
dns-nameservers 8.8.8.8

重启网络:

sudo systemctl restart networking

2. 设置主机名

sudo hostnamectl set-hostname master

(从节点可设为 slave1、slave2)


3. 配置 /etc/hosts(非常重要)

sudo nano /etc/hosts

示例(3 节点):

127.0.0.1   localhost
192.168.1.101 master
192.168.1.102 slave1
192.168.1.103 slave2

⚠️ 不要删 127.0.0.1 localhost

测试:

ping master
ping slave1

二、SSH 免密登录(Hadoop 必须)

1. 安装 SSH

sudo apt update
sudo apt install openssh-server

2. 生成密钥

ssh-keygen -t rsa

3. 分发公钥

ssh-copy-id master
ssh-copy-id slave1
ssh-copy-id slave2

测试:

ssh slave1

三、防火墙设置(如有)

1. 查看状态

sudo ufw status

2. 放行 Hadoop 端口(示例)

sudo ufw allow 22
sudo ufw allow 8088
sudo ufw allow 9000
sudo ufw allow 50070

或直接关闭(测试环境):

sudo ufw disable

四、Hadoop 网络相关配置

假设 Hadoop 安装在:

/opt/hadoop

1. core-site.xml

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://master:9000</value>
  </property>
</configuration>

2. hdfs-site.xml

<configuration>
  <property>
    <name>dfs.namenode.rpc-address</name>
    <value>master:9000</value>
  </property>
  <property>
    <name>dfs.replication</name>
    <value>2</value>
  </property>
</configuration>

3. yarn-site.xml

<configuration>
  <property>
    <name>yarn.resourcemanager.hostname</name>
    <value>master</value>
  </property>
</configuration>

4. workers(旧版 slaves)

nano $HADOOP_HOME/etc/hadoop/workers

内容:

master
slave1
slave2

五、常见网络问题排查

1. DataNode 连不上 NameNode

  • 检查 /etc/hosts
  • 检查防火墙
  • 检查 core-site.xml 中的主机名

2. SSH 很慢

sudo nano /etc/ssh/sshd_config
UseDNS no
sudo systemctl restart ssh

3. 端口被占用

netstat -tunlp | grep 9000

六、最小可用示例(单机伪分布式)

如果你只是 单机测试:

  • master = localhost
  • 不需要 slave
  • workers 只写 localhost

如果你愿意,可以告诉我:

  • Debian 版本(10 / 11 / 12)
  • Hadoop 版本
  • 单机还是集群

我可以直接给你 一份可用的配置文件。

0 踩