温馨提示×

debian怎么升hadoop版

小樊
47
2026-10-20 01:53:09
栏目: 智能运维

在 Debian 上“升级 Hadoop 版本”通常不是用 apt 升级(Debian 官方源里的 hadoop 很旧,而且很多生产环境是手动装的),而是手动替换 Hadoop 安装目录 + 迁移配置。下面按常见场景给你一套稳妥流程。


一、先确认当前情况

which hadoop
hadoop version
echo $HADOOP_HOME

记下:

  • 当前 Hadoop 版本(如 3.2.1)
  • 安装路径(如 /opt/hadoop)
  • 配置文件位置(一般在 $HADOOP_HOME/etc/hadoop)

二、升级前备份(非常重要)

cp -r $HADOOP_HOME /opt/hadoop_backup_$(date +%F)

重点备份:

  • etc/hadoop/*
  • hdfs-site.xml
  • core-site.xml
  • yarn-site.xml
  • mapred-site.xml
  • 如有自定义脚本

三、下载新版本 Hadoop

以 3.3.6 为例(去官网选你需要的版本):

wget https://archive.apache.org/dist/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
tar -xzf hadoop-3.3.6.tar.gz -C /opt

四、迁移配置文件

不要直接覆盖整个 etc,只复制你改过的配置

cp /opt/hadoop_backup_*/etc/hadoop/*.xml /opt/hadoop-3.3.6/etc/hadoop/
cp /opt/hadoop_backup_*/etc/hadoop/hadoop-env.sh /opt/hadoop-3.3.6/etc/hadoop/

⚠️ 注意:

  • 大版本升级(如 2.x → 3.x)配置可能有变化
  • 建议对比官方默认配置

五、切换 HADOOP_HOME

编辑环境变量(看你之前在哪配的):

vim /etc/profile.d/hadoop.sh

内容示例:

export HADOOP_HOME=/opt/hadoop-3.3.6
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH

然后:

source /etc/profile.d/hadoop.sh
hadoop version

六、HDFS 升级(关键)

如果是 HDFS 集群,需要先做升级准备:

1. 停止集群

stop-dfs.sh
stop-yarn.sh

2. 执行升级

hdfs namenode -upgrade

然后启动:

start-dfs.sh

3. 确认无误后提交升级

观察一段时间没问题再执行:

hdfs namenode -finalizeUpgrade

七、回滚方案(保命)

如果升级失败:

stop-dfs.sh
hdfs namenode -rollback
start-dfs.sh

八、Debian apt 方式(不推荐生产)

如果你是用 apt 装的(很少见):

apt update
apt install hadoop

但版本通常很旧,不建议。


九、常见坑

  • Java 版本不匹配(Hadoop 3.3+ 需要 Java 8/11)
  • 权限问题(hdfs 用户)
  • YARN 配置不兼容
  • 日志目录路径变化

如果你愿意,可以告诉我:

  • 当前 Hadoop 版本
  • 是单机 / 伪分布 / 集群
  • Debian 版本

我可以给你精确到命令的升级方案。

0 踩