Hadoop数据恢复在Linux中如何操作

Linux下Hadoop数据恢复实操指南

一 恢复路径总览

• 优先顺序建议：先查回收站 → 再用快照 → 不行再做块修复/复制 → 仍有缺口用备份/跨集群拉取 → 最后才考虑编辑日志回滚（高风险）。
• 关键机制与工具：HDFS回收站（Trash）、快照（Snapshot）、副本自动重建、健康检查与修复（hdfs fsck）、跨集群复制（DistCp）、NameNode元数据备份/恢复。

二 常见场景与命令

• 误删文件或目录（回收站）

  • 快速找回：

    # 查看回收站内容（注意用户目录）
    hdfs dfs -ls /user/<your_user>/.Trash/Current
    # 恢复到原路径
    hdfs dfs -mv /user/<your_user>/.Trash/Current/<path>/file /user/<your_user>/<path>/
    

  • 前提：已开启回收站。服务端或客户端配置项fs.trash.interval（单位：分钟）为0表示关闭；常用值为1440（保留1天）。若已过期，需转用快照或备份恢复。

• 快照恢复（Snapshot）

  • 事前准备：对重要目录启用快照

    hdfs dfsadmin -allowSnapshot /path/to/dir
    hdfs dfs -createSnapshot /path/to/dir snap_20251220
    

  • 误删后恢复（文件/目录）

    # 列出快照
    hdfs dfs -ls /path/to/dir/.snapshot
    # 文件级恢复
    hdfs dfs -cp /path/to/dir/.snapshot/snap_20251220/file /path/to/dir/
    # 目录级恢复（先备份现目录，再从快照拷回）
    hdfs dfs -cp -r /path/to/dir/.snapshot/snap_20251220 /path/to/dir_bak
    # 如需整目录回滚，可按需替换或重命名
    

  • 说明：快照为只读时间点副本，适合“误删/误改”的快速回滚。

• 副本缺失或块损坏（块修复）

  • 健康检查与定位

    hdfs fsck /path/to/file_or_dir -files -blocks -locations
    

  • 触发复制/修复
    • 若文件处于under-replicated或副本不足，可先检查并修复复制因子：

      hdfs dfs -setrep -w 3 /path/to/file_or_dir   # 将副本数设为3并等待完成
      

    • 若块因租约/异常导致无法读取，可尝试释放租约后由DataNode重新复制：

      hdfs debug recoverLease -path /path/to/file -retries 10
      

  • 说明：HDFS默认副本数为3，节点故障时会自动在其他节点重建副本；必要时结合监控告警及时处理异常块。

• 跨集群/跨环境恢复（备份与拉取）

  • 使用DistCp从备份集群或历史备份路径拉回数据：

    hadoop distcp -m 50 hdfs://backup-nn:8020/backup/path /path/to/restore
    

  • 适合定期全量/增量迁移与灾难恢复演练。

三 NameNode与Hive元数据恢复

• NameNode元数据（fsimage/edits）

  • 备份（在安全模式下执行）

    sudo -u hdfs hdfs dfsadmin -safemode enter
    sudo -u hdfs hdfs dfsadmin -saveNamespace
    cp -r /dfs/nn /backup/nn_$(date +%F)
    sudo -u hdfs hdfs dfsadmin -safemode leave
    

  • 恢复（示例）

    # 停止NameNode，备份现有元数据目录
    mv /dfs/nn/current /dfs/nn/current.bak
    # 拷回备份
    cp -r /backup/nn_YYYY-MM-DD/current /dfs/nn/
    chown -R hdfs:hdfs /dfs/nn/current
    # 启动NameNode
    

  • 要点：确保恢复前后权限属主为hdfs，并在恢复前进入安全模式、保存过最新命名空间。

• Hive Metastore（关系型数据库，如MariaDB）

  • 备份

    mysqldump -uroot -p --databases metastore > metastore_$(date +%F).sql
    

  • 恢复

    mysql -uroot -p < metastore_$(date +%F).sql
    

  • 说明：Hive表数据在HDFS，表结构/分区等元数据在Metastore；两者需一致。

四 无法回收站或快照时的高风险方案

• 编辑日志回滚（谨慎）
  • 思路：利用已备份的fsimage与edits，在测试环境回放至删除前的时间点，导出所需数据后导回生产。
  • 风险：操作复杂、对集群一致性影响大，务必在非生产环境演练并充分评估影响。

五 预防与运维建议

• 开启并合理设置回收站：如fs.trash.interval=1440（保留1天），必要时配合客户端策略统一。
• 为关键目录启用快照并制定滚动保留策略（如按日/周），定期校验可恢复性。
• 保持合理副本数（默认3），监控MissingBlocks/UnderReplicatedBlocks，及时处理异常。
• 定期备份NameNode元数据与Hive Metastore，并进行定期恢复演练与配置备份（/etc/hadoop/conf）。
• 建立跨集群/对象存储的备份与DistCp拉取流程，满足灾难恢复与迁移需求。