HDFS在CentOS上的存储策略如何选

在CentOS上配置HDFS存储策略涉及多个方面，包括设置存储类型、定义存储策略以及配置具体参数。以下是一些基本的步骤和配置示例：

存储类型

• DISK：普通磁盘（机械硬盘）
• SSD：固态硬盘
• RAM_DISK：内存磁盘，类似虚拟内存盘
• ARCHIVE：用于高密度存储，通常用于归档数据

存储策略

• Hot：用于存储和计算，受欢迎且仍用于处理的数据将保留在此策略中。当数据块处于hot状态时，所有复制副本都存储在DISK中。
• Warm：部分用于热存储，部分用于冷存储。当块是warm时，一部分副本存储到DISK，其余副本存储到ARCHIVE。
• Cold：用于有限计算的存储。不再使用的数据或者需要归档的数据将从hot存储移动到cold存储。当数据处于cold状态时，所有副本将会存储到ARCHIVE。
• All_SSD：存储所有副本到SSD。
• One_SSD：用于存储一个副本到SSD，其他副本存储到DISK。
• Lazy_Persist：数据首先写入RAM_DISK，然后延迟保存到磁盘。

配置步骤

1. 启用存储策略功能：

   在 hdfs-site.xml 文件中，将以下配置添加或修改为：

   <property>
       <name>dfs.storage.policy.enabled</name>
       <value>true</value>
   </property>
   

2. 配置DataNode存储位置：

   在每个DataNode的 dfs.datanode.data.dir 中，使用逗号分隔的存储位置标记其存储类型。例如：

   <property>
       <name>dfs.datanode.data.dir</name>
       <value>[DISK]file:///grid/dn/disk0,[ARCHIVE]file:///grid/dn/archive0,[RAM_DISK]/mnt/dn-tmpfs/</value>
   </property>
   

3. 设置存储策略：

   使用以下命令为文件或目录设置存储策略：

   hdfs storage policies -setStoragePolicy -path /path/to/file -policy PolicyName
   

4. 应用存储策略：

   设置完配置后，需要重启HDFS服务以使配置生效。可以使用以下命令来重启HDFS：

   $ hadoop-daemon.sh start datanode
   

5. 验证存储策略：

   可以使用以下命令来验证存储策略是否已经应用到指定的路径上：

   $ hdfs fsck /hdfs-test/data_phase/ram -files -blocks -locations
   

通过上述步骤和策略，可以灵活地管理HDFS中的数据存储，满足不同应用场景的需求。