在centos上配置hdfs存储策略涉及多个方面,包括设置存储类型、定义存储策略以及配置具体参数。以下是一些常见的centos hdfs存储策略和相关配置步骤:
HDFS存储策略类型
- DISK: 普通磁盘(机械硬盘)
- SSD: 固态硬盘
- RAM_DISK: 内存磁盘,类似虚拟内存盘
- ARCHIVE: 用于高密度存储,通常用于归档数据
存储策略
- HOT: 用于存储和计算,所有副本都存储在DISK中。
- WARM: 部分用于计算,部分存储在存档中。
- COLD: 用于计算有限的存储,所有副本存储在ARCHIVE中。
- ALL_SSD: 所有副本存储在SSD中。
- ONE_SSD: 一个副本存储在SSD中,其余存储在DISK中。
- LAZY_PERSIST: 副本首先写入RAM_DISK,然后延迟保存到DISK。
配置步骤
- 启用存储策略功能:
在 hdfs-site.xml 中配置 dfs.storage.policy.enabled 为 true。
dfs.storage.policy.enabled true
- 配置DataNode存储位置:
在每个DataNode的 dfs.datanode.data.dir 中,使用逗号分隔的存储位置标记其存储类型。
dfs.datanode.data.dir [DISK]file:///ram_disk,[SSD]file:///ssd1/dn,[DISK]file:///disk1/dn,[ARCHIVE]file:///archive1/dn
- 设置存储策略:
使用 hdfs storagepolicies -setStoragePolicy 命令为文件或目录设置存储策略。
hdfs storagepolicies -setStoragePolicy -path /path/to/file -policy PolicyName
- 查看存储策略:
使用 hdfs storagepolicies -listPolicies 命令列出所有存储策略。
支持静态模板,支持动态模板标签,支持图片.SWF.FLV系列广告标签.支持百万级海量数据,绑定内置URL伪装策略(URL后缀名随你怎么写),绑定内置系统升级策略(暂不开放升级),绑定内置模板付费升级策略(暂不开放更新)。支持标签容错处理,绑定内置攻击防御策略,绑定内置服务器优化策略(系统内存释放的干干净净)。支持离线运行,支持次目录,兼容U主机。支持会员功能,支持文章版块权限阅读,支持会员自主注册
hdfs storagepolicies -listPolicies
- 删除存储策略:
使用 hdfs storagepolicies -unsetStoragePolicy 命令对文件或目录取消设置存储策略。
hdfs storagepolicies -unsetStoragePolicy -path /path/to/file
通过上述步骤和策略,可以有效地在CentOS上配置和管理HDFS存储策略,以满足不同的数据存储需求。









