type
status
date
slug
summary
tags
category
icon
password
安装指南
基于cephadm安装
安装cephadm
创建ceph集群
准备OSD硬盘
主机上的每块非系统硬盘都可作为一个OSD。但是能安装OSD的硬盘必须满足以下条件:
- 硬盘设备不能有分区
- 硬盘设备不能被其他LVM占用或声明
- 硬盘设备不能已挂载
- 硬盘不能包含文件系统
- 硬盘设备不能是包含Ceph Bluestore存储引擎的OSD
- 硬盘设备不能小于5GB
安装OSD
移除OSD
添加/移除主机
集群重新扫描
常规使用
存储池
池冗余对比
副本冗余和纠删码(Erasure Coding)冗余是两种常见的数据冗余技术,它们在数据保护和存储效率方面有不同的优点和缺点。以下是它们的一些特点:
副本冗余的优点:
- 简单可靠:副本冗余是最简单、最直观的数据冗余方式。数据被完全复制到多个存储设备上,因此在任何一个副本设备出现故障时,仍然可以通过其他副本进行数据恢复。
- 高读取性能:由于数据副本分布在不同的设备上,副本冗余可以提供较高的读取性能。可以并行读取多个副本,从而提高读取速度。
副本冗余的缺点:
- 存储效率低:副本冗余要求存储空间的消耗是数据的 N 倍,其中 N 是副本的数量。这导致了存储效率低下,尤其在存储大规模数据时。
- 写入性能低:由于数据需要被复制到多个设备上,因此副本冗余在写入性能方面相对较低。写入操作需要同时写入多个副本,导致写入延迟和开销增加。
纠删码冗余的优点:
- 存储效率高:纠删码冗余可以通过对数据进行编码和分片,以较低的冗余开销提供高存储效率。相对于副本冗余,纠删码冗余能够在存储大规模数据时节省大量的存储空间。
- 冗余容忍度高:纠删码冗余可以在任意指定的冗余片数损坏或丢失的情况下,通过计算和恢复算法重建原始数据。相对于副本冗余,纠删码冗余具有更高的冗余容忍度。
纠删码冗余的缺点:
- 写入性能低:纠删码冗余需要进行计算和恢复操作,因此写入性能相对较低,尤其在数据较大或冗余片数量较多时。
- 读取性能相对较低:由于需要计算和恢复操作,读取性能相对较低,尤其在冗余片数量较多或数据片被损坏时。
选择副本冗余或纠删码冗余应根据具体的需求和应用场景进行权衡。副本冗余适合对数据保护和读取性能有较
EC模式下较小冗余和较高写入配置
尽管最佳的 EC 配置取决于具体的工作负载和需求,以下是一些经验值,可以作为参考来实现较小冗余和较高写入性能的 EC 配置:
- EC 编码参数:
- 建议选择较小的冗余系数(k+m),其中 k 表示数据片数量,m 表示冗余片数量。较小的冗余系数可以减少冗余开销。常见的配置包括 k=2、m=1 或 k=4、m=2。
- 对于较大的数据块,可以选择较小的编码块大小(chunk size),以增加写入并行度。常见的编码块大小为 4MB 或 8MB。
- OSD 数量和分布:
- 建议配置足够数量的 OSD,并在整个集群中均匀分布。具体 OSD 数量取决于集群规模和性能需求,一般建议起始值为几十个 OSD。
- 可以使用 CRUSH 算法来控制数据在 OSD 上的分布,确保负载均衡,避免热点写入。
- 网络带宽和延迟:
- 确保集群中的网络基础设施具有足够的带宽和较低的延迟,以支持高吞吐量的写入操作。
- 可以考虑使用高速网络连接,如 10GbE 或更高速率的网络。
- 磁盘和存储设备性能:
- 选择高性能的磁盘和存储设备,如 SSD 或 NVMe,以提升写入性能。这些设备具有更高的吞吐量和较低的延迟。
需要注意的是,以上经验值仅供参考,实际最佳配置仍需根据具体情况进行测试和调整。在实际部署前,建议进行性能测试和评估,以找到最适合你的工作负载和环境的 EC 配置。
RBD块存储
创建RBD用户
ceph auth get-or-create的命令行输出的内容将是指定用户的keyring,同时keyring被写入/etc/ceph/ceph.client.{ID}.keyring文件中。
文件存储
对象存储
存储挂载
挂载cephfs
挂载RGW
挂载RBD
卸载
- 作者:leiax00
- 链接:https://blog.leiax00.cn/article/ceph
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议,转载请注明出处。