GlusterFS更换硬盘

一、先确认现状

• 双节点 GlusterFS，Replicate（副本）模式
• 状态：1 个正常、1 个异常 → 副本丢失，集群状态 “不佳”
• 说明：坏盘节点的 Brick 已经离线，集群只剩 1 份数据副本，此时不要写数据，避免丢数据。

二、核心前提

• 集群模式：Replicate 2（2 副本），坏一块盘，数据还有一份在好节点上。
• 目标：先修复集群副本，再更换坏盘，保证数据不丢。

三、完整更换流程（按顺序执行）

步骤 1：确认 Brick 状态（命令行）

• 一个 Brick 是 Up（正常节点）
• 一个 Brick 是 Down（坏盘节点）

步骤 2：移除故障 Brick（关键）

1. 先在 Web 管理界面或命令行，把卷设为只读（可选，避免写入）：
   bash

   运行

   gluster volume set cluster-vms-learning read-only on
2. 从卷中移除故障 Brick（示例，替换为你的路径）：
   bash

   运行

   # 格式：gluster volume remove-brick <卷名> <故障节点:/brick路径> force gluster volume remove-brick cluster-vms-learning 172.96.10.XX:/vms/learning_brick force
   • force 是关键，因为 Brick 已经离线。
   • 执行后，卷会变成 Replicate 1（单副本），数据仅保留在正常节点上。

步骤 3：处理坏盘节点（关机 / 更换硬盘）

1. 确认故障节点 IP，关机，更换硬盘。
2. 新硬盘分区、格式化，创建 Brick 目录（和原来路径一致）：
   bash

   运行

   # 示例： mkfs.xfs /dev/sdX mkdir -p /vms/learning_brick mount /dev/sdX /vms/learning_brick # 写入/etc/fstab，开机自动挂载 echo "/dev/sdX /vms/learning_brick xfs defaults 0 0" >> /etc/fstab
3. 开机，确认目录权限、挂载正常。

步骤 4：重新添加 Brick 到卷

• 执行后，GlusterFS 会自动开始 数据同步（Rebalance），把好节点的数据复制到新 Brick。

步骤 5：监控同步进度

步骤 6：恢复读写权限（如果之前开了只读）

四、关键避坑点

1. 绝对不要先格式化坏盘再操作：先从卷里移除 Brick，再换盘，否则集群会彻底找不到副本。
2. 同步期间不要断电 / 重启节点：数据正在复制，中断会导致数据不一致。
3. Web 管理界面操作：
   • 你可以直接在 “节点管理” 里，先把故障节点的 Brick 移除，再添加新节点 / 新 Brick，和命令行效果一样。
   • 注意：添加时要选 Replica 2 模式，否则会变成单副本。

五、如果同步失败怎么办？

1. 检查新 Brick 路径是否存在、权限是否正确（glusterfsd 用户要有读写权限）。
2. 检查节点间网络是否互通（GlusterFS 端口：24007/24008/49152+）。
3. 检查新硬盘是否挂载正常，无 IO 错误：
   bash

   运行

   dmesg | grep -i error df -h /vms/learning_brick

六、一句话总结流程

1. 移除故障 Brick → 2. 更换硬盘、重建 Brick 目录 → 3. 添加 Brick 回卷 → 4. 等待同步完成 → 5. 恢复业务。