• 全部
  • 经验案例
  • 典型配置
  • 技术公告
  • FAQ
  • 漏洞说明
  • 全部
  • 全部
  • 大数据引擎
  • 知了引擎
产品线
搜索
取消
案例类型
发布者
是否解决
是否官方
时间
搜索引擎
匹配模式
高级搜索

CAS无法访问共享存储

2天前提问
  • 0关注
  • 0收藏,62浏览
粉丝:0人 关注:0人

问题描述:

因CVK主机突发死机重启之后无法访问挂载的共享存储文件,删除了存储池重新添加也不行,存储出处于不活动的状态,有以下的报错

5 个回答
粉丝:6人 关注:7人

建议排查下存储链路是否正常,不行就联系400看看

暂无评论

粉丝:0人 关注:0人

版本太老了,5.0的版本,现在官方已经不支持了。

暂无评论

粉丝:24人 关注:2人

报错原文:
internal error : Ocfs2 configuration error, cluster.conf do not match all remote host. please add the storage again or make sure storage is only managed by this CVM.
释义:OCFS2 集群配置异常,集群配置文件 cluster.conf 和集群所有节点信息不匹配;该共享存储被两套 CAS 集群同时接管过,产生集群信息冲突。
核心故障成因
共享存储是 OCFS2 分布式文件系统,依靠磁盘内的 cluster.conf 记录集群所有 CVK 节点 UUID、主机信息;
某台 CVK 死机重启、异常离线后,集群仲裁 / 节点信息错乱;或是这块共享存储曾经挂载过另一套 CAS 集群,磁盘里残留了旧集群的节点配置;
现在这套 CAS 集群读取磁盘上的 cluster.conf,发现里面记录的节点列表和当前本集群节点不一致,OCFS2 拒绝挂载,存储池变为「不活动」,重建存储池也无法修复(磁盘上旧集群配置并未清除)。
补充:OCFS2 特性:一块 OCFS2 存储盘只允许唯一一套 CAS 集群管理,多集群混用必然集群配置冲突。
分步修复方案(由浅至深,业务优先)
前置约束
若存储内还有正在运行的虚拟机、重要数据:严禁格式化磁盘,优先方案 1/2 修复集群配置;
若存储数据已备份无用,可以直接格式化重建存储池。
方案 1:清理磁盘残留的旧 OCFS 集群标识(保留数据,推荐)
步骤 1:将整个存储池置为离线
CAS 平台删除异常不活动的存储池(只是平台解绑,不会清空磁盘数据)。
步骤 2:登录每一台 CVK 后台,找到共享存储对应的磁盘设备名
在 CAS 任一节点执行查看磁盘:
bash
fdisk -l
lsblk
确认这块共享存储对应的磁盘,例如 /dev/sdb、/dev/mapper/xxx。
2. 查看磁盘 OCFS 集群标签:
bash
ocfs2-tool dump-label /dev/sdX
可以看到磁盘内记录的旧集群名称、节点列表,和当前 CAS 集群名称不一致。
步骤 3:清除磁盘上旧集群的配置信息(不删除虚拟机数据)
bash
# 清空OCFS2集群配置签名,重置集群归属
tunefs.ocfs2 --cluster-name=当前CAS集群名称 /dev/sdX
# 清除旧节点UUID残留
ocfs2-tool clear-cluster-info /dev/sdX
当前CAS集群名称 在 CAS 平台【集群管理】页面查看集群全名。
步骤 4:重新在 CAS 界面添加存储池
添加完成后 OCFS 会以当前集群信息重新生成合法 cluster.conf,存储池恢复活动状态。
方案 2:集群节点重建 OCFS 集群配置(CVK 重启导致集群配置错乱场景)
将所有 CVK 主机全部关机;
仅启动主 CVK 节点,单独挂载共享存储磁盘:
bash
mount -t ocfs2 /dev/sdX /mnt/tmp
删除磁盘内旧的集群配置文件:
bash
rm -rf /mnt/tmp/.cluster
umount /mnt/tmp
逐个开机其余 CVK 节点,全部节点上线后,在 CAS 页面重新导入存储池。
方案 3:排查是否存在双集群抢占存储(高频踩坑点)
确认这块共享存储(SAN / 分布式存储 / LUN)没有同时映射给第二套 CAS 集群;
存储交换机 / 存储侧(如 MSA、3PAR)检查 LUN 映射列表,只保留当前故障这套 CVK 主机可见,删除其他集群的主机映射权限;
只要两套 CAS 同时挂载同一块 OCFS 存储,必然持续报集群不匹配错误。
方案 4:数据已备份,彻底格式化重建(最快解决)
如果虚拟机数据已经迁移备份,直接格式化磁盘消除所有 OCFS 旧配置:
bash
# 谨慎执行,会清空磁盘所有数据
mkfs.ocfs2 --cluster-name=你的集群名 /dev/sdX
格式化后回到 CAS 页面新建存储池即可正常激活。
补充容易忽略的附加诱因
CVK 主机时间不同步
集群多台服务器时间相差过大,OCFS 集群判定脑裂,cluster.conf 校验失败。
修复:所有 CVK 同步同一个 NTP 时间源。
CVK 之间内网不通 / 心跳断流
CVK 互相 ping 不通、集群心跳网段中断,OCFS 集群分裂,配置错乱。
检查 CVK 集群互联网卡、防火墙、iptables 是否拦截 7777/3060 端口(OCFS2 通信端口)。
死机的 CVK 非正常下盘,OCFS 存在残留锁
执行命令清理磁盘文件锁:
bash
ocfs2-tool recover /dev/sdX
事后预防
OCFS 共享存储 LUN 永远只映射给一套 CAS 集群;
CAS 集群配置 NTP 时间同步,保证所有 CVK 时间严格一致;
CVK 故障宕机后不要反复强制重启,先离线存储再重启主机,避免 OCFS 集群脑裂。

暂无评论

粉丝:27人 关注:1人


暂无评论

Reset_ 四段
粉丝:0人 关注:0人

ocfs2的配置文件和同集群的其他主机不一致,可以试试把配置文件备份一下,然后去其他主机拷贝一个配置文件过来,然后再看看能不能启动存储池

暂无评论

编辑答案

你正在编辑答案

如果你要对问题或其他回答进行点评或询问,请使用评论功能。

分享扩散:

提出建议

    +

亲~登录后才可以操作哦!

确定

亲~检测到您登陆的账号未在http://hclhub.h3c.com进行注册

注册后可访问此模块

跳转hclhub

你的邮箱还未认证,请认证邮箱或绑定手机后进行当前操作

举报

×

侵犯我的权益 >
对根叔社区有害的内容 >
辱骂、歧视、挑衅等(不友善)

侵犯我的权益

×

泄露了我的隐私 >
侵犯了我企业的权益 >
抄袭了我的内容 >
诽谤我 >
辱骂、歧视、挑衅等(不友善)
骚扰我

泄露了我的隐私

×

您好,当您发现根叔知了上有泄漏您隐私的内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到pub.zhiliao@h3c.com 邮箱,我们会尽快处理。
  • 1. 您认为哪些内容泄露了您的隐私?(请在邮件中列出您举报的内容、链接地址,并给出简短的说明)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)

侵犯了我企业的权益

×

您好,当您发现根叔知了上有关于您企业的造谣与诽谤、商业侵权等内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到 pub.zhiliao@h3c.com 邮箱,我们会在审核后尽快给您答复。
  • 1. 您举报的内容是什么?(请在邮件中列出您举报的内容和链接地址)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)
  • 3. 是哪家企业?(营业执照,单位登记证明等证件)
  • 4. 您与该企业的关系是?(您是企业法人或被授权人,需提供企业委托授权书)
我们认为知名企业应该坦然接受公众讨论,对于答案中不准确的部分,我们欢迎您以正式或非正式身份在根叔知了上进行澄清。

抄袭了我的内容

×

原文链接或出处

诽谤我

×

您好,当您发现根叔知了上有诽谤您的内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到pub.zhiliao@h3c.com 邮箱,我们会尽快处理。
  • 1. 您举报的内容以及侵犯了您什么权益?(请在邮件中列出您举报的内容、链接地址,并给出简短的说明)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)
我们认为知名企业应该坦然接受公众讨论,对于答案中不准确的部分,我们欢迎您以正式或非正式身份在根叔知了上进行澄清。

对根叔社区有害的内容

×

垃圾广告信息
色情、暴力、血腥等违反法律法规的内容
政治敏感
不规范转载 >
辱骂、歧视、挑衅等(不友善)
骚扰我
诱导投票

不规范转载

×

举报说明