• 全部
  • 经验案例
  • 典型配置
  • 技术公告
  • FAQ
  • 漏洞说明
  • 全部
  • 是
  • 否
  • 全部
  • 是
  • 否
  • 大数据引擎
  • 知了引擎
产品线
搜索
取消
案例类型
发布者
是否解决
是否官方
时间
搜索引擎
匹配模式
高级搜索
问

CAS 7,在系统里查不到onestor

1小时前提问
  • 0关注
  • 0收藏,29浏览
粉丝:0人 关注:0人

问题描述:

 

cas7系统,从模板指克隆机器,克隆三台后,其它的提示http错误,然后在每个节点点存储就一直在转圈,重记fsm_core,后好了,但有一台节点的onestor下看不到内容,但在节点linux用命令可以查看,后来不知道因为什么原因,cas中也看不到存储了,在linux下用df可以看到onestor的容量,但进到目录不能ls查看了,请问这要从哪查起

在cas的管理web中点哪个节点,在cas.log中就会出现如下提示:

 

2026-10-19 13:04:50 [ERROR] [http-nio-8080-exec-6] [com.virtual.plat.server.ServerUtils::logAppException] Application Exception

com.virtual.common.AppException: [90521 - 主机“CVK02”不是容灾存储节点,无法添加存储介质。

2 个回答
粉丝:17人 关注:9人

这个问题是CAS 7中OneStor分布式存储的元数据或挂载状态异常,导致Web界面无法读取存储信息,同时CVK节点本地目录也出现I/O错误。按以下步骤排查:
1. 检查OneStor集群状态
在任一CVK节点执行:
bash
onestor status
onestor health
查看集群是否健康、是否有节点离线或数据副本降级。如果集群本身异常,优先恢复集群。
2. 检查挂载与目录I/O
在问题节点CVK02上:
bash
df -h | grep onestor
mount | grep onestor
ls -la /onestor目录路径
dmesg | tail -50
如果ls卡住或报Input/output error,说明底层存储I/O有问题。检查:
bash
cat /proc/mounts | grep onestor
onestor volume list
确认卷状态是否正常。
3. 检查CVK02与OneStor的通信
bash
ping -c 4 其他存储节点IP
telnet 存储节点IP 端口(通常为24007或自定义)
查看防火墙是否放行存储内网端口。
4. 查看CAS日志定位根因
在CVK02上:
bash
tail -200 /var/log/cas/cas.log | grep -i onestor
tail -200 /var/log/cas/fsm_core.log
重点看是否有AppException 90521相关的堆栈,通常该错误表示主机与存储管理进程通信失败。
5. 重启相关服务
如果集群状态正常但Web仍无法显示,尝试在CVK02上重启CAS存储代理服务:
bash
service cas_storage restart
service fsm_core restart
然后重新登录Web查看。
6. 检查OneStor元数据服务
bash
ps -ef | grep onestor
systemctl status onestor-meta
systemctl status onestor-data
如果元数据服务异常,会导致目录无法ls。
建议优先执行第1、2步,确认是集群故障还是单节点挂载问题。若onestor status显示集群降级或节点离线,需先恢复数据副本;若集群健康但目录I/O错误,可能是本地挂载超时,尝试重新挂载:
bash
umount -l /onestor目录
mount -a
注意:重新挂载前确保没有业务虚拟机在运行。

暂无评论

粉丝:45人 关注:2人

  1. 元数据层面:CVK02 在 CAS 平台数据库里标记「非容灾存储节点」,CVM Web 调用存储接口直接抛出 90521 错误,页面点存储转圈、看不到 onestor 内容;
  2. 文件系统层面:OneStor 的分布式文件系统挂载残留在 OS,df能看到挂载点,但底层 OSD/MDS 集群异常,目录 ls 卡住 / 无内容;

背景:克隆虚拟机 3 台后报 http 错误,重启fsm_core临时恢复,但 CVK02 的平台节点标记异常 + onestor 文件系统内部故障,后续全集群存储页面异常。

一、错误码 90521 含义(日志里的核心报错)

[90521 - 主机“CVK02”不是容灾存储节点,无法添加存储介质。 CAS7 里容灾存储节点标记是平台元数据属性:

  • 只有打上【容灾存储节点】标签的 CVK 主机,CVM 才允许调用 OneStor 存储介质管理接口;
  • CVK02 底层 OS 里 onestor 服务、磁盘都在,但CVM 数据库记录把它取消了容灾存储节点身份;
  • 所以 Web 页面访问该节点存储时,直接拦截请求抛出异常,页面转圈,无法读取 OneStor 信息;

注意:这个标记不是操作系统层面 onestor 服务状态,是 CAS 平台管理面的属性,操作系统 df 依旧可以看到挂载。

修复这个标记(CVM Web 操作)

  1. 登录 CVM,进入【主机】,选中CVK02;
  2. 点右上角【更多操作】→设为容灾存储节点;
  3. 等待任务执行完成,刷新页面,再进入存储菜单验证。

风险提醒:不要反复点添加磁盘,在节点标记未修复时添加介质会持续报 90521,加重数据库脏数据。

二、操作系统现象:df 能看到 onestor 挂载,但 ls 目录卡住 / 看不到文件

原理:OneStor 是分布式存储,内核挂载成功(df 识别挂载项),但 MDS/OSD 进程异常、存储集群脑裂、副本异常,访问目录元数据超时,ls卡住。

这个是存储业务层故障,和上面 90521 平台元数据故障是两件事,但是同时触发。

第一步:CVK02 后台检查 OneStor 集群状态

SSH 登录 CVK02,执行:

#查看onstor集群整体状态 onestor-cli status #查看MDS状态 onestor-cli mds stat #查看OSD状态,看是否有down/out的OSD onestor-cli osd tree #检查存储集群健康状态 onestor-cli health

重点看:HEALTH_OK / HEALTH_WARN / HEALTH_ERR,出现 WARN/ERR 代表存储集群异常。

第二步:ls 卡住的临时验证

#进入onestor挂载目录,超时就是MDS异常 cd /opt/onestor/xxx ls
  • 如果 ls 卡死:MDS 进程异常,元数据无法读取;
  • 可以看 onestor 日志:/var/log/onestor/,查看 mds、osd 日志。

第三步:检查 OneStor 服务

systemctl status onestor-mds systemctl status onestor-osd

若进程异常,不要盲目重启,先确认集群健康状态,避免二次损坏数据。

三、故障溯源(为什么克隆虚机后触发)

  1. 批量从模板克隆 3 台虚拟机,并发 IO 打满 OneStor,MDS 压力大,触发fsm_core异常;
  2. 重启fsm_core后平台元数据发生异常,CVK02 的容灾存储节点标记丢失,报 90521;
  3. 并发写入造成 OneStor 分布式存储副本不一致 / OSD 离线,出现:df 挂载存在,但 ls 目录无法读取。

四、排错执行顺序(严格顺序,防止数据损坏)

⚠️ 业务风险提示:先备份虚拟机,不要随意重启 onestor、不要强制 umount

  1. 【优先】CVM 页面,将 CVK02设为容灾存储节点,消除 90521 报错,修复 Web 页面访问存储转圈问题;
  2. 登录 CVK02 后台,onestor-cli health查看集群健康,记录告警;
  3. 检查 onestor MDS/OSD 进程状态,看是否有 OSD down;
  4. 若集群 HEALTH_ERR:先迁移业务虚拟机,再处理存储副本 / 脑裂;
  5. 验证:修复标记 + 存储集群恢复后,Web 查看 onestor 信息、后台 ls 目录,确认正常;
  6. 检查fsm_core服务,设置开机自启,避免再次异常。

五、常见坑

  1. 只在操作系统重启 onestor 服务,不去 CVM 平台修复「容灾存储节点」标记,Web 永远报 90521;
  2. 集群 HEALTH_ERR 状态下直接强制重启 MDS,可能导致元数据损坏;
  3. 克隆虚拟机并发 IO 压力,CAS7+OneStor 容易触发 MDS 过载,批量克隆建议分批,不要一次性多台。


暂无评论

编辑答案

你正在编辑答案

如果你要对问题或其他回答进行点评或询问,请使用评论功能。

✖

分享扩散:

➤

提出建议

✖

    +
✖

亲~登录后才可以操作哦!

确定
✖

亲~检测到您登陆的账号未在http://hclhub.h3c.com进行注册

注册后可访问此模块

跳转hclhub
✖

你的邮箱还未认证,请认证邮箱或绑定手机后进行当前操作

✖

举报

×

侵犯我的权益 >
对根叔社区有害的内容 >
辱骂、歧视、挑衅等(不友善)

侵犯我的权益

×

泄露了我的隐私 >
侵犯了我企业的权益 >
抄袭了我的内容 >
诽谤我 >
辱骂、歧视、挑衅等(不友善)
骚扰我

泄露了我的隐私

×

您好,当您发现根叔知了上有泄漏您隐私的内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到pub.zhiliao@h3c.com 邮箱,我们会尽快处理。
  • 1. 您认为哪些内容泄露了您的隐私?(请在邮件中列出您举报的内容、链接地址,并给出简短的说明)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)

侵犯了我企业的权益

×

您好,当您发现根叔知了上有关于您企业的造谣与诽谤、商业侵权等内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到 pub.zhiliao@h3c.com 邮箱,我们会在审核后尽快给您答复。
  • 1. 您举报的内容是什么?(请在邮件中列出您举报的内容和链接地址)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)
  • 3. 是哪家企业?(营业执照,单位登记证明等证件)
  • 4. 您与该企业的关系是?(您是企业法人或被授权人,需提供企业委托授权书)
我们认为知名企业应该坦然接受公众讨论,对于答案中不准确的部分,我们欢迎您以正式或非正式身份在根叔知了上进行澄清。

抄袭了我的内容

×

原文链接或出处

诽谤我

×

您好,当您发现根叔知了上有诽谤您的内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到pub.zhiliao@h3c.com 邮箱,我们会尽快处理。
  • 1. 您举报的内容以及侵犯了您什么权益?(请在邮件中列出您举报的内容、链接地址,并给出简短的说明)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)
我们认为知名企业应该坦然接受公众讨论,对于答案中不准确的部分,我们欢迎您以正式或非正式身份在根叔知了上进行澄清。

对根叔社区有害的内容

×

垃圾广告信息
色情、暴力、血腥等违反法律法规的内容
政治敏感
不规范转载 >
辱骂、歧视、挑衅等(不友善)
骚扰我
诱导投票

不规范转载

×

举报说明