UIS超融合启动提示OCFS2配置错误。

CAS Ocfs2启动失败排查经验案例

一、   版本信息：

CAS版本：E0206

二、   问题描述：

CVK共享文件系统启动失败，前台界面报错“internal error Ocfs2 configuration error，please check the network or add the storage again.”。

报错截图如下：

三、   过程分析：

此问题根据错误信息分为两大排查方向：ocfs2集群网络通信、ocfs2集群配置文件，下面先对以上两个概念做一个简单解释：

Ocfs2集群网络通信，CAS ocfs2共享文件系统主机节点缺省通过管理网IP，且使用TCP 7100端口进行单播报文通信，在没有文件写入共享文件系统时，节点间会每隔30s发送keeplive报文。

Ocfs2集群配置文件，CAS ocfs2集群配置文件cluster.conf保存于主机/etc/ocfs2路径下，该集群配置文件记录了集群名称、集群节点数、节点信息等，所有ocfs2集群节点的cluster.conf文件内容必须相同才能确保所有节点的共享文件系统正常工作。

1. ocfs2集群网络通信问题排查方法

1) 通过ping命令，从问题CVK主机ping ocfs2集群内其他节点管理网IP地址检查基本网络通信是否正常，若不正常排查互连网络、CVK vswitch相关配置等。

2) 若ping通信正常，依旧无法启动共享文件系统，则需要通过后台执行telnet命令检查7100端口是否可达。
   7100端口可达输出信息举例：

root@HZ-CAS01-CVK01:~# telnet 10.88.8.40 7100

Trying 10.88.8.40...

Connected to 10.88.8.40.

Escape character is '^]'.

Connection closed by foreign host.

   7100端口不可达输出信息举例：

root@ HZ-CAS01-CVK01:~# telnet 10.88.8.40 7100

Trying 10.88.8.40...

telnet: Unable to connect to remote host: Connection refused

3) 若telnet通信正常，依旧无法启动共享文件系统，则需要通过后台执行tcpdump命令抓取ocfs2集群通信报文进行分析，抓包命令如下：

root@HZ-CAS01-CVK01:~# tcpdump -i vswitch0 -n port 7100 -w CVK01.cap

tcpdump: listening on vswitch0, link-type EN10MB (Ethernet), capture size 65535 bytes

^C4 packets captured

4 packets received by filter

0 packets dropped by kernel

执行tcpdump命令后会在命令执行当前目录生成抓包文件CVK01.cap文件，按Ctrl+c组合键可以结束抓包。

注意：执行抓包命令需要确认执行命令路径有足够的空间存放抓包文件，需要考虑空间的占用是否会影响其他功能；抓包拷贝后需要及时删除抓包文件。

2. ocfs2集群配置文件检查

1) 检查共享文件系统集群各主机/etc/ocfs2路径下是否存在cluster.conf配置文件。

2) 对比检查cluster.conf配置文件内容是否一致。

四、   解决方法：

网络通信异常，需要排查解决网络通信问题，此类问题解决方法不在本案例讨论范围内，本案例主要针对ocfs2集群配置文件的处理解决方法。

1)  主机节点的cluster.conf文件丢失。

在CVM前台界面对该CVK主机进行共享存储池删除操作，然后重新添加共享存储池（此步骤会影响到在该主机下使用共享存储池的虚拟机，请操作前迁移走）。

此问题常发生于CVK已经挂载共享存储池的主机离线后，在前台CVM界面进行删除该主机的操作时，可能会导致另外某些主机的共享文件系统集群配置文件cluster.conf被误删除。该问题已经在CAS E0209版本中进行了修复。

2)  主机节点的cluster.conf文件内容不一致。

请收集反馈CAS日志信息联系杭州华三通信技术有限公司服务热线：4008100504进行处理。