• 全部
  • 经验案例
  • 典型配置
  • 技术公告
  • FAQ
  • 漏洞说明
  • 全部
  • 全部
  • 大数据引擎
  • 知了引擎
产品线
搜索
取消
案例类型
发布者
是否解决
是否官方
时间
搜索引擎
匹配模式
高级搜索

AD-CAMPUS 分析器pod itoa-health-analysis不断重启

1小时前提问
  • 0关注
  • 0收藏,37浏览
粉丝:0人 关注:0人

问题描述:

AD-CAMPUS 分析器pod itoa-health-analysis不断重启,是什么原因,怎么排查恢复

4 个回答
粉丝:4人 关注:0人

联系400,报故障

......

来过就好 发表时间:1小时前 更多>>

......

来过就好 发表时间:1小时前
粉丝:28人 关注:2人

AD‑Campus SeerAnalyzer 分析器 itoa‑health‑analysis Pod 反复重启

itoa‑health‑analysis 是 SeerAnalyzer 分析器组件,负责设备健康指标计算、告警生成;反复重启一般为:OOM 内存溢出、依赖服务(kafka/elasticsearch/itoa‑db)连接失败、持久卷异常、探针误杀、版本 BUGKubernetes。
登录统一数字底盘 Oasis 节点执行 kubectl,命名空间一般为 itoa

第一步:定位重启根本原因(必做)

bash
#查看pod事件,看退出原因:OOMKilled / Liveness probe failed / ExitCode kubectl describe pod itoa‑health‑analysis‑xxx -n itoa #重点!查看上一次崩溃的日志(--previous,没有这条看不到崩溃栈) kubectl logs itoa‑health‑analysis‑xxx -n itoa --previous #查看当前实时日志 kubectl logs -f itoa‑health‑analysis‑xxx -n itoa #查看pod资源实际消耗 kubectl top pod itoa‑health‑analysis‑xxx -n itoa

常见现象解读

  1. 事件看到 OOMKilled ExitCode:137:内存超限被内核杀死,最常见。分析器指标量大,内存限制不足,采集设备多容易触发。
  2. Liveness probe failed:健康检查超时,业务没启动完成就被 kubelet 杀掉。
  3. 日志大量connect refused / timeout:连不上 kafka、elasticsearch、itoa‑db,依赖 pod 异常。
  4. 日志报文件读写失败:PVC 持久卷挂载异常、磁盘满。

高频根因

  1. 采集设备数量多,指标数据量大,pod 内存 limit 配置偏小(现场最高概率)
    itoa‑health‑analysis做健康计算,设备多、指标多,内存会明显上涨,超出 yaml 里 limit,直接 OOMkill,循环重启。
  2. 依赖组件异常:itoa‑db、kafka、elasticsearch pod 异常未就绪,本 pod 启动连接失败直接退出。
  3. 持久存储 PVC 异常:pv/pvc 挂载失败,无法读写本地缓存文件。
  4. 版本已知缺陷:特定 AD‑Campus 版本itoa‑health‑analysis存在内存泄漏 BUG。
  5. 磁盘满:分析器节点磁盘 100%,写日志 / 指标文件失败。

排障操作步骤

1)检查整个 itoa 命名空间其他 pod 状态

bash
kubectl get pods -n itoa
确认 itoa‑db、kafka、elasticsearch、itoa‑collector状态 Running,无 CrashLoopBackOff。只要依赖组件异常,health‑analysis 就会反复重启。

2)检查磁盘空间

bash
df -h
如果磁盘使用率 100%,清理日志,否则容器写文件直接崩溃。

3)临时恢复(业务紧急)

删除 pod,deployment 控制器会自动重建 pod:
bash
kubectl delete pod itoa‑health‑analysis‑xxxx -n itoa
如果删除后依旧反复重启,需要定位根因,单纯删除 pod 治标不治本。

4)OOM 内存溢出处理(最常见场景)

  1. 查看当前 deployment 资源配置
bash
kubectl get deployment itoa‑health‑analysis -n itoa -o yaml
查看 resources.limits.memory
设备数量多(>100 台),默认内存配额不够,需要调高 limit 内存。
⚠️不要直接手动改 yaml,AD‑Campus 统一数字底盘 Web 界面修改 SeerAnalyzer 实例资源规格,修改后 pod 自动重建生效,直接 kubectl edit 会被底盘覆盖。
Web 路径:统一数字底盘 →应用管理→SeerAnalyzer 实例→编辑实例资源,调高itoa‑health‑analysis内存限制。

5)依赖服务异常场景

  • 如果 kafka /elasticsearch/itoa‑db 异常,优先修复对应 pod;依赖恢复后,itoa‑health‑analysis自动恢复。
  • 常见:elasticsearch 节点分片异常、磁盘水位触发锁写,导致 health‑analysis 写指标失败退出。

6)健康探针误杀

日志业务正常,但是 describe 提示Liveness probe failed,应用启动慢探针超时。
不要直接 kubectl edit 修改探针,在统一数字底盘 web 修改实例参数,调大存活探针初始延迟、超时时间。

版本规避提示

  1. 核对 AD‑Campus 版本,部分版本itoa‑health‑analysis存在内存泄漏已知问题,设备多会持续涨内存 OOM;需要升级到对应版本最新补丁。
  2. 如果环境设备规模大,SeerAnalyzer 硬件规格要匹配开局规格,小规格服务器跑大量设备指标极易 OOM。

回退兜底

  1. 如果临时需要恢复分析器业务,可在 web 上临时停止 SeerAnalyzer,再重新启动实例。
  2. 如果反复故障,导出 pod 日志(kubectl logs xxx --previous > health.log)提交 H3C TAC 分析。

排查输出给 TAC 收集信息清单

  1. kubectl describe pod itoa‑health‑analysis‑xxx -n itoa输出
  2. kubectl logs podname -n itoa --previous崩溃日志
  3. kubectl get pods -n itoa全部 pod 状态
  4. df -h磁盘信息
  5. AD‑Campus 底盘版本、SeerAnalyzer 版本、纳管设备数量。

粉丝:166人 关注:11人

这种问题联系400协助的 

粉丝:14人 关注:9人

排查步骤及恢复方法
1. 查看Pod重启原因与事件
bash
查看Pod状态、重启次数、最近事件
kubectl get pod -n itoax | grep itoa-health-analysis
kubectl describe pod -n itoax
重点看Last State、Reason、Message字段,常见OOMKilled(内存溢出)、Error(进程异常)
2. 查看容器日志定位报错
bash
查看当前运行日志
kubectl logs -n itoax
查看上一次崩溃前的日志(关键)
kubectl logs -n itoax --previous
3. 常见原因及恢复
OOMKilled(内存不足):
临时调整Pod内存配额,编辑deploy:kubectl edit deploy itoa-health-analysis -n itoax,修改resources.limits.memory值(建议调至2Gi以上),保存后自动重建Pod。
配置/依赖异常:
若日志报数据库/中间件连接失败,检查对应组件(如influxdb、kafka)状态:kubectl get pod -n itoax | grep -E "influxdb|kafka",异常则先重启依赖组件。
进程自身异常:
先手动重启Pod:kubectl delete pod -n itoax,若仍反复重启,收集日志反馈400/二线定位版本bug。
4. 兜底恢复
若为版本已知问题,可通过AD-CAMPUS分析器的补丁升级包修复,补丁获取路径:新华三官网→支持→软件下载→AD-Campus→对应版本补丁。

编辑答案

你正在编辑答案

如果你要对问题或其他回答进行点评或询问,请使用评论功能。

分享扩散:

提出建议

    +

亲~登录后才可以操作哦!

确定

亲~检测到您登陆的账号未在http://hclhub.h3c.com进行注册

注册后可访问此模块

跳转hclhub

你的邮箱还未认证,请认证邮箱或绑定手机后进行当前操作

举报

×

侵犯我的权益 >
对根叔社区有害的内容 >
辱骂、歧视、挑衅等(不友善)

侵犯我的权益

×

泄露了我的隐私 >
侵犯了我企业的权益 >
抄袭了我的内容 >
诽谤我 >
辱骂、歧视、挑衅等(不友善)
骚扰我

泄露了我的隐私

×

您好,当您发现根叔知了上有泄漏您隐私的内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到pub.zhiliao@h3c.com 邮箱,我们会尽快处理。
  • 1. 您认为哪些内容泄露了您的隐私?(请在邮件中列出您举报的内容、链接地址,并给出简短的说明)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)

侵犯了我企业的权益

×

您好,当您发现根叔知了上有关于您企业的造谣与诽谤、商业侵权等内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到 pub.zhiliao@h3c.com 邮箱,我们会在审核后尽快给您答复。
  • 1. 您举报的内容是什么?(请在邮件中列出您举报的内容和链接地址)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)
  • 3. 是哪家企业?(营业执照,单位登记证明等证件)
  • 4. 您与该企业的关系是?(您是企业法人或被授权人,需提供企业委托授权书)
我们认为知名企业应该坦然接受公众讨论,对于答案中不准确的部分,我们欢迎您以正式或非正式身份在根叔知了上进行澄清。

抄袭了我的内容

×

原文链接或出处

诽谤我

×

您好,当您发现根叔知了上有诽谤您的内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到pub.zhiliao@h3c.com 邮箱,我们会尽快处理。
  • 1. 您举报的内容以及侵犯了您什么权益?(请在邮件中列出您举报的内容、链接地址,并给出简短的说明)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)
我们认为知名企业应该坦然接受公众讨论,对于答案中不准确的部分,我们欢迎您以正式或非正式身份在根叔知了上进行澄清。

对根叔社区有害的内容

×

垃圾广告信息
色情、暴力、血腥等违反法律法规的内容
政治敏感
不规范转载 >
辱骂、歧视、挑衅等(不友善)
骚扰我
诱导投票

不规范转载

×

举报说明