Yarn任务异常怎么通过Yarn快速链接ResourceManager UI排查

含DataEngine的组网

Yarn快速链接ResourceManager UI页面可以监控到所有运行在Yarn上的任务，当Yarn任务异常（包括运行在Yarn上的服务组件异常）的时候就需要到该页面查看进而进一步定位问题，还有Spark/MapReduce/Storm/Flink等系统调优等也需要用到。那么如何查看？常见查看参数是什么含义，这是本文要跟大家分享的。

说明：其他服务也有自己的快速链接，但是主要看的是历史任务，Yarn上可以看到实时信息。

1、进入ResourceManager UI：

在DataEngine管理页面，点击右上角“服务”选择Yarn进入Yarn管理页面。在页面右上角点击“快速链接”选择“ResourceManager UI”即可进入。

2、概览页面

进入ResourceManager UI首先看到的是概览页面，在最上面一行表格可以看到各项参数。如Apps Submitted是提交的任务数量，Apps Pending是等待任务数量，Apps Running是运行的任务数量，Apps Completed是完成的任务数据等。最常用到的参数是Memory Reserved内存剩余容量和VCores Reserved剩余可用VCores虚拟内核资源数量，如果为0就表示资源不足。

常见资源不足问题现象：

1)   任务一直处在等待中（卡住情况）：比如在Yarn运行的任务一直在等待中，那么大概率原因就是资源不足了，此时可以让客户减少提交任务或者扩大集群资源。扩容集群资源的方法就是在Yarn配置视图修改相应参数。

2)   服务异常：还有一种常见问题现象，现在所有计算组件都是运行在Yarn上，有些服务检查中起不来，比如spark服务，spark启动过程会自动启动一个任务运行在Yarn上看能否正常运行，如果Yarn上资源不足了，那么就会提示spark服务异常。

3、查看具体任务运行情况

在左面导航栏Applications目录下可以查看具体任务运行的情况，比如每个任务占用的资源数量等，常见查看参数说明：

l  SUBMITTTED：已经提交的任务（任务提交成功后该任务在该页面自然就不会显示）

l  ACCEPED Applications：已经提交运行的任务但是一直没有执行，比如资源不足等导致任务卡住的情况就可以在这里看到。

l  RUNNING：正在运行的任务。Spark/Flink/Storm/MapReduce等组件性能和资源有直接关系，通过查看正在运行任务使用的CPU内存资源多少评估是否可以再调整提升资源。

l  Finished：运行完成的任务

l  FAIED：运行失败的任务

4、Yarn各个任务作业的Log日志

除了查看每个任务资源利用率情况，每个任务作业还提供“History”链接查看具体任务的Log信息

Yarn做为资源管理服务组件，对于所有运行在上面的任务（包括Spark等服务组件）都可以在ResourceManager UI管理页面查看。当任务异常或服务调优时候，建议第一先去UI页面查看各项资源是否有不足的情况，查看不出原因可以去看下Yarn日志等。