【深入浅出 Yarn 架构与实现】4-1 ResourceManager 功能概述

前面几篇文章对 Yarn 基本架构、程序基础库、应用设计方法等进行了介绍。之后几篇将开始对 Yarn 核心组件进行剖析。
ResourceManager(RM)是 Yarn 的核心管理服务,负责集群管理、任务调度、状态机管理等,本篇将对 RM 总体架构进行介绍。

一、RM 基本职能

主要包含以下几个功能:

  • Client 交互:处理来自 Client 的请求;
  • 管理 ApplicationMaster:启动、管理、重启等;
  • 管理 Nodemanager:接收 NM 汇报的资源信息,并下达管理指令;
  • 资源管理与调度:接收 AM 的资源请求,并分配资源。

《【深入浅出 Yarn 架构与实现】4-1 ResourceManager 功能概述》

如上图所示,RM 中各组件通过对应 RPC 与各 Client 进行通信:

  • ResourceTrackerProtocol: NodeManager(NM)通过该 RPC 协议向 RM 注册、汇报节点健康状况和 Container 运行状态,并领取 RM 下达的命令。NM 与 RM 之间采用了「pull模型」,NM 总是周期性地主动向 RM 发起请求(心跳),并领取下达给自己的命令。
  • ApplicationMasterProtocol: 应用程序的 ApplicationMaster 通过该 RPC 协议向 RM 注册、申请资源和释放资源。(AM 与 RM 交互参考上一篇文章「3-3 Yarn Application Master 编写」)
  • ApplicationClientProtocol: 应用程序的客户端通过该 RPC 协议向 ResourceManager 提交应用程序、查询应用程序状态和控制应用程序(比如杀死应用程序)等。(AppClient 与 RM 交互参考文章「3-2 Yarn Client 编写」

从以上介绍中可以看出,与 RM 通过 RPC 通信的组件都采用「Pull 模型」,各个「Client」通过心跳定期向 RM 汇报,在心跳返回值中领取 RM 下达的指令。

二、RM 内部架构

本节将深入 RM 内部,看其内部组织结构和主要模块,架构图如下所示:
《【深入浅出 Yarn 架构与实现】4-1 ResourceManager 功能概述》

一)用户交互模块

RM 分别针对普通用户、管理员和 Web 提供了三种对外服务:

  • ClientRMService: 为普通用户提供的服务,它处理来自客户端各种RPC请求,比如提交应用程序、终止应用程序、获取应用程序运行状态等;
  • AdminService: RM 为管理员提供了一套独立的服务接口,以防止管理员发送的管理命令饿死,管理员可通过这些接口管理集群,比如动态更新节点列表、更新ACL列表、更新队列信息等;
  • WebApp: 更加友好地展示集群资源使用情况和应用程序运行状态等信息。

二) NM 管理模块

  • NMLivelinessMonitor: 监控 NM 是否活着,长时间(默认为10min)内未汇报心跳信息,则认为其挂了;
  • NodesListManager: 维护正常节点和异常节点列表,管理exclude(类似于黑名单)和include(类似于白名单)节点列表,这两个列表均是在配置文件中设置的,可以动态加载;
  • ResourceTrackerService: 处理来自 NM 的请求,主要包括注册和心跳两种请求。

三) AM 管理模块

  • AMLivelinessMonitor: 监控AM是否活着,长时间未汇报心跳,它上面所有正在运行的 Container 将被置为失败状态,而 AM 本身会被重新分配到另外一个节点上执行(AM 重试次数默认是2);
  • ApplicationMasterLauncher: 与某个 NM 通信,要求它为某个应用程序启动 ApplicationMaster;
  • ApplicationMasterService(AMS): 处理来自 AM 的请求,主要包括注册和心跳两种请求。其中心跳汇报信息包含所需资源描述、待释放的Container列表、黑名单列表等,而 AMS 则为之返回相应的 Container 信息。

四) Application 管理模块

  • ApplicationACLsManage: 管理应用程序访问权限,包含两部分权限:查看权限和修改权限;
  • RMAppManager: 管理应用程序的启动和关闭;
  • ContainerAllocationExpirer: 当 AM 收到 RM 新分配的一个 Container 后,必须在一定的时间内启动该 Container,否则将被回收。

五)状态机管理模块

RM 共维护四类状态机:

  • RMApp: 维护一个 Application 的整个运行周期,可能会包括多次 Attempt;
  • RMAppAttempt: 一个实例运行失败后,可能再次启动一个重新运行,而每次启动称为一次运行尝试用 「RMAppAttempt」描述,RMAppAttempt 维护了一次运行尝试的整个生命周期;
  • RMContainer: 维护一个 Container 的运行周期。RM 将资源封装成 Container 发送给应用程序的 AM,而AM 则会在 Container 中启动任务;
  • RMNode: 维护一个 NM 的生命周期,包括启动到运行结束整个过程。

六)安全管理模块

RM 有非常全面的权限管理机制,主要包括:

  • ClientToAMSecretManager
  • ContainerTokenSecretManager
  • ApplicationTokenSecretManager

七)资源分配模块

该模块主要涉及一个组件「ResourceScheduler」。其是资源调度器,按照一定的约束条件(比如队列容量限制等)将集群中的资源分配给各个应用程序。
ResourceScheduler 是一个插拔式模块,自带三个调度器,用户可以自己定制:

  • FIFO:先进先出,单用户
  • Fair Scheduler:公平调度器(FairScheduler基本上具备其它两种的所有功能)
  • Capacity Scheduler:容量调度器

此部分将在后面文章中更详细的介绍。

三、RM事件与事件处理器

Yarn采用了事件驱动机制,而RM是的实现则是最好的例证。所有服务和组件均是通过中央异步调度器组织在一起的,不同组件之间通过事件交互,从而实现了一个异步并行的高效系统。
下面是详细的表格:

《【深入浅出 Yarn 架构与实现】4-1 ResourceManager 功能概述》

四、小结

在 YARN 中,ResourceManager 负责集群中所有资源的统一管理和分配,它接收来自各个节点(NodeManager)的资源汇报信息,并把这些信息按照一定的策略分配给各个应用程序。
本篇对 ResourceManager 总体架构进行了介绍。对其基本职能、内部结构、处理的事件进行了梳理。后续文章中将会对每个部分深入源码进行更深入讨论。

参考文章:
《Hadoop 技术内幕 – 深入解析 Yarn 结构设计与实现原理》第五章

    原文作者:大数据王小皮
    原文地址: https://www.cnblogs.com/shuofxz/p/16916339.html
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞