文档详情

Hadoop大数据开发基础与案例实战(微课版)课件 5.7 YARN概述(完).pptx

发布:2025-03-09约1.34千字共15页下载文档
文本预览下载声明

Hadoop大数据项目开发——YARN概述

目录content02YARN功能01YARN简介

YARN简介MapReduce1.0既是一个计算框架,也是一个资源管理调度框架

YARN简介YARN是一个纯碎的资源管理调度框架,而不是一个计算框架.MapReduce1.0中的资源管理调度功能,被单独剥离出来形成了YARN。Hadoop2.0以后

YARN简介被剥离了资源管理调度功能的MapReduce框架就变成了MapRedece2.0,它是运行在YARN之上的一个纯碎的计算框架,不再自己负责资源调度管理服务,而是由YARN为其提供资源管理调度服务。

YARN简介YARN是一个纯碎的资源调度框架。MapRedece2.0运行在YARN之上的一个纯碎的计算框架。

YARN简介YARN是一种新的Hadoop资源管理器;是一个通用资源管理系统;可为上层应用提供统一的资源管理和调度;为集群在利用率、资源统一管理和数据共享等方面带来了好处。

YARN功能ResourceManagerApplicationMasterNodeManager

YARN--ResourceManager的功能ResourceManager功能处理客户端请求资源分配和调度监控NodeManager启动ApplicationMaster监控ApplicationMaster

YARN--ResourceManager的功能ResourceManager处理客户端请求启动pplicationaster负责接受来自ApplicationMaster的应用程序资源请求,把集群中的资源以“容器”的形式分配给提出申请的应用程序,容器的选择通常会考虑应用程序所要处理的数据的位置,进行就近选择从而实现“计算向数据靠拢”调度器应用程序管理器负责管理整个系统中所有应用程序,包括应用程序提交、与调度器协商资源以启动ApplicationMaster、监控ApplicationMaster运行状态并在失败时重新启动它等。

YARN--ResourceManager功能容器(container)作为动态资源分配单位,每个容器中都封装了一定数量的CPU、内存、磁盘等资源,从而限定每个应用程序可以使用的资源量。YARN会为每个任务分配一个容器,且该任务只能使用该容器中封装的资源。

YARN--ApplicationMaster的功能ApplicationMaster为应用程序申请资源,并分配给内部任务;功能2:任务调度、监控和容错。功能1:

YARN--NodeMaster的功能NodeMaster单个节点上的资源管理功能2:处理ResourceManger的命令。功能1:功能3:处理ApplicationMaster的命令。

YARN功能YARN的资源管理和执行框架都是按主/从范例实现的——Slave节点管理器(NM)运行、监控每个节点,并向集群的Master资源管理器(RM)报告资源的可用性状态,资源管理器最终为系统里所有应用分配资源。

本章小结本节介绍YARN,相信大家对YARN和MapReduce程序提交给YARN运行有了更深入的理解,为我们后续理解YARN打下了坚实的基础。

显示全部
相似文档