前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Hadoop资源调度器

Hadoop资源调度器

作者头像
jiewuyou
发布2022-09-23 21:47:23
3730
发布2022-09-23 21:47:23
举报
文章被收录于专栏:数据人生数据人生

? ? ? ? YARN上提供三套调度器:Capacity Scheduler、Fair Scheduler、FIFO Scheduler。本文将对这几种调度器进行描述。

FIFO Scheduler:单队列单用户调度器。

Capacity Scheduler和Fair Scheduler具有很多相似的地方:1)多队列多用户调度器;2)每个队列可配置子队列;3)可以为每一个队列分别配置资源,包括最小资源量和最大资源量,并指定队列的用户权限;4)当一个队列的资源空闲时,可以分配给其他队列使用;5)队列内部的调度算法:均支持优先级的FIFO调度算法和DRF调度算法,而Fair Scheduler还支持fair调度策略,即n个作业的资源量均为1/n。

? ? ? ? 但这两种调度器的核心调度策略不一样:当有资源空闲时,Capacity Scheduler会将资源优先分配给资源占用少的队列,而Fair Scheduler会将资源优先分配给缺额大的队列。

参考资料:?hadoop2.0 yarn 之 资源调度器 基于hadoop2.2.0

本文参与?腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2014-03-28,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客?前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与?腾讯云自媒体分享计划? ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
http://www.vxiaotou.com