前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >退役的Apache Slider

退役的Apache Slider

作者头像
十里桃花舞丶
发布2021-01-07 23:47:04
1.5K0
发布2021-01-07 23:47:04
举报
文章被收录于专栏:桥路_大数据桥路_大数据

退役的Apache Slider

Apache Slider是一个工具和技术集,用于在Apache Hadoop YARN集群上打包、部署和管理长时间运行的应用程序。

它是Apache的一个孵化项目,在2014-04-29开始孵化,在2018-05-24退役。中间断断续续有过十几次更新。

为什么要开发Slider?

因为Yarn,一般用于一次性的作业提交,如MapReduce、Spark,为作业分配Container资源,当作业完成后就会进行资源的释放。而Slider的想法,是可以将长时间运行的守护进程直接部署到Yarn之上,如HBase、Storm、Accumulo等服务,这意味着Container会保持长时间的运行而不会进行释放。

听着好像不错,但将服务部署到Yarn之上,有什么好处呢?其实,它就是微服务的雏形,和K8S做的事情基本类似。Apache Slider的孵化时间是2014年,而Google的Kubernetes项目开源时间也是2014年。

不得不说,Apache Slider是一个很有远见的项目。

假设将HBase运行在Yarn上后,它便拥有了以下特性:

(1)在一个物理机群中,可以同时部署多个HBase集群。

(2)为HBase集群提供了资源隔离。

(3)可以将多个版本的HBase部署到同一个集群中。

Apache Slider已经内置了HBase On YARN,Storm On YARN 和Accumulo On YARN三个实现。对于其它服务,用户需要编写一系列配置和脚本,并需要自己尝试编写ApplicationMaster和Client实现,仍有一定难度,但是,一旦开发完成后,以后就可以重复使用了。

而且除了微服务这样的应用场景之外,Hive LLAP的运行也需要依赖Slider服务。LLAP是Hive部署在Yarn之上的一个用于数据缓存的服务,这样Hive任务在运行时,可以直接从LLAP中提取数据,或者缓存频繁查询的数据结果。利用LLAP,官方表示可以提升大概25倍的运行效率。

那Apache Slider为什么最后退役了呢?是因为在Hadoop 3.x版本,Yarn已经支持长作业的运行。但对于Hadoop 3.x之前的集群,想要部署LLAP等功能,还需要依赖Slider进行。

如果需要安装Apache Slider,需要从github中获取源码。并且可以尝试在Yarn集群中部署HBase,或者LLAP。

Apache社区除了Slider,其实还有很多有趣和实用的开源项目,之后慢慢为大家分享。

本文参与?腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2021-01-06 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客?前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与?腾讯云自媒体分享计划? ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 退役的Apache Slider
相关产品与服务
TDSQL MySQL 版
TDSQL MySQL 版(TDSQL for MySQL)是腾讯打造的一款分布式数据库产品,具备强一致高可用、全球部署架构、分布式水平扩展、高性能、企业级安全等特性,同时提供智能 DBA、自动化运营、监控告警等配套设施,为客户提供完整的分布式数据库解决方案。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
http://www.vxiaotou.com