温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

MapReduce工作机制相关知识点有哪些

发布时间:2021-12-30 14:10:17 来源:亿速云 阅读:121 作者:iii 栏目:云计算

本篇内容主要讲解“MapReduce工作机制相关知识点有哪些”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“MapReduce工作机制相关知识点有哪些”吧!

作业的提交

可以只用一行代码来运行一个MapReduce作业:

    JobClient.runJob(conf)。

作业的调度

Hadoop作业调度演进

1、早期版本的Hadoop使用FIFO调度算法来运行作业

早期版本的Hadoop使用一种非常简单的方法来调度用户的作业:

按照作业提交的顺序,使用FIFO(先进先出)调度算法来运行作业。

2、随后,通过设置mapred.job.priority或JobClient的setJobPriority()方法来设置优先级

3、Hadoop的调度器种类

在Hadoop中,MapReduce的调度器可以选择。

1)、默认的调度器是原始的基于队列的FIFO调度器。

2)、Fair Scheduler 公平调度器

3)、Capacity Scheduler

MapReduce的工作机制相关知识点:

1、通过调用什么代码运行一个MapReduce作业?

   JobClient.runJob(conf);

2、hadoop运行作业的整个过程图解

MapReduce工作机制相关知识点有哪些

3、hadoop运行作业的整个过程包含几个独立的实体?

它包含以下4个独立的实体:

    1)、客户端:提交MapReduce作业。

    2)、jobtracker:协调作业的运行。

    jobtracker是一个Java应用程序,它的主类是JobTracker。

    3)、tasktracker:运行作业划分后的任务。

    tasktracker是一个Java应用程序,它的主类是TaskTracker。

    4)、分布式文件系统(一般为HDFS)

    用来在其他实体间共享作业文件。

到此,相信大家对“MapReduce工作机制相关知识点有哪些”有了更深的了解,不妨来实际操作一番吧!这里是亿速云网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI