温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

eclipse debug怎么调试mapreduce程序

发布时间:2021-07-29 23:54:54 来源:亿速云 阅读:217 作者:chen 栏目:云计算

这篇文章主要介绍“eclipse debug怎么调试mapreduce程序”,在日常操作中,相信很多人在eclipse debug怎么调试mapreduce程序问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”eclipse debug怎么调试mapreduce程序”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

1、将mapred-site.xml文件拷贝一份到项目中

<configuration>
    <property>
        <name>mapreduce.framework.name</name>
            <value>yarn</value>
    </property>
    <property> 
        <name>mapred.child.java.opts</name> 
        <value>-Xmx800m -Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=8000</value> 
    </property>
    <property>
    <name>mapreduce.jobtracker.staging.root.dir</name>
    <value>/tmp</value>
  </property>
   <property>
    <name>yarn.app.mapreduce.am.staging-dir</name>
    <value>/tmp</value>
  </property>
  <property>
    <name>mapreduce.framework.name</name>
    <value>local</value>
  </property>
  <property>
    <name>mapreduce.jobtracker.address</name>
    <value>local</value>
  </property>
<property>
<name>mapred.job.tracker</name>
<value>local</value>
</property>
</configuration>

2、在项目中加入本地mapred-site.xml配置,从本地项目中读取配置文件运行,在reduce中debug

 Job job = new Job(conf, "word count");
     conf.addResource("classpath:/Hadoop01/mapred-site.xml");
     conf.set("fs.defaultFS", "hdfs://192.168.1.10:9008");
     conf.set("mapreduce.framework.name", "yarn");
     conf.set("yarn.resourcemanager.address", "192.168.1.10:8032");
     conf.set("mapred.remote.os", "Linux");
     conf.set("hadoop.job.ugi", "hadoop,hadoop");

到此,关于“eclipse debug怎么调试mapreduce程序”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注亿速云网站,小编会继续努力为大家带来更多实用的文章!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI