温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

怎么在windows下开发mapreduce

发布时间:2021-12-23 09:06:43 来源:亿速云 阅读:106 作者:iii 栏目:云计算

这篇文章主要介绍“怎么在windows下开发mapreduce”,在日常操作中,相信很多人在怎么在windows下开发mapreduce问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”怎么在windows下开发mapreduce”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

    1、首先在map/reduce locations 中右键new一个hadoop location,如下图是创建好了的,如果是第一次,不会有myhadoop。
怎么在windows下开发mapreduce

    2、配置

    怎么在windows下开发mapreduce
    这里面的location name 是随便起的名字,host 是hadoop配置文件core-site.xml中的fs.defaultFS的url的主机ip,右边的port,是fs.defaultFS的url的端口号,user name 是linux系统使用hadoop的用户名

    3、如果成功,则可以展开左边的目录,能够看到hdfs上的文件,如果看不到目录,第一时间看看你的hadoop集群启动了么,别犯这种低级的错误哦
    怎么在windows下开发mapreduce
 

    4、试一试能不能删除里面文件,如果不能,可能会涉及到权限的问题,修改集群配置文件hdfs-site.xml

<property>
 <name>dfs.permissions</name>
 <value>false</value>
</property>



    5、新建一个mapreduce工程,会自动把需要的jar包都引进来,然后写个wordcount小程序吧,这里就不写了,右键这个类,选择run as configration 
     怎么在windows下开发mapreduce

    配置好mainclass 点选项卡Arguments 
    怎么在windows下开发mapreduce
 

    填写好运行的参数,第一个为输入目录,第二个为输出目录,配置好后run as hadoop 就可以在左侧目录树下看到ouput文件夹

到此,关于“怎么在windows下开发mapreduce”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注亿速云网站,小编会继续努力为大家带来更多实用的文章!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI