继续浏览精彩内容
慕课网APP
程序员的梦工厂
打开
继续
感谢您的支持,我会继续努力的
赞赏金额会直接到老师账户
将二维码发送给自己后长按识别
微信支付
支付宝支付

伪分布式(yarn)运行Hadoop案例(二)

刘信坚
关注TA
已关注
手记 52
粉丝 7795
获赞 665

YARN 上运行 MapReduce 程序

1  首先配置yarn-env.sh

export JAVA_HOME=/opt/module/jdk1.8.0_144

2 配置 yarn-site.xml

<!-- reducer 获取数据的方式 -->
<property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
</property>
<!-- 指定 YARN 的 ResourceManager 的地址 -->
<property>
    <name>yarn.resourcemanager.hostname</name>
    <value>hadoop101</value>
</property>

3 配置 mapred-env.sh

export JAVA_HOME=/opt/module/jdk1.8.0_144

4  对 mapred-site.xml.template 重新命名为   mapred-site.xml 并配置如下:

<!-- 指定 mr 运行在 yarn 上 -->
<property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
</property>

5 启动集群

https://img3.mukewang.com/5bd49ad20001ca7713450144.jpg

https://img4.mukewang.com/5bd49af00001108b11410071.jpg

https://img4.mukewang.com/5bd49b050001acc217790095.jpg

https://img4.mukewang.com/5bd49b0b0001749019200102.jpg

https://img.mukewang.com/5bd49b20000151c209490220.jpg

6 浏览器打开 http://192.168.43.101:8088/cluster/apps 

https://img3.mukewang.com/5bd49b550001403d18880595.jpg

7 运行mapreduce程序

https://img2.mukewang.com/5bd49b7f0001fe6a18960066.jpg

8  查看运行结果

https://img.mukewang.com/5bd49ba50001576b16670355.jpg

注意: 该案例需要配合Namenode Datanode一起使用,Yarn只负责资源调度等。

打开App,阅读手记
0人推荐
发表评论
随时随地看视频慕课网APP