继续浏览精彩内容
慕课网APP
程序员的梦工厂
打开
继续
感谢您的支持,我会继续努力的
赞赏金额会直接到老师账户
将二维码发送给自己后长按识别
微信支付
支付宝支付

伪分布式(hdfs)运行Hadoop案例(二)

刘信坚
关注TA
已关注
手记 52
粉丝 7795
获赞 665

一 介绍

HDFS中如下组件:

1) NameNode : 存储文件的元数据,如文件名,文件目录结构,文件属性等。

2) DataNode: 在文件系统中存储文件块的数据等。

3)Secondary NameNode: 用来监控HDFS状态的辅助后台程序,每隔一段时间获取HDFS元数据的快照。


二 使用HDFS并运行MapReduce程序

1 首先将 etc/hadoop/hadoop-env.sh  中的

export JAVA_HOME=/opt/module/jdk1.8.0_144

JAVA_HOME改成本地jdk的路径

 


2 配置 core-site.xml

https://img.mukewang.com/5bd47c690001109512020323.jpg

3 配置hdfs-site.xml

https://img1.mukewang.com/5bd47cc10001cc7112350321.jpg

4 启动集群

(a) 格式化 namenode(第一次启动时格式化,以后就不要总格式化)
 https://img3.mukewang.com/5bd47e0a0001475510510046.jpg

(b) 启动 namenode,jps查看是否启动成功

https://img3.mukewang.com/5bd4856e00013f1515070134.jpg 
(c) 启动 datanode
 https://img4.mukewang.com/5bd485980001a06a15020189.jpg

5 web查看

https://img.mukewang.com/5bd485d80001352519180795.jpg

出现如图则表示已经成功搭建好文件系统


6 操作集群进行工作

https://img1.mukewang.com/5bd486640001afa611050070.jpg

在文件系统上创建目录,在web端查看

https://img1.mukewang.com/5bd486880001203f19200570.jpg

将文件上传到文件系统进行测试

https://img4.mukewang.com/5bd487140001e01913500073.jpg

https://img4.mukewang.com/5bd4872d0001d0fc18620222.jpg

运行mapreduce程序

https://img2.mukewang.com/5bd487d40001e85219190241.jpg

https://img4.mukewang.com/5bd487fc0001b38d18950453.jpg

可直接点击下载文件,查看结果,也可通过命令获取到本机

https://img2.mukewang.com/5bd4887900017ec213700353.jpg

https://img2.mukewang.com/5bd488d30001f83614400085.jpg

https://img.mukewang.com/5bd488e000012c8912690366.jpg

删除结果

https://img3.mukewang.com/5bd489230001f5d316960156.jpg


打开App,阅读手记
0人推荐
发表评论
随时随地看视频慕课网APP