博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
MapReduce执行WordCount操作
阅读量:4925 次
发布时间:2019-06-11

本文共 674 字,大约阅读时间需要 2 分钟。

MapReduce 数字统计例子WordCount

在单机环境上运行WordCount.java程序

简单配置为:/etc/hosts:

 

Core-site.xml

 

 

在这两个配置文件下运行WordCount 程序,出现如下的错误:

 

 

错误中有一句:due to :Call From YARN001/127.0.0.1 to YARN001:8020 failed,所以经过不断地尝试,将core-site.xml里的hdfs://YARN001:8020改为hdfs://192.168.116.50:8020后程序运行成功:

 

回过头审视,发现/etc/hosts配置得形同虚设于是将/etc/hosts最后一行删去

 

用到的HDFS基本命令有

bin/hdfs dfs -rmr /output

bin/hdfs dfs -mkdir -p /input

bin/hdfs dfs -put WordCout.java /input

 

其他基本命令,记录到博客中

 

执行wordcount程序命令为:

bin/hadoop jar /home/dongwengao/wordcount.jar wordcount/WordCount /input /output

说明:wordcount/WordCount是包名/类名, /input输入目录为args[0],需要提前生成, /output 输出目录为args[1],不能提前生成,如果生成要删除。

 

转载于:https://www.cnblogs.com/hotMemo/p/9338415.html

你可能感兴趣的文章
批处理学习01
查看>>
java 继承练习题5
查看>>
英媒:滴滴和优步每年烧钱64亿
查看>>
HTMLParser-简单HTML和XHTML解析
查看>>
Java_基础_关键字_volatile
查看>>
American Heritage usaco
查看>>
BZOJ 3689 异或之
查看>>
sublime运行错误
查看>>
vue中渲染页面,动态设置颜色
查看>>
理清cordova插件的调用流程
查看>>
【20170926】【软工】第一次个人项目——数独
查看>>
【poj1741 Tree】
查看>>
如何控制oracle RAC 进行并行运算
查看>>
学习总结-封装、继承、多态。
查看>>
c++程序设计原理与实践 第四章部分答案
查看>>
面向对象目的选层电梯作业总结
查看>>
Tensorflow图像处理
查看>>
版本号的意义
查看>>
Java基础学习总结——Java对象的序列化和反序列化
查看>>
java运算符
查看>>