博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
修改Hadoop作业调度算法过程解析
阅读量:7126 次
发布时间:2019-06-28

本文共 1048 字,大约阅读时间需要 3 分钟。

最近几个星期一直在修改hadoop的计算能力调度算法,遇到了这样那样的问题。

我修改的版本是hadoop-0.20.2

第一步:

将hadoop的源码加载到eclipse中配置使用ant编译

第二步:

根据需要修改源码

第三步:

使用ant编译修改内容,这里要提醒的就是要保证编译平台的JDK和运行平台的JDK相同

ant编译的方法是:首先到$HadoopHome/src/contrib/capacity-scheduler目录下

直接输入ant就可以编译,编译成功后会提示生产的JAR文件在$HadoopHome/build/contrib/capacity-scheduler 中。

重要的是如果修改了capacity-scheduler外的其他内容(主要在MapReduce中)也需要将修改后的整个Hadoop编译

而且要在编译capacity-scheduler之前进行编译。编译整个hadoop会在build文件夹下看到hadoop-0.20.2-dev-capacity-scheduler.jar

第四步:

将hadoop-0.20.2-dev-capacity-scheduler.jar重命名为hadoop-0.20.2-capacity-scheduler.jar

以及将hadoop-${version}-capacity-scheduler.jar重新名为hadoop-0.20.2-capacity-scheduler.jar

覆盖集群中响应的JAR重新启动集群就可以了

以上是成功的步骤,但是在整个过程中总会出现错误,下面具体分析一下我遇到的错误:

我是在windows 下编译的在ubuntu中搭建的集群,开始的时候两个平台的JDK不一致,

导致了:java.lang.UnsupportedClassVersionError 的错误 所以要保证JDK一致

有时候会遇到org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Incompatible build versions: namenode BV = ; datanode BV = 911707

这个错误的原因是因为datanode的版本和NameNode的版本不一致。我将生成的hadoop-0.20.2-dev-capacity-scheduler.jar重命名后覆盖到DataNode的$HadoopHome 中

 

转载地址:http://wnhel.baihongyu.com/

你可能感兴趣的文章
深入理解C++的动态绑定和静态绑定
查看>>
cisco 7200 simulator
查看>>
JAVA WEB搭建 SpringMVC+Spring+hibernate 框架
查看>>
HibernateTemplate中常用的方法
查看>>
clang: error: unknown argument: 'websockets'解决方法
查看>>
Vue.js 特有的一种ajax——axios
查看>>
我的友情链接
查看>>
dos2unix命令 - 将DOS格式文本文件转换成UNIX格式
查看>>
灰度发布
查看>>
我的友情链接
查看>>
PHP中curl错误号对照表
查看>>
我的学习笔记之js
查看>>
【转】亂數產生器:Random 與 RNGCryptoServiceProvider
查看>>
iptables基本概念深入理解
查看>>
smarty前端常用标签
查看>>
Javascript数组小结
查看>>
我的友情链接
查看>>
2019年学习博文分享
查看>>
用python实现九九乘法表
查看>>
Mindscape WebWorkbench 支持Visual Studio 2012 最新破解
查看>>