hadoop的简单安装部署过程-创新互联

hadoop的简单安装部署过程

为了做些实验，所以在自己笔记本电脑上装了个虚拟机，系统为CentOS6.2，JDK1.7，hadoop-1.0.1

为了简单起见，部署伪分布式，即仅有一个节点，这个节点既是Master，也是Slave，既是NameNode，也是DataNode，既是JobTracker，也是TaskTracker。

部署总体说明：

伪分布式部署比较简单，只需要搞定4个配置文件即可，分别是：

1.hadoop-env.sh      //用以指定JDK的位置

2.core-site.xml   //核心配置，用以指定HDFS地址及端口号

3.hdfs-site.xml   //HDFS配置，可以指定备份数量，默认为3，伪分布式需要配置为1

4.mapred-site.xml    //用以配置JboTracker的地址及端口

配置完上述文件之后，还差两步：

1.格式化HDFS文件系统

2.启动并验证

正式开始：

1.配置hadoop-env.sh

由于忘记了JDK的位置，用java -verbose查了一下，找到/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.85.x86_64/jre

因此，在hadoop-env.sh中写入如下一行（其实可以找到指定位置，读者可以自己发现）

export JAVA_HOME=/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.85.x86_64/jre

2.配置core-site.xml

             fs.default.name

             hdfs://localhost:9000

//说明：其实其他部分已经有了，只需要自己敲入黑色加粗部分就可以了

3.配置hdfs-site.xml

             dfs.replication

             1

4.配置mapred-site.xml

             mapred.job.tracker

             localhost:9001

进入最后两步：

1.格式化hdfs

[root@wjz hadoop]# cd /usr/local/hadoop/bin   //进入hadoop的可执行文件bin目录

[root@wjz bin]# ./hadoop namenode -format  //执行格式化命令

2.启动并验证

[root@wjz bin]# ./start-all.sh

打开浏览器验证，分别输入如下网址：

http://localhost:50030           （MapReduce的WEB页面）

http://localhost:50070           （HDFS的WEB页面）

----搞定，OK了

另外有需要云服务器可以了解下创新互联scvps.cn，海内外云服务器15元起步，三天无理由+7*72小时售后在线，公司持有idc许可证，提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案，具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势，专为企业上云打造定制，能够满足用户丰富、多元化的应用场景需求。