云计算 频道

Hadoop学习笔记之二:部署与应用实例

  部署Hadoop

  前面讲的这么多Hadoop的环境变量和配置文件都是在dbrg-1这台机器上的,现在需要将hadoop部署到其他的机器上,保证目录结构一致。

  [dbrg@dbrg-1:~]$scp -r /home/dbrg/HadoopInstall dbrg-2:/home/dbrg/

  [dbrg@dbrg-1:~]$scp -r /home/dbrg/HadoopInstall dbrg-3:/home/dbrg/

  至此,可以说,Hadoop已经在各个机器上部署完毕了下面就让我们开始启动Hadoop吧

  启动Hadoop

  启动之前,我们先要格式化namenode,先进入~/HadoopInstall/hadoop目录,执行下面的命令

  [dbrg@dbrg-1:hadoop]$bin/hadoop namenode -format

  不出意外,应该会提示格式化成功。如果不成功,就去hadoop/logs/目录下去查看日志文件

  下面就该正式启动hadoop啦,在bin/下面有很多启动脚本,可以根据自己的需要来启动。

  * start-all.sh 启动所有的Hadoop守护。包括namenode, datanode, jobtracker, tasktrack

  * stop-all.sh 停止所有的Hadoop

  * start-mapred.sh 启动Map/Reduce守护。包括Jobtracker和Tasktrack

  * stop-mapred.sh 停止Map/Reduce守护

  * start-dfs.sh 启动Hadoop DFS守护.Namenode和Datanode

  * stop-dfs.sh 停止DFS守护

  在这里,简单启动所有守护

  [dbrg@dbrg-1:hadoop]$bin/start-all.sh

  同样,如果要停止hadoop,则

  [dbrg@dbrg-1:hadoop]$bin/stop-all.sh

  HDFS操作

  运行bin/目录的hadoop命令,可以查看Hadoop所有支持的操作及其用法,这里以几个简单的操作为例。

  建立目录

  [dbrg@dbrg-1:hadoop]$bin/hadoop dfs -mkdir testdir

  在HDFS中建立一个名为testdir的目录

  复制文件

  [dbrg@dbrg-1:hadoop]$bin/hadoop dfs -put /home/dbrg/large.zip testfile.zip

  把本地文件large.zip拷贝到HDFS的根目录/user/dbrg/下,文件名为testfile.zip

  查看现有文件

  [dbrg@dbrg-1:hadoop]$bin/hadoop dfs -ls

1
相关文章