hadoop问题排查

hadoop问题排查

确认应用本地是否可上传下载

将本地文件xxx.text文件上传到HDFS根目录下并命名aa.text

hdfs dfs -put xxx.text /(aa.text)
#()中内容说明可加可不加,加上则对文件重命名

将HDFS中的in.text文件复制到本地系统并命名为getin:

hdfs dfs -get in.text getin

删除HDFS下名为out的文档:

hdfs dfs -rm out

更多命令参考:http://hadoop.apache.org/docs/r1.0.4/cn/hdfs_shell.html

命令操作异常,服务异常

1、 停止集群所有的服务。指令为:./stop-all.sh 2、删除hdfs中配置的data目录下的所有文件(级core-site.xml中配置的hadoop.tmp.dir)。指令为:rm -rf /home/navy/tmp/* 3、重新格式化namenode。指令为:hadoop namenode -format 4、重新启动hadoop集群。指令为:start-all.sh

命令操作成功,服务正常

确认web端是否能正常下载

  1. web下载失败,则节点ip配置异常
  2. 进入/etc/hadoop/workers,查看当前运行节点地址
  3. 查看hdfs-site.xml中节点服务地址是否一致