Hadoop基本操作命令大全

查看hdfs中/user/admin/aaron目录下的文件。

hadoop fs -ls /user/admin/aaron

列出hdfs中/user/admin/aaron目录下的所有文件(包括子目录下的文件)。

hadoop fs -lsr /user/admin/aaron

创建文件目录

hadoop fs -mkdir /user/admin/aaron/newDir

删除文件

删除hdfs中/user/admin/aaron目录下一个名叫needDelete的文件

hadoop fs -rm /user/admin/aaron/needDelete

删除hdfs中/user/admin/aaron目录以及该目录下的所有文件

hadoop fs -rmr /user/admin/aaron

上传文件

hadoop fs –put /home/admin/newFile /user/admin/aaron/

下载文件

hadoop fs –get /user/admin/aaron/newFile /home/admin/newFile

查看文件

hadoop fs –cat /home/admin/newFile

新建一个空文件

hadoop  fs  -touchz /user/new.txt

将hadoop上某个文件重命名

hadoop  fs  –mv /user/test.txt  /user/ok.txt

将hadoop指定目录下所有内容保存为一个文件,同时down至本地

hadoop dfs –getmerge  /user /home/t

提交MAPREDUCE JOB

h bin/hadoop jar /home/admin/hadoop/job.jar [jobMainClass] [jobArgs]

杀死某个正在运行的JOB

hadoop job -kill job_201005310937_0053

更多HADOOP的命令

hadoop

可以看到更多命令的说明信息:

namenode -format        format the DFS filesystem

secondarynamenode    run the DFS secondary namenode

namenode                      run the DFS namenode

datanode                        run a DFS datanode

dfsadmin                        run a DFS admin client

fsck                                  run a DFS filesystem checking utility

fs                                      run a generic filesystem user client

balancer                        run a cluster balancing utility

jobtracker                      run the MapReduce job Tracker node

pipes                              run a Pipes job

tasktracker                    run a MapReduce task Tracker node

job                                  manipulate MapReduce jobs

queue                            get information regarding JobQueues

version                          print the version

jar <jar>            run a jar file

distcp <srcurl> <desturl> copy file or directories recursively

archive -archiveName NAME <src>* <dest> create a hadoop archive

daemonlog            get/set the log level for each daemon

or

CLASSNAME            run the class named CLASSNAME

Most commands print help when invoked w/o parameters.

说明:

1、列出所有Hadoop Shell支持的命令

$bin/hadoop fs -help

2、显示关于某个命令的详细信息

$bin/hadoop fs -help command-name

3、用户可使用以下命令在指定路径下查看历史日志汇总,显示作业的细节信息,失败和终止的任务细节

$bin/hadoop job -history output-dir

4、关于作业的更多细节,比如成功的任务,以及对每个任务的所做的尝试次数等可以用下面的命令查看

$bin/hadoop job -history all output-dir

5、格式化一个新的分布式文件系统

$bin/hadoop namenode -format

6、在分配的NameNode上,运行下面的命令启动HDFS,所有列出的slave上启动DataNode守护进程

$bin/start-dfs.sh

7、在分配的JobTracker上,运行下面的命令启动Map/Reduce

$bin/start-mapred.sh

8、在分配的NameNode上,执行下面的命令停止HDFS:

$bin/stop-dfs.sh

9、在分配的JobTracker上,运行下面的命令停止Map/Reduce:

$bin/stop-mapred.sh


DFSShell

10、创建一个名为 /foodir 的目录

$bin/hadoop dfs -mkdir /foodir

11、创建一个名为 /foodir 的目录

$bin/hadoop dfs -mkdir /foodir

12、查看名为/foodir/myfile.txt 的文件内容

$bin/hadoop dfs -cat /foodir/myfile.txt


DFSAdmin

13、将集群置于安全模式

$bin/hadoop dfsadmin -safemode enter

14、显示Datanode列表

$bin/hadoop dfsadmin -report

15、使Datanode节点datanodename退役

$bin/hadoop dfsadmin -decommission datanodename

16、bin/hadoop dfsadmin-help 命令能列出所有当前支持的命令。比如:

*-report:报告HDFS的基本统计信息。有些信息可以在NameNode Web服务首页看到。

*-safemode:通常并不需要,管理员的确可以手动让NameNode进入或离开安全模式。

*-finalizeUpgrade:删除上一次升级时制作的集群备份。

17、显式地将HDFS置于安全模式

$bin/hadoop dfsadmin -safemode

18、在升级之前,管理员需要用(升级终结操作)命令删除存在的备份文件

$bin/hadoop dfsadmin -finalizeUpgrade

19、能够知道是否需要对一个集群执行升级终结操作。

$dfsadmin -upgradeProgress status

20、使用-upgrade选项运行新的版本

$bin/start-dfs.sh -upgrade

21、需要退回到老版本,就必须停止集群并且部署老版本的Hadoop,用回滚选项启动集群

$bin/start-dfs.h -rollback

22、下面的新命令或新选项是用于支持配额的。前两个是管理员命令。

*dfsadmin -setquota <N> <directory>...<directory>

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/3c8389d5de4865bc58245c62ae443d4a.html