以下为《HDFS操作常用Shell命令》的无排版文字预览,完整内容请下载
HDFS操作常用Shell命令
Hadoop支持很多Shell命令,比如hadoop fs、hadoop dfs和hdfs dfs都是HDFS最常用的Shell命令,用来查看HDFS文件系统的目录结构、上传和下载数据、创建文件等。这三个命令既有联系有又区别:
hadoop fs:适用于任何不同的文件系统,比如本地文件系统和HDFS文件系统;
hadoop dfs:只能适用于HDFS文件系统;
hdfs dfs:跟hadoop dfs命令的作用一样,也只能适用于HDFS文件系统。
在本教程中,统一使用hdfs dfs命令对HDFS进行操作。
查看命令使用方法
请登录Linux系统,打开一个终端,首先启动Hadoop,命令如下:
cd /usr/local/hadoop
./sbin/start-dfs.sh
/
可以在终端输入如下命令,查看hdfs dfs总共支持哪些操作:
cd /usr/local/hadoop
./bin/hdfs dfs
/
上述命令执行后,会显示类似如下的结果(这里只列出部分命令):
[-appendToFile ... ]
[-cat [-ignoreCrc] ...]
[-checksum ...]
[-chgrp [-R] GROUP PATH...]
[-chmod [-R] PATH...]
[-chown [-R] [OWNER][:[GROUP]] PATH...]
[-copyFromLocal [-f] [-p] [-l] ... ]
[-copyToLocal [-p] [-ignoreCrc] [-crc] ... ]
[-count [-q] [-h] ...]
[-cp [-f] [-p | -p[topax]] ... ]
[-createSnapshot []]
[-deleteSnapshot ]
[-df [-h] [ ...]]
[-du [-s] [-h] ...]
[-expunge]
[-find ... ...]
[-get [-p] [-ignoreCrc] [-crc] ... ]
[-getfacl [-R] ]
[-getfattr [-R] {-n name | -d} [-e en] ]
[-getmerge [-nl] ]
[-help [cmd ...]]
[-ls [-d] [-h] [-R] [ ...]]
[-mkdir [-p] ...]
[-moveFromLocal ... ]
[-moveToLocal ]
[-mv ... ]
[-put [-f] [-p] [-l] ... ]
可以看出,hdfs dfs命令的统一格式是类似“hdfs dfs -ls”这种形式,即在“-”后面跟上具体的操作。可以查看某个命令的作用,比如,当需要查询put命令的具体用法时,可以采用如下命令:
./bin/hdfs dfs –help put
/
输出的结果如下:
-put [-f] [-p] [-l] ... :
Copy files from the local file system into fs. Copying fails if the file already exists, unless the -f flag is given.
Flags:
-p Preserves access and modification times, ownership and the mode.
-f 内容过长,仅展示头部和尾部部分文字预览,全文请查看图片预览。 txt /home/hadoop/下载
/
可以使用如下命令,到本地文件系统查看下载下来的文件myLocalFile.txt:
cd ~
cd 下载
ls
cat myLocalFile.txt
/
最后,了解一下如何把文件从HDFS中的一个目录拷贝到HDFS中的另外一个目录。比如,如果要把HDFS的“/user/hadoop/input/myLocalFile.txt”文件,拷贝到HDFS的另外一个目录“/input”中(注意,这个input目录位于HDFS根目录下),可以使用如下命令:
./bin/hdfs dfs -cp input/myLocalFile.txt /input
/
[文章尾部最后300字内容到此结束,中间部分内容请查看底下的图片预览]请点击下方选择您需要的文档下载。
以上为《HDFS操作常用Shell命令》的无排版文字预览,完整内容请下载
HDFS操作常用Shell命令由用户“ycq12374449”分享发布,转载请注明出处