HDFS基本操作命令

查看文件常用命令

命令格式

hdfs dfs -ls path  #查看文件列表

hdfs dfs -ls -R path #递归查看文件列表

hdfs dfs -du path #查看path下磁盘情况，单位字节

使用示例

hdfs dfs -ls /    #查询/目录下的所有文件和文件夹

hdfs dfs -ls -R /test    #以递归的方式查询/test目录下的所有文件

创建文件夹

命令格式

hdfs dfs -mkdir path

使用示例

hdfs dfs -mkdir /test/top    #该命令可递归创建文件夹，不可重复创建，在Linux文件系统中不可见

创建文件

命令格式

hdfs dfs -touchz path

使用示例

hdfs dfs -touchz /test/top/test.txt   #该命令不可递归创建文件，即当该文件的上级目录不存在时无法创建该文件，如果重复创建会覆盖原有的内容

复制文件和目录

命令格式

hdfs dfs -cp 源目录 目标目录

使用示例

hdfs dfs -cp /user/iron /user/iron01    #该命令会将源目录的整个目录结构都复制到目标目录中

hdfs dfs -cp /user/iron/* /user/iron01   #该命令只会将源目录中的文件及其文件夹都复制到目标目录中

移动文件和目录

命令格式

hdfs dfs -mv 源目录 目标目录

使用示例

hdfs dfs -mv /user/iron /user/iron01

hdfs dfs -mv /user/aa.txt /user/bb.txt   #将/user/aa.txt文件重命名为/user/bb.txt

上传文件

命令格式

hdfs dfs -put 源文件夹 目标文件夹

使用示例

hdfs dfs -put /home/hadoop01/iron /user/iron01    #该命令上传Linux文件系统中iron整个文件夹

hdfs dfs -put /home/hadoop01/iron/* /user/iron01    #该命令上传Linux文件系统中iron文件夹中的所有文件（不包括文件夹）

类似命令：

hdfs dfs -copyFromLocal 源文件夹 目标文件夹   #copyFromLocal作用同put

hdfs dfs -moveFromLocal 源文件夹 目标文件夹   #上传后删除本地

将本地文件移动到HDFS文件系统下命令格式

注：使用 moveFromLocal 命令可以将本地文件移动到HDFS文件系统下，可以一次性移动多个文件。与put命令类似，但是不同的是，该命令执行后源文件将被删除(类似于剪切)。例如，将本地当前目录文件 a.txt 上传到HDFS文件系统根目录的下（/）

命令格式

hadoop fs -moveFromLocal     #需要上传的文件路径 上传到HDFS的文件路径

使用示例

hadoop fs -moveFromLocal ~/a.txt /    #将本地当前目录文件 a.txt 上传到HDFS文件系统根目录的下（/）

下载文件

命令格式

hdfs dfs -get 源文件夹 目标文件夹

使用示例

hdfs dfs -get /user/iron01 /home/hadoop01/iron    #该命令下载hdfs文件系统中的iron01整个文件夹到Linux文件系统中

hdfs dfs -get /user/iron01/* /home/hadoop01/iron    #该命令下载hdfs文件系统中的iron01整个文件夹到Linux文件系统中（不包含文件夹）

类似命令

hdfs dfs -copyToLocal 源文件夹 目标文件夹   #copyToLocal作用同get

hdfs dfs -moveToLocal 源文件夹 目标文件夹   #get后删除源文件

查看文件内容

命令格式

hadoop fs -cat path   #从头查看这个文件

hadoop fs -tail path   #从尾部查看最后1K

hadoop fs -cat    #需要查看的文件路径1 需要查看的文件路径2 ...

使用示例

hadoop fs -cat /userjzl/home/book/aa.txt   #查看/userjzl/home/book目录下文件aa.txt的内容（将-cat 换成-text效果一样）

hadoop fs -tail /userjzl/home/book/aa.txt

hadoop fs -cat /input/a.txt /input/b.txt    #查看HDFS中的文件 /input/a.txt 和文件 /input/b.txt

删除文件

命令格式

hdfs dfs -rm 目标文件    #rm不可以删除文件夹

hdfs dfs -rm -R 目标文件   #递归删除（慎用）

使用示例

hdfs dfs -rm /user/test.txt   #删除test.txt文件

hdfs dfs -rm -R /user/testdir    #递归删除testdir文件夹 

追加文件

命令格式

hadoop fs -appendToFile  #需要加入的内容文件路径 被追加内容的文件路径

使用示例

hadoop fs -appendToFile a.txt /input/b.txt  #将本地当前目录的 a.txt 文件的内容追加到HDFS系统中 /input/b.txt 文件中

如果需要一次性追加多个本地文件的内容，则多个文件用 空格 隔开，例如，将本地文件 a.txt  和 b.txt 内容追加到HDFS系统文件的 /input/c.txt 文件中，命令如下：

命令格式

hadoop fs -appendTofile 文件1 文件2 文件3 ...    #HDFS系统中被追加的文件

使用示例

hadoop fs -appendTofile a.txt b.txt /input/c.txt    #将本地文件 a.txt  和 b.txt 内容追加到HDFS系统文件的 /input/c.txt 文件中

检查HDFS中的目录空间

命令格式

hadoop dfs -du -s -h </ file path>

注意：

在使用HDFS命令操作文件时，HDFS中的文件或目录的路径必须写绝对路径，而本地文件的路径可以是相对路径。

更多操作学习：https://blog.csdn.net/Redamancy06/article/details/126269713?spm=1001.2101.3001.6650.3&utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7EYuanLiJiHua%7EPosition-3-126269713-blog-120041558.pc_relevant_3mothn_strategy_recovery&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7EYuanLiJiHua%7EPosition-3-126269713-blog-120041558.pc_relevant_3mothn_strategy_recovery&utm_relevant_index=6

HDFS配置文件详解: https://wenku.baidu.com/view/c207c5200440be1e650e52ea551810a6f524c878.html?_wkts_=1667364167388&bdQuery=hdfs%E7%9A%84%E9%85%8D%E7%BD%AE%E6%96%87%E4%BB%B6

修改配置文件

Linux添加修改配置文件一般都是使用默认的VI编辑器，命令是vi 文件名;

（1）vi可以分为三种状态，分别是命令模式（command mode）、插入模式（Insert mode）和底行模式（last line mode），各模式的功能区分如下：

• 命令行模式 command mode

控制屏幕光标的移动，字符、字或行的删除，移动复制某区段及进入Insert mode下，或者到 last line mode。

• 插入模式Insert mode

只有在Insert mode下，才可以做文字输入，按「ESC」键可回到命令行模式。

• 底行模式last line mode

将文件保存或退出vi，也可以设置编辑环境，如寻找字符串、列出行号等。

不过一般使用时把vi简化成两个模式，就是将底行模式（last line mode）也算入命令行模式command mode

（2）命令行模式（command mode）功能键

• 插入模式

按「i」切换进入插入模式「insert mode」，按“i”进入插入模式后是从光标当前位置开始输入文件；

按「a」进入插入模式后，是从目前光标所在位置的下一个位置开始输入文字；

按「o」进入插入模式后，是插入新的一行，从行首开始输入文字。

• 从插入模式切换为命令行模式

按「ESC」键。

• 移动光标

vi可以直接用键盘上的光标来上下左右移动，但正规的vi是用小写英文字母「h」、「j」、「k」、「l」，分别控制光标左、下、上、右移一格。

（3）vi保存命令。

按ESC键 跳到命令模式，然后：

:w 保存文件但不退出vi

:w file 将修改另外保存到file中，不退出vi

:w! 强制保存，不推出vi

:wq 保存文件并退出vi

:wq! 强制保存文件，并退出vi

q: 不保存文件，退出vi

:q! 不保存文件，强制退出vi

:e! 放弃所有修改，从上次保存文件开始再编辑。