HDFS HDFS 명령 및 관리

사용 HDFS는 가장 일반적인 중 하나 인 하둡 이 방법의 다양한 액세스 할 수 있지만, 클러스터 관리 작업 HDFS를 하지만, 명령 줄 관리 HDFS가 가장 일반적으로 저장 방법을 사용했다. 예를 들어 webHDFS 사용 HttpFS 방화벽을 통해 게이트웨이 액세스 HDFS 에 의해, 색조 의 파일 브라우저를.

사용 HDFS는 : 는 DFS는 관리 명령 HDFS를

구문은 다음과 같습니다 :

HDFS의 DFS [GENERIC_OPTION] COMMAND_OPTION]

   1 , 나와 HDFS의 파일과 디렉토리

HDFS DFS -ls /는   파일보기 / 파일과 디렉토리의 경로를    

그림 7.png 

LS 플러스 뒤에 -d 목록 디렉토리 및 디렉토리 정보를 볼   -R -h  

HDFS   는 DFS - 고양이 /path/file.txt 보기 file.txt를의 내용     

정보 HDFS DFS 더 많은 옵션을 입력 할 수 있습니다 HDFS DFS -help

2, 사용 HDFS는 찍으 관련 문서를 얻기 위해 세부 명령을 

사진 8.png 

% n을 파일이나 디렉토리 이름을 반환

% B는 파일 디렉토리의 크기를 반환 바이트 . 공간을 차지하지 않습니다 위의 디렉토리에서 보면, 그 크기는 0.

% g 뒤로 그룹

% y는 다음 시간 형식 아이 노드 에 mtime

% u 개의 유저

3, 만들 HDFS의 디렉토리를

만들기 HDFS의 디렉토리와 리눅스 시스템 디렉토리에 생성 유사한 문서 것은 사용 에서 mkdir create 명령을 HDFS가 생성

Hadfs DFS -mkdir는 / usr / 하둡 / DIR1 필수 는 / usr / 하둡 경로를 만들 수있는   

당신이 경로를 따라 상위 디렉토리를 작성하려는 경우, 지정 -p 매개 변수를

그림 9.png 

4, 삭제 HDFS의 파일과 디렉토리

 

   删除hdfs文件和目录的命令类似于linux文件系统中的命令。使用-r|R选项递归方式删除目录及该目录下的所有内容。

-skipTrash 选项是绕过hdfs回收站立即删除指定文件及目录

hdfs  dfs  -rm -R /usr/hadoop/dir/    删除dir目录及dir目录下的文件及目录

5、更改文件目录所有权和组

可以使用-chown命令更改素有者和组名称

$hdfs dfs -chown sam:produser /usr/data/name.txt

使用chgrp命令仅更改用户的组

$hdfs dfs -chgrp supergroup /data/sales/makrer.txt

更改hdfs文件权限

可以使用chmod命令更改文件或目录的权限hadoop使用标准的linux文件权限。

$hdfs dfs -chmod -R  /data/meta.txt     

只有超级用户或文件及目录的所有者才能更改权限,使用chgrpchmodchown命令并指定-R选项可以对指定目录进行递归更改

6、使用dfsadmin使用程序执行HDFS操作

使用dfsadmin命令从命令行管理HDFS,虽然hdfs dfs命令可以管理HDFS文件和目录,但dfsadmin命令可以执行HDFS特定的管理任务。

dfsadmin -report命令能够显示集群的基本统计信息,包括DataNodeNaneNode的状态、配置的磁盘容量和数据块的运行状况等有用的信息。

图片10.png 

dfsadmin -report命令显示整个集群的HDFS信息,以及集群中每个节点的HDFS详细信息。DFS命令显示集群各个dataNode级的以下信息。

hdfsadmin -report命令可以检查HDFS数据的平衡性,以及HDFS损坏情况。

Dfsadmin -refreshNodes命令用于更新连接到NameNodeDataNode列表。Namenodedfs.hosts指向文件和hdfs-site.xml中的dfs.hosts.ex-clude配置参数读取DataNode的主机名。Dfs.hosts文件列出了允许注册到namenodede 所有主机。dfs.hosts.exclude文件列出了所有需要停用的datanode

图片11.png 

dfsadmin -metasave命令提供的信息比dfsadmin -report命令提供的更多。

文件保存在/hadoop/log/下,可以find命令在本机查找

图片12.png 

HDFS用户和超级用户

     에서 하둡 때문에, 사용자가 잘못된 것입니다 만들 HDFS는 유사한의 방법입니다 리눅스 기본 모드에서 사용자 ID, 인증을 만드는 등의 시스템은 하둡 , 클라이언트의 ID를 결정하는 기본 운영 체제에 따라 설정된 경우 kerbers의 시스템 테스트 Kerberos는 클라이언트의 ID를 확인합니다.

때문에 하둡 어떤 사용자의 개념이 없습니다, 그래서 하둡없는 고정 된 수퍼 유저. 하둡 시스템 수퍼 유저는 시작 네임 노드 운영 체제 사용자를. HDFS 슈퍼 사용자가 될 필요가 없습니다 네임 노드 호스트 루트 사용자. 사용자의 그룹은 별도의 수퍼 유저 그룹에 할당 할 수있다.

관리 HDFS의 디스크 사용

     당신이 사용할 수있는 DF 사용할 수있는 공간이 있었다 찾아 명령을

     $ HDFS DFS -df -h

图片13.png 

HDFS DFS -du -s -h 사용 된 공간의 합을 구하는

현재 할당량 공간을 확인

   사용 -count -q DFS 명령을

图片14.png

spacer.gif 


추천

출처blog.51cto.com/6931786/2457313