大数据从入门到实战 - 第2章 分布式文件系统HDFS

简介
当数据集的大小超过一台独立的物理计算机的存储能力时，就有必要对它进行分区并存储到若干台单独的计算机上，管理网络中跨多台计算机存储的文件系统称之为分布式文件系统（distributed filesystem）。该系统架构于网络之上，势必会引入网络编程的复杂性，因此分布式文件系统比普通磁盘文件系统更为复杂，例如，该文件系统能够容忍节点故障而不丢失任何数据，就是一个极大的挑战。
Hadoop自带一个称为HDFS的分布式文件系统，即Hadoop Distributed FileSystem。有时候也称为DFS，这就是我们本章要重点了解的内容。

第2关：HDFS-JAVA接口之读取文件

package step2;

import java.io.IOException;
import java.io.InputStream;
import java.net.URI;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;


public class FileSystemCat {
    
    
	
	public static void main(String[] args) throws IOException {
    
    
		//请在Begin-End之间添加你的代码，完成任务要求。
        /********* Begin *********/
	URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");
    Configuration config = new Configuration();
    FileSystem fs = FileSystem.get(uri, config);
    InputStream in = null;
    try {
    
    
        in = fs.open(new Path(uri));
        IOUtils.copyBytes(in, System.out, 2048, false);
    } catch (Exception e) {
    
    
        IOUtils.closeStream(in);
    }
		
		
		
		/********* End *********/
	}
}

第3关：HDFS-JAVA接口之上传文件

package step3;


import java.io.BufferedInputStream;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.io.InputStream;
import java.net.URI;
import java.io.File;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import org.apache.hadoop.util.Progressable;


public class FileSystemUpload {
    
    
	
	public static void main(String[] args) throws IOException {
    
    
		//请在 Begin-End 之间添加代码，完成任务要求。
        /********* Begin *********/
		File localPath = new File("/develop/input/hello.txt");
        String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";
        InputStream in = new BufferedInputStream(new FileInputStream(localPath));
        Configuration config = new Configuration();
        FileSystem fs = FileSystem.get(URI.create(hdfsPath), config);
        long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1; 
        FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable() {
    
    
            long fileCount = 0;
            public void progress() {
    
    
                System.out.println("总进度" + (fileCount / fileSize) * 100 + "%");
                fileCount++;
            }
        });
        IOUtils.copyBytes(in, out, 2048, true);
		
		
		
		/********* End *********/
	}
}

第4关：HDFS-JAVA接口之删除文件

package step4;


import java.io.IOException;
import java.net.URI;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.FileUtil;
import org.apache.hadoop.fs.Path;



public class FileSystemDelete {
    
    
	
	public static void main(String[] args) throws IOException {
    
    
		//请在 Begin-End 之间添加代码，完成本关任务。
        /********* Begin *********/
		String uri = "hdfs://localhost:9000/";
        String path1 = "hdfs://localhost:9000/tmp";
        String path2 = "hdfs://localhost:9000/user/hadoop"; 
        String path3 = "hdfs://localhost:9000/tmp/test"; 
        String path4 = "hdfs://localhost:9000/usr"; 
        Configuration config = new Configuration(); 
        FileSystem fs = FileSystem.get(URI.create(uri),config); 
        fs.delete(new Path(path2),true);
        fs.delete(new Path(path3),true);
        fs.delete(new Path(path4),true);
        Path[] paths = {
    
    new Path(uri),new Path(path1)}; 
        FileStatus[] status = fs.listStatus(paths);
        Path[] listPaths = FileUtil.stat2Paths(status);
        for(Path path: listPaths){
    
    
            System.out.println(path);
        }
		
		
		
		/********* End *********/
	}
}