Hadoop序列化开发流程

Hadoop序列化类型

Hadoop序列化的流程

在Hadoop框架内部传递一个bean对象，那么该对象就需要实现序列化接口。
具体实现bean对象序列化步骤如下7步。
（1）必须实现Writable接口
（2）反序列化时，需要反射调用空参构造函数，所以必须有空参构造

    public FlowBean() {
    
    
        super();
    }

（3）重写序列化方法

@Override
public void write(DataOutput out) throws IOException {
    
    
    out.writeLong(upFlow);
    out.writeLong(downFlow);
    out.writeLong(sumFlow);
}

（4）重写反序列化方法

@Override
public void readFields(DataInput in) throws IOException {
    
    
    upFlow = in.readLong();
    downFlow = in.readLong();
    sumFlow = in.readLong();
}

（5） 注意反序列化的顺序和序列化的顺序完全一致
（6）要想把结果显示在文件中，需要重写toString()，可用”\t”分开，方便后续用。
（7）如果需要将自定义的bean放在key中传输，则还需要实现Comparable接口

因为MapReduce框中的Shuffle过程要求对key必须能排序。详见后面排序案例

@Override
public int compareTo(FlowBean o) {
    
    
    // 倒序排列，从大到小
    return this.sumFlow > o.getSumFlow() ? -1 : 1;
}