赫夫曼树/编码实现数据的压缩与解压

赫夫曼树

1. 路径和路径长度：在一棵树中，从一个结点往下可以达到的孩子或孙子结点之间的通路，称为路径。通路中分支的数目称为路径长度。若规定根结点的层数为 1，则从根结点到第 L 层结点的路径长度为 L-1
2. 结点的权及带权路径长度：若将树中结点赋给一个有着某种含义的数值，则这个数值称为该结点的权。结点的带权路径长度为：从根结点到该结点之间的路径长度与该结点的权的乘积
3. 树的带权路径长度：树的带权路径长度规定为所有叶子结点的带权路径长度之和，记为 WPL(weighted pathlength) ,权值越大的结点离根结点越近的二叉树才是最优二叉树。
4. WPL 最小的就是赫夫曼树

构成赫夫曼树的步骤：

1. 从小到大进行排序, 将每一个数据，每个数据都是一个节点 ， 每个节点可以看成是一颗最简单的二叉树
2. 取出根节点权值最小的两颗二叉树
3. 组成一颗新的二叉树, 该新的二叉树的根节点的权值是前面两颗二叉树根节点权值的和
4. 再将这颗新的二叉树，以根节点的权值大小 再次排序， 不断重复1-2-3-4 的步骤，直到数列中，所有的数据都被处理，就得到一颗赫夫曼树

import java.util.ArrayList;
import java.util.Collections;
import java.util.List;

public class HuffmanTree {
    
    

    public static void main(String[] args) {
    
    

        int arr[] = {
    
     13, 7, 8, 3, 29, 6, 1 };
        Node root = createHuffmanTree(arr);

        // 测试
        preOrder(root);

    }

    public static void preOrder(Node root) {
    
    
        if(root != null) {
    
    
            root.preOrder();
        }else{
    
    
            System.out.println("是空树，不能遍历~~");
        }
    }

    // 创建赫夫曼树
    public static Node createHuffmanTree(int[] arr){
    
    

        List<Node> nodes = new ArrayList<>();
        for(int value: arr){
    
    
            nodes.add(new Node(value));
        }

        while (nodes.size() > 1){
    
    
            // 排序 从小到大
            Collections.sort(nodes);

            // 取出根节点权值最小的两颗二叉树
            // (1) 取出权值最小的结点
            Node leftNode = nodes.get(0);
            // (2) 取出权值第二小的结点(二叉树)
            Node rightNode = nodes.get(1);
            // (3)构建一颗新的二叉树
            Node newNode = new Node(leftNode.value + rightNode.value);
            newNode.left = leftNode;
            newNode.right = rightNode;

            // (4)从ArrayList删除处理过的二叉树
            nodes.remove(leftNode);
            nodes.remove(rightNode);

            // (5)将parent加入到nodes
            nodes.add(newNode);
        }
        // 返回哈夫曼树的root结点
        return nodes.get(0);
    }
}

class Node implements Comparable<Node>{
    
    
    int value;
    Node left;
    Node right;

    public Node(int value) {
    
    
        this.value = value;
    }

    // 前序遍历
    public void preOrder(){
    
    
        System.out.println(this);

        if (this.left != null){
    
    
            this.left.preOrder();
        }

        if (this.right != null){
    
    
            this.right.preOrder();
        }
    }


    public String toString() {
    
    
        return "[value = " + value + "]";
    }

    public int compareTo(Node node) {
    
    
        // 升序
        return this.value - node.value;
    }
}

赫夫曼编码

1. 赫夫曼编码也翻译为哈夫曼编码(Huffman Coding)，又称霍夫曼编码，是一种编码方式, 属于一种程序算法
2. 赫夫曼编码是赫哈夫曼树在电讯通信中的经典的应用之一。
3. 赫夫曼编码广泛地用于数据文件压缩。其压缩率通常在 20%～90%之间
4. 赫夫曼码是可变字长编码(VLC)的一种。Huffman 于 1952 年提出一种编码方法，称之为最佳编码

import java.io.*;
import java.util.*;

public class HuffmanCode {
    
    

    // 将赫夫曼编码表存放在 Map<Byte,String> 形式
    // 生成的赫夫曼编码表{32=01, 97=100, 100=11000, 117=11001, 101=1110, 118=11011, 105=101, 121=11010, 106=0010, 107=1111, 108=000, 111=0011}
    static Map<Byte, String> huffmanCode = new HashMap<>();

    public static void main(String[] args) {
    
    

//        String content = "i like like like java do you like a java";
//        byte[] contentBytes = content.getBytes();
//
//        byte[] huffmanCodesBytes= huffmanZip(contentBytes);
//        System.out.println("压缩后的结果是:" + Arrays.toString(huffmanCodesBytes) + " 长度 = " + huffmanCodesBytes.length);
//
//        byte[] sourceBytes = decode(huffmanCode, huffmanCodesBytes);
//
//        System.out.println("原来的字符串 = " + new String(sourceBytes));

        // 测试压缩文件
//		String srcFile = "/home/sweetheart/笔记/send";
//		String dstFile = "/home/sweetheart/笔记/1.zip";
//
//		zipFile(srcFile, dstFile);
//		System.out.println("压缩文件ok~~");

        // 测试解压文件
        String zipFile = "/home/sweetheart/笔记/1.zip";
        String dstFile = "/home/sweetheart/笔记/2.txt";
        unZipFile(zipFile, dstFile);
        System.out.println("解压成功!");
    }

    /**
     *
     * @param zipFile 准备解压的文件
     * @param dstFile 将文件解压到哪个路径
     */
    // 对压缩文件的解压
    public static void unZipFile(String zipFile, String dstFile){
    
    

        // 定义IO流
        InputStream is = null;
        // 定义一个对象输入流
        ObjectInputStream ois = null;
        OutputStream os = null;

        try{
    
    
            // 创建文件输入流
            is = new FileInputStream(zipFile);
            ois = new ObjectInputStream(is);
            // 读取byte数组  huffmanBytes
            byte[] huffmanBytes = (byte[])ois.readObject();
            // 读取赫夫曼表
            Map<Byte, String> huffmanCodes = (Map<Byte, String>)ois.readObject();

            // 解码
            byte[] bytes = decode(huffmanCodes, huffmanBytes);
            // 将bytes数组写入目标文件
            os = new FileOutputStream(dstFile);
            // 写入
            os.write(bytes);
            os.flush();

        }catch (Exception e){
    
    
            System.out.println(e.getMessage());
        }finally {
    
    
            try {
    
    
                os.close();
                ois.close();
                is.close();
            } catch (Exception e2) {
    
    
                // TODO: handle exception
                System.out.println(e2.getMessage());
            }
        }

    }

    /**
     *
     * @param srcFile  待压缩的原文件路径
     * @param dstFile  压缩后文件的保存路径
     */
    // 文件压缩
    public static void zipFile(String srcFile, String dstFile){
    
    

        // 创建输出流
        OutputStream os = null;
        ObjectOutputStream oos = null;
        FileInputStream fis = null;

        try {
    
    

            // 创建文件的输入流
            fis = new FileInputStream(srcFile);
            // 创建一个和源文件大小一样的byte[]
            byte[] fileByte = new byte[fis.available()];
            // 读取文件
            fis.read(fileByte);
            // 压缩
            byte[] huffmanBytes = huffmanZip(fileByte);
            // 创建压缩文件的输出流
            os = new FileOutputStream(dstFile);
            // 创建一个和文件输出流关联的ObjectOutputStream
            oos = new ObjectOutputStream(os);
            // (以对象形式)把赫夫曼编码后的字节数组写入文件
            oos.writeObject(huffmanBytes);
            // 以对象流的方式写入赫夫曼编码,是为了恢复源文件时使用
            // 把赫夫曼编码 写入压缩文件
            oos.writeObject(huffmanCode);

        }catch (Exception e){
    
    
            System.out.println(e.getMessage());
        }finally {
    
    
            try {
    
    
                fis.close();
                oos.close();
                os.close();
            }catch (Exception e) {
    
    
                // TODO: handle exception
                System.out.println(e.getMessage());
            }
        }

    }

    // 完成数据的解压
    // 1. 将huffmanCodeBytes [-88, -65, -56, -65, -56, -65, -55, 77, -57, 6, -24, -14, -117, -4, -60, -90, 28]
    //     先转成赫夫曼编码对应的二进制的字符串 "1010100010111..."
    // 2. 赫夫曼编码对应的二进制的字符串 "1010100010111..." => 对照赫夫曼编码  => "i like like like java do you like a java"


    /**
     *
     * @param huffmanCode  赫夫曼编码表 map
     * @param huffmanBytes  赫夫曼编码得到的字节数组
     * @return  返回原来的字符串对应的数组
     */
    // 对压缩数据的解码
    private static byte[] decode(Map<Byte, String> huffmanCode, byte[] huffmanBytes){
    
    
        // 先得到huffmanBytes对应的二进制字符串,形式 1010100010111...

        StringBuilder stb = new StringBuilder();
        // 将byte数组转成二进制的字符串
        for (int i = 0; i < huffmanBytes.length; i++) {
    
    
            byte b = huffmanBytes[i];
            // 判断是不是最后一个字节
            boolean flag = (i == huffmanBytes.length - 1);
            stb.append(byteToBitString(!flag, b));

        }

        // 把字符串按照指定的赫夫曼编码进行解码
        // 反向查找 a->100 => 100->a
        Map<String, Byte> map = new HashMap<>();
        for (Map.Entry<Byte, String> entry: huffmanCode.entrySet()){
    
    
            map.put(entry.getValue(), entry.getKey());
        }

        // 创建要给集合,存放byte
        List<Byte> list = new ArrayList<>();
        for (int i = 0; i < stb.length();) {
    
    
            int count = 1;  // 小的计数器
            Byte b = null;

            while (true){
    
    
                // 左闭右开
                String key = stb.substring(i, i + count);  //  i 不动,让count移动，指定匹配到一个字符
                b = map.get(key);

                if (b == null){
    
      // 未在赫夫曼表查到
                    count ++;
                }else {
    
    
                    break;
                }
            }
            list.add(b);
            i += count;  // i移动到count
        }

        // 当for循环结束后,我们list中就存放了所有的字符 "i like like like java do you like a java"
        // 把list 中的数据放入到byte[] 并返回
        byte[] b = new byte[list.size()];
        for (int i = 0; i < b.length; i++) {
    
    
            b[i] = list.get(i);
        }
        return b;
    }

    /**
     * 将一个byte 转成一个二进制的字符串
     * @param flag  标志是否需要补高位如果是true,表示需要补高位,如果是false表示不补,如果是最后一个字节,无需补高位
     * @param b    传入的byte
     * @return     是该b对应的二进制的字符串,（注意是按补码返回）
     */
    private static String byteToBitString(boolean flag, byte b){
    
    
        // 将b转为int
        int temp = b;

        if (flag){
    
    
            temp |= 256;  // 按位或 256 =>  1 0000 0000 | 0000 0001 => 1 0000 0001
        }
        String str = Integer.toBinaryString(temp);   // 返回的是temp对应的二进制的补码
        if (flag){
    
    
            return str.substring(str.length() - 8);  // 取后八位
        }else {
    
    
            return str;
        }
    }


    // 封装下面的方法,便于调用

    /**
     *
     * @param bytes 原始的字符串对应的字节数组
     * @return
     */
    public static byte[] huffmanZip(byte[] bytes){
    
    
        List<Node> nodes = getNodes(bytes);
        // 根据nodes创建的赫夫曼树
        Node huffmanTreeRoot =  createHuffmanTree(nodes);
        // 对应的赫夫曼编码
        getCodes(huffmanTreeRoot);
        // 根据生产的赫夫曼编码,得到压缩后的赫夫曼编码字节数组
        byte[] huffmanCodeBytes = zip(bytes);
        return huffmanCodeBytes;

    }

    /*
     * 举例： String content = "i like like like java do you like a java"; => byte[] contentBytes = content.getBytes();
     * 返回的是 字符串 "1010100010111111110010001011111111001000101111111100100101001101110001110000011011101000111100101000101111111100110001001010011011100"
     * => 对应的 byte[] huffmanCodeBytes, 即 8位对应一个byte, 放入到 huffmanCodeBytes
     * huffmanCodeBytes[0] =  10101000(补码) => byte  [推导 10101000=> 10101000 - 1 => 10100111(反码)=> 11011000= -88 ]
     * huffmanCodeBytes[1] = -88
     */

    // 将原字符串对应的byte[]数组, 通过生成的赫夫曼编码表,返回一个压缩后的byte[]
    private static byte[] zip(byte[] bytes){
    
    

        // 利用 huffmanCodes 将 bytes 转成赫夫曼编码对应的字符串
        StringBuilder stb = new StringBuilder();
        // 遍历bytes数组
        for (byte b: bytes){
    
    
            stb.append(huffmanCode.get(b));
        }

        // 将 "1010100010111111110..." 转成 byte[]
        int len;  // 统计要返回byte[] 的长度
//         len = stb.length() + 7 / 8;
        if (stb.length() % 8 == 0){
    
    
            len = stb.length() / 8;
        }else {
    
    
            len = stb.length() / 8 + 1;
        }

        // 创建存储压缩后的byte数组
        byte[] huffmanCodeBytes = new byte[len];
        int index = 0;// 记录是第几个byte
        for (int i = 0; i < stb.length(); i+=8) {
    
      // 因为是每8位对应一个byte,所以步长 +8
            String strByte;
            if (i+8 > stb.length()){
    
    
                strByte = stb.substring(i);
            }else {
    
    
                strByte = stb.substring(i, i + 8);
            }

            huffmanCodeBytes[index] = (byte)Integer.parseInt(strByte, 2);
            index++;

        }

        return huffmanCodeBytes;

    }

    // 为了调用方便, 重载 getCodes
    private static void getCodes(Node root){
    
    
        if (root == null){
    
    
            return;
        }
        StringBuilder stb = new StringBuilder();
        // 处理root的左子树
        getCodes(root.left, "0", stb);
        // 处理root的右子树
        getCodes(root.right, "1", stb);
    }

    /**
     *
     * @param node  当前节点
     * @param code  路径: 左子结点是 0, 右子结点 1
     * @param stb   用于拼接路径
     */
    // 获取每个字符对应的赫夫曼编码
    private static void getCodes(Node node, String code, StringBuilder stb){
    
    

        StringBuilder stb2 = new StringBuilder(stb);
        // 将code 加入到 stb2中
        stb2.append(code);

        // 非叶子节点
        if (node.data == null){
    
    
            // 向左递归
            if (node.left != null){
    
    
                getCodes(node.left, "0", stb2);
            }
            // 向右递归
            if (node.right != null){
    
    
                getCodes(node.right, "1", stb2);
            }

        }else {
    
    
            // 叶子节点
            huffmanCode.put(node.data, stb2.toString());

        }


    }

    // 前序遍历
    private static void preOrder(Node root){
    
    
        if (root != null){
    
    
            root.preOrder();
        }else {
    
    
            System.out.println("赫夫曼树为空");
        }
    }

    // 将字节数组转为List
    private static List<Node> getNodes(byte[] bytes){
    
    

        List<Node> nodes = new ArrayList<>();

        Map<Byte, Integer> counts = new HashMap<>();
        for (byte b : bytes){
    
    
            Integer count = counts.get(b);
            if (count == null){
    
    
                counts.put(b, 1);  // Map中还没有这个数据
            }else {
    
    
                counts.put(b, count + 1);  // 已经存在
            }
        }
        // 把每一个键值对转成一个Node 对象，并加入到nodes集合
        // 遍历map
        for (Map.Entry<Byte, Integer> entry: counts.entrySet()){
    
    
            nodes.add(new Node(entry.getKey(), entry.getValue()));
        }
        return nodes;
    }

    // 创建对应的赫夫曼树
    private static Node createHuffmanTree(List<Node> nodes){
    
    
        while (nodes.size() > 1){
    
    
            // 升序
            Collections.sort(nodes);
            // 取出最小的二叉树
            Node leftNode = nodes.get(0);
            // 取出次小的二叉树
            Node rightNode = nodes.get(1);
            // 创建父节点
            Node parentNode = new Node(null, leftNode.weight + rightNode.weight);
            // 将子节点挂到父节点上
            parentNode.left = leftNode;
            parentNode.right = rightNode;
            // 将父节点添加到列表中
            nodes.add(parentNode);
            // 从列表中删除子节点
            nodes.remove(leftNode);
            nodes.remove(rightNode);

        }
        // 返回根节点
        return nodes.get(0);
    }

}

// 创建Node
class Node implements Comparable<Node>{
    
    
    Byte data;  // 存放数据(字符)本身, 比如'a' => 97
    int weight;  // 权值  表示字符出现的次数
    Node left;
    Node right;
    public Node(Byte data, int weight){
    
    
        this.data = data;
        this.weight = weight;
    }


    @Override
    public int compareTo(Node node) {
    
    
        return this.weight - node.weight;
    }

    public String toString(){
    
    
        return "Node [data = " + data + " weight=" + weight + "]";
    }

    // 前序遍历
    public void preOrder(){
    
    
        System.out.println(this);
        if (this.left != null){
    
    
            this.left.preOrder();
        }
        if (this.right != null){
    
    
            this.right.preOrder();
        }
    }
}