字符编码讲解

ASCII 码

  • 八位二进制被称为一个字节(byte),可以组合出256种状态 0000000011111111

  • ASCII 码一共规定了128个字符的编码,这128个符号(包括32个不能打印出来的控制符号),只占用了一个字节的后面7位,最前面的一位统一规定为0

  • 比如空格SPACE是32(二进制00100000),大写的字母A是65(二进制01000001

非 ASCII 编码

  • 英语用128个符号编码就够了

  • 其他语言,128个符号是不够的。不同的国家有不同的字母,因此,哪怕它们都使用256个符号的编码方式,代表的字母却不一样。

Unicode

  • 世界上存在着多种编码方式,同一个二进制数字可以被解释成不同的符号。因此,要想打开一个文本文件,就必须知道它的编码方式,否则用错误的编码方式解读,就会出现乱码。

  • Unicode将世界上所有的符号都纳入其中。每一个符号都给予一个独一无二的编码,那么乱码问题就会消失。这就是 Unicode,就像它的名字都表示的,这是一种所有符号的编码。

  • Unicode 当然是一个很大的集合,现在的规模可以容纳100多万个符号。每个符号的编码都不一样,比如,U+0639表示阿拉伯字母AinU+0041表示英语的大写字母AU+4E25表示汉字。具体的符号对应表,可以查询unicode.org,或者专门的汉字对应表

Unicode 的问题

  • 需要注意的是,Unicode 只是一个符号集,它只规定了符号的二进制代码,却没有规定这个二进制代码应该如何存储

问题

  • 1、无法区分Unicode 和 ASCII ,计算机不知道三个字节表示一个符号还是三个符号

  • 2、英文字母只用一个字节表示就够了,如果 Unicode 统一规定,每个符号用三个或四个字节表示,那么每个英文字母前都必然有二到三个字节是0,这对于存储来说是极大的浪费,文本文件的大小会因此大出二三倍,这是无法接受的

结果

  • 1、出现了 Unicode 的多种存储方式,也就是说有许多种不同的二进制格式,可以用来表示 Unicode
  • 2、Unicode 在很长一段时间内无法推广,直到互联网的出现

UTF-8

  • UTF-8 是 Unicode 的实现方式之一

  • UTF-8 就是在互联网上使用最广的一种 Unicode 的实现方式。其他实现方式还包括 UTF-16(字符用两个字节或四个字节表示)和 UTF-32(字符用四个字节表示),不过在互联网上基本不用

  • UTF-8 最大的一个特点,就是它是一种变长的编码方式。它可以使用1~4个字节表示一个符号,根据不同的符号而变化字节长度。

UTF-8 编码规则

  • 1、对于单字节的符号,字节的第一位设为0,后面7位为这个符号的 Unicode 码。因此对于英语字母,UTF-8 编码和 ASCII 码是相同的

  • 2、对于n字节的符号(n > 1),第一个字节的前n位都设为1,第n + 1位设为0,后面字节的前两位一律设为10。剩下的没有提及的二进制位,全部为这个符号的 Unicode 码。

#下表总结了编码规则,字母`x`表示可用编码的位

Unicode符号范围    	 |        UTF-8编码方式
(十六进制)       	 |              (二进制)
--------------------+------------------------------------
0000-0000-0000 007F | 0xxxxxxx
0000-0080-0000 07FF | 110xxxxx 10xxxxxx
0000-0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx
0001-0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

实现 UTF-8 编码

以汉字为例

  • 1、查找的 Unicode 是4E25100111000100101

  • 2、根据上表,可以发现4E25处在第三行的范围内(0000 0800 - 0000 FFFF),因此的 UTF-8 编码需要三个字节,即格式是1110xxxx 10xxxxxx 10xxxxxx

  • 3、从的最后一个二进制位开始,依次从后向前填入格式中的x,多出的位补0。这样就得到了,的 UTF-8 编码是11100100 10111000 10100101,转换成十六进制就是E4B8A5

  • URL编码 %E4%B8%A5

猜你喜欢

转载自blog.csdn.net/m0_55778885/article/details/121585865