ASCII 码
-
八位二进制被称为一个字节(byte),可以组合出256种状态
00000000
到11111111
-
ASCII 码一共规定了128个字符的编码,这128个符号(包括32个不能打印出来的控制符号),只占用了一个字节的后面7位,最前面的一位统一规定为
0
-
比如空格
SPACE
是32(二进制00100000
),大写的字母A
是65(二进制01000001
)
非 ASCII 编码
-
英语用128个符号编码就够了
-
其他语言,128个符号是不够的。不同的国家有不同的字母,因此,哪怕它们都使用256个符号的编码方式,代表的字母却不一样。
Unicode
-
世界上存在着多种编码方式,同一个二进制数字可以被解释成不同的符号。因此,要想打开一个文本文件,就必须知道它的编码方式,否则用错误的编码方式解读,就会出现乱码。
-
Unicode将世界上所有的符号都纳入其中。每一个符号都给予一个独一无二的编码,那么乱码问题就会消失。这就是 Unicode,就像它的名字都表示的,这是一种所有符号的编码。
-
Unicode 当然是一个很大的集合,现在的规模可以容纳100多万个符号。每个符号的编码都不一样,比如,
U+0639
表示阿拉伯字母Ain
,U+0041
表示英语的大写字母A
,U+4E25
表示汉字严
。具体的符号对应表,可以查询unicode.org,或者专门的汉字对应表
Unicode 的问题
- 需要注意的是,Unicode 只是一个符号集,它只规定了符号的二进制代码,却没有规定这个二进制代码应该如何存储
问题
-
1、无法区分Unicode 和 ASCII ,计算机不知道三个字节表示一个符号还是三个符号
-
2、英文字母只用一个字节表示就够了,如果 Unicode 统一规定,每个符号用三个或四个字节表示,那么每个英文字母前都必然有二到三个字节是
0
,这对于存储来说是极大的浪费,文本文件的大小会因此大出二三倍,这是无法接受的
结果
- 1、出现了 Unicode 的多种存储方式,也就是说有许多种不同的二进制格式,可以用来表示 Unicode
- 2、Unicode 在很长一段时间内无法推广,直到互联网的出现
UTF-8
-
UTF-8 是 Unicode 的实现方式之一
-
UTF-8 就是在互联网上使用最广的一种 Unicode 的实现方式。其他实现方式还包括 UTF-16(字符用两个字节或四个字节表示)和 UTF-32(字符用四个字节表示),不过在互联网上基本不用
-
UTF-8 最大的一个特点,就是它是一种变长的编码方式。它可以使用1~4个字节表示一个符号,根据不同的符号而变化字节长度。
UTF-8 编码规则
-
1、对于单字节的符号,字节的第一位设为
0
,后面7位为这个符号的 Unicode 码。因此对于英语字母,UTF-8 编码和 ASCII 码是相同的 -
2、对于
n
字节的符号(n > 1
),第一个字节的前n
位都设为1
,第n + 1
位设为0
,后面字节的前两位一律设为10
。剩下的没有提及的二进制位,全部为这个符号的 Unicode 码。
#下表总结了编码规则,字母`x`表示可用编码的位
Unicode符号范围 | UTF-8编码方式
(十六进制) | (二进制)
--------------------+------------------------------------
0000-0000-0000 007F | 0xxxxxxx
0000-0080-0000 07FF | 110xxxxx 10xxxxxx
0000-0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx
0001-0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
实现 UTF-8 编码
以汉字严
为例
-
1、查找
严
的 Unicode 是4E25
(100111000100101
) -
2、根据上表,可以发现
4E25
处在第三行的范围内(0000 0800 - 0000 FFFF
),因此严
的 UTF-8 编码需要三个字节,即格式是1110xxxx 10xxxxxx 10xxxxxx
-
3、从
严
的最后一个二进制位开始,依次从后向前填入格式中的x
,多出的位补0
。这样就得到了,严
的 UTF-8 编码是11100100 10111000 10100101
,转换成十六进制就是E4B8A5
-
URL编码
%E4%B8%A5