首先来说一下历史:
因为pyhton2诞生的时候没有Unicode,所以python2使用的默认编码格式是asscii编码,这也是python2经常出现编码问题的原因之一,毕竟asscii只收录了少数字符,但是通过改变解释器的默认编码格式并不能解决所有的编码问题,所以千万不要被坑了啊。
unicode和ascii都是对字符的数字化,不过unicode更全面,但是因为unicode占用空间比较大,存储和传输消耗空间和流量比较多所以又有人研究出了像 ''utf-8'' ,''gbk''这样的编码模式。也就是说"utf-8",其实是用来编码Unicode使其更易于传输的。所以后端再向浏览器传递数据的时候,都会使用“utf-8”编码(中国网站也有很多使用"gbk",因为相对来说更省空间)。所以使用爬虫拿下来的网页要经过解码才能正常展示
python2 和python3的编码方式差别如下:
所以在python2中,使用encode('gbk')编码会报错
字符串在网络传输的过程中通常会进行编码,有些框架或模块,会默认对参数编码,但是因为python2解释器直接对非asscii编码的字符串encode时会报错,所以一般采用先decode,然后再encode的方法
python3 ,中默认使用的是Unicode,所以可以直接编码
扫描二维码关注公众号,回复:
936677 查看本文章
前面已经说过,网页传输的时候都会进行编码,所以如果网页使用的是"gbk",编码,但是解码的时候误用了"utf-8",就会出现乱码的情况
总结:想要解决编码问题需要了解字符串存储,显示,和传输时候使用不同编码方式的原因
使用先decode,再encode也可以解决部分编码问题。