python自带Urllib库的使用

Uillib库python3自带的上个操作URL的包,功能强大。使用方法,首先加载库。

```
import urllib
```

urllib包里面有四个模块
urllib.request
urllib.error
urllib.parse
urllib.robotparser
urllib.request模块最重要,它主要包含对服务器请求的发出、跳转、代理和安全等各个方面的功能实现

**

urllib.request中重要函数的使用

加载import urllib.request
**
urllib.request.urlopen()打开网页,我的网站需要decode(‘utf-8’)编码
urllib.request.urlretrieve(url,filename)以写入的方式打开网。Urlretrieve执行过程中,会产生一些缓存,可以用urlcleanup()清除。
info()返回当前环境信息。
getcode()返回状态码
geturl()返回当前网址
urllib.request.quote()用于URL编码
urllib.request.unquote()用于解码

反反爬虫方法

1.使用abb_header()添加报头
2.使用IP代理
3.延时访问

猜你喜欢

转载自blog.csdn.net/weixin_40766037/article/details/82657915