【Python】爬虫详解（一看就懂）

爬虫是什么
爬虫简单的来说就是用程序获取网络上数据这个过程的一种名称。

爬虫的原理
如果要获取网络上数据，我们要给爬虫一个网址（程序中通常叫URL），爬虫发送一个HTTP请求给目标网页的服务器，服务器返回数据给客户端（也就是我们的爬虫），爬虫再进行数据解析、保存等一系列操作。

流程
爬虫可以节省我们的时间，比如我要获取豆瓣电影 Top250 榜单，如果不用爬虫，我们要先在浏览器上输入豆瓣电影的 URL ，客户端（浏览器）通过解析查到豆瓣电影网页的服务器的 IP 地址，然后与它建立连接，浏览器再创造一个 HTTP 请求发送给豆瓣电影的服务器，服务器收到请求之后，把 Top250 榜单从数据库中提出，封装成一个 HTTP 响应，然后将响应结果返回给浏览器，浏览器显示响应内容，我们看到数据。我们的爬虫也是根据这个流程，只不过改成了代码形式。

HTTP请求

HTTP 请求由请求行、请求头、空行、请求体组成。

请求行由三部分组成：

    1.请求方法，常见的请求方法有 GET、POST、PUT、DELETE、HEAD
    2.客户端要获取的资源路径
    3.是客户端使用的 HTTP 协议版本号

请求头是客户端向服务器发送请求的补充说明，比如说明访问者身份，这个下面会讲到。

请求体是客户端向服务器提交的数据，比如用户登录时需要提高的账号密码信息。请求头与请求体之间用空行隔开。请求体并不是所有的请求都有的，比如一般的GET都不会带有请求体。

上图就是浏览器登录豆瓣时向服务器发送的HTTP POST 请求，请求体中指定了用户名和密码。

如果有需要原码和想学Python的小伙伴可以↓ ↓ ↓

点这里呀~~（备注：苏）

有很多的资源可以白嫖的哈，不定时会更新一下Python的小知识的哈！！

HTTP 响应

HTTP 响应格式与请求的格式很相似，也是由响应行、响应头、空行、响应体组成。

响应行也包含三部分，分别是服务端的 HTTP 版本号、响应状态码和状态说明。

这里状态码有一张表，对应了各个状态码的意思

第二部分就是响应头，响应头与请求头对应，是服务器对该响应的一些附加说明，比如响应内容的格式是什么，响应内容的长度有多少、什么时间返回给客户端的、甚至还有一些 Cookie 信息也会放在响应头里面。

第三部分是响应体，它才是真正的响应数据，这些数据其实就是网页的 HTML 源代码。

如果有需要原码和想学Python的小伙伴可以↓ ↓ ↓

点这里呀~~（备注：苏）

有很多的资源可以白嫖的哈，不定时会更新一下Python的小知识的哈！！

爬虫代码怎么写

爬虫可以用很多语言比如 Python、C++等等，但是我觉得Python是最简单的，

因为Python有现成可用的库，已经封装到几乎完美，

C++虽然也有现成的库，但是它的爬虫还是比较小众，仅有的库也不足以算上简单，而且代码在各个编译器上，甚至同一个编译器上不同版本的兼容性不强，所以不是特别好用。所以今天主要介绍python爬虫。

安装requests库

cmd运行：pip install requests ，安装 requests。

然后在 IDLE 或者编译器（个人推荐 VS Code 或者 Pycharm ）上输入

import requests 运行，如果没有报错，证明安装成功。

安装大部分库的方法都是：pip install xxx（库的名字）

requests的方法

requests.request()	构造一个请求，支撑一下各方法的基本方法
requests.get()	获取HTML网页的主要方法，对应于HTTP的GET
requests.head()	获取HTML网页头信息的方法，对应于HTTP的HEAD
requests.post()	向HTML网页提交POST请求的方法，对应于HTTP的POST
requests.put()	向HTML网页提交PUT请求的方法，对应于HTTP的PUT
requests.patch( )	向HTML网页提交局部修改请求，对应于HTTP的PATCT
requests.delete()	向HTML网页提交删除请求，对应于HTTP的DELETE

最常用的get方法

r = requests.get(url)

包括两个重要的对象：

构造一个向服务器请求资源的Request对象；返回一个包含服务器资源的Response对象

r.status_code	HTTP请求的返回状态，200表示连接成功，404表示失败
r.text	HTTP响应内容的字符串形式，即，url对应的页面内容
r.encoding	从HTTP header中猜测的响应内容编码方式（如果header中不存在charset，则认为编码为ISO-8859-1）
r.apparent_encoding	从内容中分析的响应内容编码方式（备选编码方式）
r.content	HTTP响应内容的二进制形式

requests.ConnectionError	网络连接错误异常，如DNS查询失败、拒绝连接等
requests.HTTPError	HTTP错误异常
requests.URLRequired	URL缺失异常
requests.TooManyRedirects	超过最大重定向次数，产生重定向异常
requests.ConnectTimeout	连接远程服务器超时异常
requests.Timeout	请求URL超时，产生超时异常

最后

如果有需要原码和想学Python的小伙伴可以↓ ↓ ↓

点这里呀~~（备注：苏）

有很多的资源可以白嫖的哈，不定时会更新一下Python的小知识的哈！！