python爬虫学习笔记3:bs4及BeautifulSoup库学习

Beuatiful Soup

bs类对应一个HTML/xml文档的全部内容
from bs4 import BeautifulSoup
import bs4
soup=BeautifulSoup('<p>data</p>','html.parser')
soup2 = BeautifulSoup(open(1.html),"html.parser")

BS解析器

解析器 使用方法 条件
bs4de的html解析器 BeautifulSoup(mk,’html.parser’) 安装bs4
lxml的html解析器 BeautifulSoup(mk,’lxml’) pip install lxml
lxml的xml解析器 BeautifulSoup(mk,’xml’) pip install lxml
html5lib的解析器 BeautifulSoup(mk,’html5lib’) pip install html5lib

BS的基本元素

基本元素 说明
Tag 标签,最基本的信息组织单元,分别用<>和开头和结尾.<tag>(只列出第一个满足条件的元素)
Name 标签的名字,格式:<tag>.name
Attrbutes 标签的属性,格式:<tag>.attrs
NavigableString 标签内非属性字符串,<tag>.string
Comment 标签内字符串的注释部分,一种特殊的Comment类型

基于bs4库的html内容遍历方法

下行便利

属性 说明
.contents 子节点的列表,将<tag>所有的儿子节点存入列表
.children 子节点的迭代类型,与.contents类似,用于循环遍历儿子节点
.descendants 子孙节点的迭代类型,包含所有的子孙节点,用于循环遍历

上行遍历

属性 说明
.parent 节点的父亲标签
.parents 节点的先辈标签的迭代类型,用于循环遍历先辈节点

平行遍历

平行遍历发生在同一个父节点下

满足平行条件的不仅是标签,还可能有NavigableString类型

属性 说明
.next_sibling 返回按照HTML文本顺序的下一个平行节点标签
.previous_sibling 返回按照HTML文本顺序的上一个平行节点标签
.next_silings 迭代类型,返回按照html文本顺序的后续所有平行节点标签
.previous_siblings 迭代类型,返回按照html文本顺序的前续所有平行节点标签

给予bs4库的html格式输出

如何让html内容,更加有好的显示

prettify()

对内容html文本内容进行美化

能为html文本的标签以及内容增加换行符,也可以对每一个标签进行相关的处理。

猜你喜欢

转载自blog.csdn.net/w0ryitang/article/details/80207583
今日推荐