Selenium 搭配有很多种查找 HTML 元素的方法,通过这些方法就可以爬取到所要的数据。
1、使用xpath
XPath 查找主要有两个函数:
(1) 函数 find_element_by_xpath(xpath)
:查找 xpath 匹配的第一个元素,如果找到就返回一个 WebElement
类型的对象,如果找不到就抛出异常;
(2) 函数 find_elements_by_xpath(xpath)
:查找 xpath 匹配的所有元素组成的列表,每个元素都是一个 WebElement
对象,如果找不到就返回空列表;
任 何 一 个 WebElement 对 象 都 可 以 调 用 find_element_by_xpath 与 find_elements_by_xpath 函数。
函数内的参数是xpath函数的语法。
2、查找元素的文本与属性
通过 WebElement 对象可以查找到它的文本与属性。
(1) 任何一个 WebElement 对象都可以通过 text 属性获取它的文本,元素的文本值是它与它的所有子孙节点的文字的组合,如果没有就返回空字符串。
(2) 任何一个 WebElement 对象都可以 通过 get_attribute(attrName)
获取名称为attrName 的属性值,如果元素没有 attrName 属性就返回 None。
3、使用 id 查找元素
HTML 中很多元素都有一个唯一的 id 值,Selenium 可以通过 id 值查找到元素。
函数 driver.find_element_by_id(id)
查找 id 编号的第一个元素,如果查找到就返回一个WebElement
对象,如果没有找到就抛出异常。
4、使用 name 查找元素
HTML 中很多元素都有一个 name 属性值,Selenium 可以通过 name 值查找到元素。
(1) 函数 find_element_by_name(value)
:查找 name=value 匹配的第一个元素,如果找到就返回一个 WebElement
类型的对象,如果找不到就抛出异常;
(2) 函数 find_elements_by_name(value)
:查找 name=value 匹配的所有元素组成的列表,每个元素都是一个 WebElement
对象,如果找不到就返回空列表;
5、使用CSS
Selenium 也支持 CSS 语法查找元素。
(1) 函数 find_element_by_css_selector(css)
:查找 css 匹配的第一个元素,如果找到就返回一个 WebElement
类型的对象,如果找不到就抛出异常;
(2) 函数 find_elements_by_css_selector(css)
:查找 css 匹配的所有元素组成的列表,每个元素都是一个 WebElement
对象,如果找不到就返回空列表;
6、使用 tag name
Selenium 还可以通过 HTML 元素的 tag name 查找。
elems=elem.find_elements_by_tag_name(“span”)
7、使用文本查找超级链接
Selenium 可以通过超级链接的文本来查找到该超级链接。
(1) 函数 find_element_by_link_text(text)
查找第一个文本值为 text 的超级链接元素<a>
,如果找到就返回该元素的 WebElement 对象,如果找不到就抛出异常。
(2) 函数 find_element_by_partial_link_text(text)
查找第一个文本值包含 text 的超级链接元素<a>
,如果找到就返回该元素的 WebElement 对象,如果找不到就抛出异常。
(3) 函数 find_elements_by_link_text(text)
查找所有文本值为 text 的超级链接元素<a>
,如果找到就返 WebElement 列表,如果找不到列表为空。
(4) 函数 find_element_by_partial_link_text(text)
查找所有文本值包含 text 的超级链接元素<a>
,如果找到就返 WebElement 列表,如果找不到列表为空。
8、使用 class 查找元素
Selenium 可以使用元素的 class 值查找元素。
(1) 函数 find_element_by_class_name(value)
查找第一个 class=value 的元素,如果找到就返回该元素的 WebElement 对象,如果找不到就抛出异常。
(2) 函数 find_elements_by_class_name(value)
查找所有 class=value 元素,如果找到就返回WebElement 列表,如果找不到列表为空。