- 想要从网页上爬取数据就必须先知道网页的构成,一般来说网页分为两个部分:一个是html,一个是css,html是网页的整体构造,相当于未装修的房子,而css是网页的样式表,相当于房子的装修。
- 而后便是解析网页,想要解析网页只需要在浏览器中点击鼠标右键,检查或查看网页源代码即可。
- 对于爬取所需数据来说,数据在网页源码中的路径极为重要,获取方法可用在所需数据的地方点击鼠标右键在弹出菜单中点击检查,然后在解析器中选中部分点击鼠标右键,光标移动至copy处,可显现几种不同表达的copy路径。
- 有了对网页的理解便可以入手学习爬虫的编写了,要获取网页,首先需要向网页发出一个请求信号,即requests函数,访问成功后可得网页的数据,例如访问简书网并获取数据
jianshu_url = 'http://www.jianshu.com/'
data = requests.get(jianshu_url)
而后用bs4包中的BeautifulSoup函数对网页数据进行解析, 并得到相应的网页源代码:
soup = BeautifulSoup(data.text, 'lxml')
然后就可以有所需数据的路径从中获取需要的信息,如获取简书用户的昵称:
authors = soup.select('div.name > a')
for author in authors :
author=author.get_text
print (author)
参考教学视频链接http://study.163.com/course/courseMain.htm?courseId=1002810012
Python 爬虫入门(一)
猜你喜欢
转载自blog.csdn.net/rodger_snow/article/details/78075949
今日推荐
周排行