解决爬取京东商品时只显示前30个商品的问题

京东商品一页有60个商品,但用爬虫获取网址时,却发现只能获取前30条,分享一下我的解决方法

本文需要的工具(chrome,chromedriver,pycharm)

出现这个问题的原因是,打开页面时,后30个商品并没有加载出来,只需要向下滑动,后面的内容就会加载出来

通过selenium模拟浏览器打开网址,然后模拟下滑,就可以获得所有的商品链接

webdriver.execute_script("window.scrollTo(0,document.body.scrollHeight)")

这里需要注意的是,一定要先下滑再去获取网页内容,不然下滑是没有意义的。

猜你喜欢

转载自blog.csdn.net/fuzizhu1/article/details/103192239