声明:
本文章中所有内容仅供学习交流使用,不用于其他任何目的,抓包内容、敏感网址、数据接口等均已做脱敏处理,严禁用于商业用途和非法用途,否则由此产生的一切后果均与作者无关!
有相关问题请第一时间头像私信联系我删除博客!
前言
globalsources的html比较特殊,有很多数据是很分散的。刚开始用的lxml后面发现是一个自执行所以果断改成execjs发现解析太复杂改用py_mini_racer 就是处理报错过程很烦简单说一下怎么处理。
reese84
这部分就略过了
主要代码
可以通过读取文件的方式获取数据。
# -*-coding:utf-8 -*-
from py_mini_racer import py_mini_racer
ctx = py_mini_racer.MiniRacer()
with open('py_mini_racer.js','r',encoding='utf-8') as fp:
result = ctx.eval(fp.read())
result = ctx.call('run',1,2,3)
print(result)
可以直接call eval这种方式。具体需要看你们设计思路。我选择的是第二种。第一种消耗性能过大同时简历不要频繁创建销毁这个这样也会导致性能损失性能。经过我实测1000个请求。execjs耗时2分30秒。ctx 30秒左右。创建py_mini_racer v8引擎占据14-15秒。etree大概3分30秒
结果
经过这么处理就可以直接提取页面上的数据了。数据全不全不知道明天起来在一个个看。