写在前面
最近接到某网站的爬虫需求,因为客户与目标网站是通过协议获取的账号,所以不希望从接口获取数据,而网页源代码无法获取完整的canvas数据,怎么办呢,需求还是得做。
实现思路
后来发现,echarts是动态图表,当鼠标移动到某处时,会高亮该处数据,并实时更改某个div的text内容,观察network接口,没有新的请求(也不可能有),说明数据已经存储在某个js变量里了,我就去瞅了一下echarts渲染数据时使用的函数:
var chart = echarts.init(document.getElementById("map"+Id),'write',{renderer:'canvas'});
/*...*/
chart.setOption(result.data);
这是本站疫情可视化地图渲染时使用的代码,result.data
里是原始数据,调用的是setOption方法。
F12打开Chrome控制台,输入echarts,可以看到这个函数具体内容,然后依葫芦画瓢,找到与目标图表关联的div,用echarts包装一下:
var chart = echarts.init(document.getElementById("map1"));
然后在chart里面找到了getOption
方法,好,跟setOption
方法对上了,那就执行一下:
chart.getOption()
接着可以点击属性看看内容了,最后找到了series[0].data
,也就是这样的:
chart.getOption().series[0].data
这里面保存了原始数据,跟从接口里面获取到的一样,如果需要图例之类的,在周围找找就好啦,over~
九折水瓶?
over是不可能over的~
如果用python来获取,就要用到selenium的执行js功能,首先用driver打开目标页面(这一段就自己来吧),然后执行如下代码:
js = """
var chart = this.window.echarts.init(document.getElementById("{}"));
var data = chart.getOption().series[0].data;
return data;
"""
# format里面写echarts关联div的id
data = driver.execute_script(js.format("map1"))
print(data)
就可以拿到数据了。