Python爬js加载的页面数据,已试过selenium可用,求其他高效方法?

问题:爬虫某小茶叶电商平台网网站的商品数据
网址: http://donghetea.com/category...频道:行情参考)

爬虫计划>
1、在类目下,获取所有商品的url(已获取行情参考下所有商品url链接)
2、请求每个url,爬取详细的产品年份,规格,价格等。
目前遇到问题~看到商品资料是用js加载。

工具:用python3 requests 和beautifulsoup 解析 
无法解析产品url里面js加载的产品信息 
我用了下下策,用selenium来模拟打开浏览器,再用beautfulsoup解析获取商品详情页面里的资料。
但是效率太低了,想请教是否有更好的方法~

https://img4.mukewang.com/5bb03c2e0001b39608080492.jpg

试过抓包,但是因为太菜,没找到api。

沧海一幻觉
浏览 948回答 1
1回答
打开App,查看更多内容
随时随地看视频慕课网APP

相关分类

JavaScript