大众点评详情页电话的反爬对策

两天前大众点评详情页的电话一栏还是以明文数字的形式渲染到的html页面上，爬取也很简单,这里我用的是requests库和pyquery库对页面进行爬取和分析

import requestsfrom pyquery import PyQuery as pq

res = requests.get(theurl,headers=headers)
pqPrice = pq(res.text)
phone = pqPrice('#basic-info')('.expand-info.tel').text()

但是今天重新爬取时发现大众点评修改了策略

不使用明文号码，而是将每个数字变成span用样式显示成原来的数字，通过对比发现，1依旧使用明文，其他每个样式对应的数字如下,

num = {    'fn-Xgcz': 0,    'fn-OeNo': 2,    'fn-dykL': 3,    'fn-uRoy': 4,    'fn-UQqq': 5,    'fn-eKMG': 6,    'fn-dyBl': 7,    'fn-JaiW': 8,    'fn-vbpK': 9
}

这样我们再多一步对比替换就可以重新获取到详情页中的电话

res = requests.get(theurl, headers=headers)
pqPrice = pq(res.text)
phone = str(pqPrice('#basic-info')('.expand-info.tel'))

a = phone.replace('   1', '<span class="fn-kong"/>')
b = a.replace('1', '<span class="1"/>')
c = pq(b)
tel = c('span').items()
number = ''for i in tel:
  attr = i.attr('class')  if attr in num:
    attr = num[attr]
  number += str(attr)print(number)

最后得到的number就是原来的电话号码

作者：raphah
链接：https://www.jianshu.com/p/ba4d8da1c6b2