python网络爬虫和java爬虫有什么区别

Question

python网络爬虫和java爬虫有什么区别

Answer 1

爬虫目前主要开发语言为java、Python、c++对于一般的信息采集需要，各种语言差别不大。c、c++搜索引擎无一例外使用C\C++ 开发爬虫，猜想搜索引擎爬虫采集的网站数量巨大，对页面的解析要求不高，部分支持javascriptpython网络功能强大，模拟登陆、解析javascript，短处是网页解析python写起程序来真的很便捷，著名的python爬虫有scrapy等javajava有很多解析器，对网页的解析支持很好，缺点是网络部分java开源爬虫非常多，著名的如 nutch 国内有webmagicjava优秀的解析器有htmlparser、jsoup对于一般性的需求无论java还是python都可以胜任。如需要模拟登陆、对抗防采集选择python更方便些，如果需要处理复杂的网页，解析网页内容生成结构化数据或者对网页内容精细的解析则可以选择java。