Scrapy 是一套基于基于Twisted的异步处理框架，纯python实现的爬虫框架，用户只需要定制开发几个模块就可以轻松的实现一个爬虫，用来抓取网页内容以及各种图片，非常之方便。 架构 Scrapy Engine(引...
iWebCrawler 百度谷歌搜索爬虫加速工具(iWebCrawler 搜索爬虫加速工具) iWebCrawler搜索爬虫加速工具提供常见搜索引擎日志分析(重点是百度爬虫)；可根据网站提供的符合格式的百度sitemap网站地图，把每...
Nutch的创始人是Doug Cutting，他同时也是Lucene、Hadoop和Avro开源项目的创始人。 Nutch诞生于2002年8月，是Apache旗下的一个用Java实现的开源搜索引擎项目，自Nutch1.2版本之后，Nutch已经从搜索引擎演化为网..
webmagic是一个开源的Java垂直爬虫框架，目标是简化爬虫的开发流程，让开发者专注于逻辑功能的开发。webmagic的核心非常简单，但是覆盖爬虫的整个流程，也是很好的学习爬虫开发的材料。 webmag...
