Scrapy-Redis-Jobbole

(★ 8)

使用scrapy-redis实现分布式爬虫,爬取伯乐在线所有文章,集成bloomfilter对url进行去重,并基于Twisted将MySQL插入变成异步执行

Scrapy-Redis-Jobbole 최신버젼 다운로드

최종 버전 다운로드 (.zip)
// repository documentation